JP4596227B2 - 通信装置および方法、通信システム、記録媒体、並びにプログラム - Google Patents

通信装置および方法、通信システム、記録媒体、並びにプログラム Download PDF

Info

Publication number
JP4596227B2
JP4596227B2 JP2001195592A JP2001195592A JP4596227B2 JP 4596227 B2 JP4596227 B2 JP 4596227B2 JP 2001195592 A JP2001195592 A JP 2001195592A JP 2001195592 A JP2001195592 A JP 2001195592A JP 4596227 B2 JP4596227 B2 JP 4596227B2
Authority
JP
Japan
Prior art keywords
foreground
image
pixel
background
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001195592A
Other languages
English (en)
Other versions
JP2003016455A5 (ja
JP2003016455A (ja
Inventor
哲二郎 近藤
貴志 沢尾
淳一 石橋
隆浩 永野
直樹 藤原
徹 三宅
成司 和田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2001195592A priority Critical patent/JP4596227B2/ja
Application filed by Sony Corp filed Critical Sony Corp
Priority to DE60235730T priority patent/DE60235730D1/de
Priority to DE60234030T priority patent/DE60234030D1/de
Priority to EP02743725A priority patent/EP1400927B1/en
Priority to DE60236703T priority patent/DE60236703D1/de
Priority to KR1020037002821A priority patent/KR100886618B1/ko
Priority to CA2420029A priority patent/CA2420029C/en
Priority to PCT/JP2002/006386 priority patent/WO2003003308A1/ja
Priority to MXPA03001701A priority patent/MXPA03001701A/es
Priority to SG200600162-2A priority patent/SG135971A1/en
Priority to EP20070016437 priority patent/EP1865720B1/en
Priority to US10/362,725 priority patent/US7619655B2/en
Priority to CNB2005100990680A priority patent/CN100366060C/zh
Priority to EP20080019438 priority patent/EP2026579B1/en
Priority to CNB028027213A priority patent/CN1251149C/zh
Publication of JP2003016455A publication Critical patent/JP2003016455A/ja
Publication of JP2003016455A5 publication Critical patent/JP2003016455A5/ja
Priority to US12/544,717 priority patent/US8164638B2/en
Application granted granted Critical
Publication of JP4596227B2 publication Critical patent/JP4596227B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21—Server components or server architectures
    • H04N21/222—Secondary servers, e.g. proxy server, cable television Head-end
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00—General purpose image data processing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/215—Motion-based segmentation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/127—Prioritisation of hardware or computational resources
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/162—User input
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2347—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving video stream encryption
    • H04N21/23473—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving video stream encryption by pre-encrypting
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2347—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving video stream encryption
    • H04N21/23476—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving video stream encryption by partially encrypting, e.g. encrypting the ending portion of a movie
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/254—Management at additional data server, e.g. shopping server, rights management server
    • H04N21/2541—Rights Management
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/254—Management at additional data server, e.g. shopping server, rights management server
    • H04N21/2543—Billing, e.g. for subscription services
    • H04N21/25435—Billing, e.g. for subscription services involving characteristics of content or additional data, e.g. video resolution or the amount of advertising
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/258—Client or end-user data management, e.g. managing client capabilities, user preferences or demographics, processing of multiple end-users preferences to derive collaborative data
    • H04N21/25866—Management of end-user data
    • H04N21/25875—Management of end-user data involving end-user authentication
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/266—Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
    • H04N21/26613—Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel for generating or managing keys in general
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/454—Content or additional data filtering, e.g. blocking advertisements
    • H04N21/4542—Blocking scenes or portions of the received content, e.g. censoring scenes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/454—Content or additional data filtering, e.g. blocking advertisements
    • H04N21/4545—Input to filtering algorithms, e.g. filtering a region of the image
    • H04N21/45455—Input to filtering algorithms, e.g. filtering a region of the image applied to a region of the image
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/462—Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
    • H04N21/4627—Rights management associated to the content
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47—End-user applications
    • H04N21/475—End-user interface for inputting end-user data, e.g. personal identification number [PIN], preference data
    • H04N21/4753—End-user interface for inputting end-user data, e.g. personal identification number [PIN], preference data for user identification, e.g. by entering a PIN or password
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/61—Network physical structure; Signal processing
    • H04N21/6106—Network physical structure; Signal processing specially adapted to the downstream path of the transmission network
    • H04N21/6125—Network physical structure; Signal processing specially adapted to the downstream path of the transmission network involving transmission via Internet
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/61—Network physical structure; Signal processing
    • H04N21/6156—Network physical structure; Signal processing specially adapted to the upstream path of the transmission network
    • H04N21/6175—Network physical structure; Signal processing specially adapted to the upstream path of the transmission network involving transmission via Internet
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63—Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/633—Control signals issued by server directed to the network components or client
    • H04N21/6332—Control signals issued by server directed to the network components or client directed to client
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63—Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/633—Control signals issued by server directed to the network components or client
    • H04N21/6332—Control signals issued by server directed to the network components or client directed to client
    • H04N21/6334—Control signals issued by server directed to the network components or client directed to client for authorisation, e.g. by transmitting a key
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63—Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/643—Communication protocols
    • H04N21/64322—IP
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/65—Transmission of management data between client and server
    • H04N21/654—Transmission by server directed to the client
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/835—Generation of protective data, e.g. certificates
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/835—Generation of protective data, e.g. certificates
    • H04N21/8352—Generation of protective data, e.g. certificates involving content or source identification data, e.g. Unique Material Identifier [UMID]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85—Assembly of content; Generation of multimedia applications
    • H04N21/858—Linking data to content, e.g. by linking an URL to a video object, by creating a hotspot
    • H04N21/8586—Linking data to content, e.g. by linking an URL to a video object, by creating a hotspot by using a URL

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Computer Security & Cryptography (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Computer Graphics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Processing Or Creating Images (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Studio Circuits (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Description

【０００１】
【発明の属する技術分野】
本発明は、通信装置および方法、通信システム、記録媒体、並びにプログラムに関し、ネットワークの複数のサーバで分散して、画像の加工処理を実行することにより、その処理速度を向上させると共に、分散して処理することにより、使用者により必要とされる処理だけを実行できるようにすることで、そのサービスに係るコストを低減させるようにした通信装置および方法、通信システム、記録媒体、並びにプログラムに関する。
【０００２】
【従来の技術】
ネットワークを介して使用者の所望とする画像を合成する技術が一般に普及しつつある。
【０００３】
このような合成画像は、使用者がネットワーク上の蓄積サーバなどに蓄積された画像を指定したり、自らがデジタルスチルカメラなどで撮像した画像などの、複数の既存の画像を重ね合わせ、接合するといった処理により生成されたり、テクスチャマッピングにより合成されて、生成されていた。
【０００４】
【発明が解決しようとする課題】
しかしながら、上述のような手法により生成される合成画像は、例えば、動きのある物体を撮像する際に生じる、いわゆる、動きボケの調整などができないため、結果として精度の低い合成処理を実行することしかできず、見た目にも不自然な合成画像を生成することしかできないと言う課題があった。
【０００５】
また、これらの処理を一括して所定の処理用のサーバで実行させようとすると、その処理に時間がかかるとともに、例えば、同じ背景画像を重ね合わせるにも関わらず、合成しようとする画像の数と同じ回数だけ処理が繰り返されることになり、その処理に時間がかかるとともに、処理時間により課金されるようなサービスであったときには、使用者の負担額も大きくなってしまうという課題があった。
【０００６】
本発明はこのような状況に鑑みてなされたものであり、上述の画像合成処理をネットワークの複数のサーバで分散して処理することにより、その処理速度を向上させると共に、分散して処理することにより、使用者により必要とされる処理だけを実行できるようにすることで、そのサービスに係るコストを低減させるものである。
【０００７】
【課題を解決するための手段】
本発明の一側面の通信装置は、画素毎に、かつ、時間的に積分された画像を構成する光の量に応じて決定される画素値からなる画像データの各画素値を時間方向に展開するモデルに基づいて、画像データの前景オブジェクトを構成する前景オブジェクト成分からなる前景領域、画像データの背景オブジェクトを構成する背景オブジェクト成分からなる背景領域、または、前景領域と背景領域が混合された混合領域のいずれかを識別する領域情報を生成する領域情報生成手段と、画像データの各画素値を時間方向に展開するモデルに基づいて、混合領域の画素毎の前景領域と背景領域が混合された比率を示す混合比を生成する混合比生成手段と、領域情報、および混合比に基づいて、画像データを前景オブジェクトを構成する前景オブジェクト成分からなる前景成分画像と、背景オブジェクトを構成する背景オブジェクト成分からなる背景成分画像に分離する分離手段と、所定の画像データ、または所定の画像データを識別する識別子と、所定の画像データを前景成分画像、および背景成分画像に分離されるとき生成される、領域情報、混合比、前景成分画像、および背景成分画像を含む所定の画像データの符号化データの全て、またはいずれかを要求する、使用者の要求情報とを入力する要求情報入力手段と、要求情報入力手段により入力された要求情報に基づいて、分離手段により所定の画像データ、または、識別子に対応する所定の画像データが前景成分画像と背景成分画像に分離されるとき生成される、符号化データのうち、要求情報に対応する情報を出力する符号化データ出力手段と、要求情報に応じて、課金サーバに対して課金処理を実行する課金手段とを備え、符号化データ出力手段は、要求情報入力手段により入力された要求情報と、画像データ、または画像データを識別する識別子に基づいて、分離手段により画像データ、または、識別子に対応する画像データが前景成分画像と背景成分画像に分離されるとき、生成される符号化データに含まれる情報のうち、要求情報で要求される情報を、課金手段により課金処理が完了した後、使用者にのみ取得可能な方法で出力することを特徴とする。
【０００８】
前記要求情報に応じて、課金処理を実行する課金手段をさらに設けるようにさせることができる。
【０００９】
前記課金手段には、要求情報に応じて使用者の識別子、通信装置の識別子、および、要求情報に対応する金額情報を含む課金情報を生成し、課金情報に基づいて、使用者の金融口座に対して課金処理を実行させるようにすることができる。
【００１０】
前記課金処理に使用される使用者毎のポイントを記憶するポイント記憶手段をさらに設けるようにさせることができ、課金手段には、要求情報に応じて使用者の識別子、通信装置の識別子、および、符号化データに対応する金額情報を含む課金情報を生成し、ポイント記憶手段に記憶されたポイント数を金額情報に対応する分だけ減算することにより課金処理を実行させるようにすることができる。
【００１１】
前記符号化データ出力手段には、課金手段により課金処理が完了した後、使用者にのみ取得可能な方法で符号化データを出力させるようにすることができる。
【００１２】
前記要求情報入力手段には、使用者の要求情報に加えて、所定の画像データを入力し、符号化データ出力手段には、要求情報入力手段により入力された要求情報と、所定の画像データに基づいて、分離手段により所定の画像が前景成分画像と背景成分画像に分離されるとき生成される有意情報としての符号化データを、課金手段により課金処理が完了した後、使用者にのみ取得可能な方法で出力させるようにすることができる。
【００１３】
前記所定の画像データの前景オブジェクトを構成する前景オブジェクト成分からなる前景領域、所定の画像データの背景オブジェクトを構成する背景オブジェクト成分からなる背景領域、または、前景領域と背景領域が混合された混合領域のいずれかを識別する領域情報を生成する領域情報生成手段をさらに設けるようにさせることができ、有意情報には、領域情報を含ませ、符号化データ出力手段には、要求情報入力手段により入力された要求情報と、所定の画像データに基づいて、分離手段により所定の画像が前景成分画像と背景成分画像に分離されるとき、生成される領域情報としての符号化データを、課金手段により課金処理が完了した後、使用者にのみ取得可能な方法で出力させるようにすることができる。
【００１４】
前記所定の画像データの混合領域の前景領域と背景領域が混合された比率を示す混合比を生成する混合比生成手段をさらに設けるようにさせることができ、有意情報には、混合比を含み、符号化データ出力手段は、要求情報入力手段により入力された要求情報と、所定の画像データに基づいて、分離手段により所定の画像が前景成分画像と背景成分画像に分離されるとき、生成される混合比としての符号化データを、課金手段により課金処理が完了した後、使用者にのみ取得可能な方法で出力させるようにすることができる。
【００１５】
前記分離手段には、画素毎に、かつ、時間的に積分された所定の画像を構成する光の量に応じて決定される画素値からなる所定の画像データを、領域情報、および、混合比に基づいて、前景オブジェクトを構成する前景オブジェクト成分からなる前景成分画像と、背景オブジェクトを構成する背景オブジェクト成分からなる背景成分画像に分離させ、有意情報には、前景成分画像と背景成分画像を含ませ、符号化データ出力手段には、要求情報入力手段により入力された要求情報と、分離手段により所定の画像が前景成分画像と背景成分画像に分離されるとき、生成される前景成分画像と背景成分画像としての符号化データを、課金手段により課金処理が完了したとき、使用者にのみ取得可能な方法で出力させるようにすることができる。
【００１６】
前記入力手段には、使用者の要求情報に加えて、所定の画像データを識別する画像データ識別子を入力させ、符号化データ出力手段には、要求情報入力手段により入力された要求情報と、画像データ識別子に対応する所定の画像データに基づいて、分離手段により所定の画像が前景成分画像と背景成分画像に分離されるとき生成される有意情報としての符号化データを、課金手段により課金処理が完了した後、使用者にのみ取得可能な方法で出力させるようにすることができる。
【００１７】
前記画像データ識別子に対応する所定の画像データの前景オブジェクトを構成する前景オブジェクト成分からなる前景領域、画像データ識別子に対応する所定の画像データの背景オブジェクトを構成する背景オブジェクト成分からなる背景領域、または、前景領域と背景領域が混合された混合領域のいずれかを識別する領域情報を生成する領域情報生成手段をさらに設けるようにさせることができ、有意情報には、領域情報を含ませ、符号化データ出力手段には、要求情報入力手段により入力された要求情報と、所定の画像データに基づいて、分離手段により所定の画像が前景成分画像と背景成分画像に分離されるとき、生成される領域情報としての符号化データを、課金手段により課金処理が完了した後、使用者にのみ取得可能な方法で出力させるようにすることができる。
【００１８】
前記画像データ識別子に対応する所定の画像データ中の混合領域の混合比を生成する混合比生成手段をさらに設けるようにさせることができ、有意情報には、混合比を含ませ、符号化データ出力手段には、要求情報入力手段により入力された要求情報と、画像データ識別子に対応する所定の画像データに基づいて、分離手段により所定の画像が前景成分画像と背景成分画像に分離されるとき、生成される混合比としての符号化データを、課金手段により課金処理が完了した後、使用者にのみ取得可能な方法で出力させるようにすることができる。
【００１９】
前記分離手段には、画素毎に、かつ、時間的に積分された所定の画像を構成する光の量に応じて決定される画素値からなる所定の画像データを、領域情報、および、混合比に基づいて、前景オブジェクトを構成する前景オブジェクト成分からなる前景成分画像と、背景オブジェクトを構成する背景オブジェクト成分からなる背景成分画像に分離させ、有意情報には、前景成分画像と背景成分画像を含ませ、符号化データ出力手段には、要求情報入力手段により入力された要求情報と、分離手段により所定の画像が前景成分画像と背景成分画像に分離されるとき、生成される前景成分画像と背景成分画像としての符号化データを、課金手段により課金処理が完了したとき、使用者にのみ取得可能な方法で出力させるようにすることができる。
【００２０】
本発明の一側面の通信方法は、画素毎に、かつ、時間的に積分された画像を構成する光の量に応じて決定される画素値からなる画像データの各画素値を時間方向に展開するモデルに基づいて、画像データの前景オブジェクトを構成する前景オブジェクト成分からなる前景領域、画像データの背景オブジェクトを構成する背景オブジェクト成分からなる背景領域、または、前景領域と背景領域が混合された混合領域のいずれかを識別する領域情報を生成する領域情報生成ステップと、画像データの各画素値を時間方向に展開するモデルに基づいて、混合領域の画素毎の前景領域と背景領域が混合された比率を示す混合比を生成する混合比生成ステップと、領域情報、および混合比に基づいて、画像データを、前景オブジェクトを構成する前景オブジェクト成分からなる前景成分画像と、背景オブジェクトを構成する背景オブジェクト成分からなる背景成分画像に分離する分離ステップと、所定の画像データ、または所定の画像データを識別する識別子と、所定の画像データを前景成分画像、および背景成分画像に分離されるとき生成される、領域情報、混合比、前景成分画像、および背景成分画像を含む所定の画像データの符号化データの全て、またはいずれかを要求する、使用者の要求情報とを入力する要求情報入力ステップと、要求情報入力ステップの処理で入力された要求情報に基づいて、分離ステップの処理により所定の画像データ、または、識別子に対応する所定の画像データが前景成分画像と背景成分画像に分離されるとき生成される、符号化データのうち、要求情報に対応する情報を出力する符号化データ出力ステップと、要求情報に応じて、課金サーバに対して課金処理を実行する課金ステップとを含み、符号化データ出力ステップの処理は、要求情報入力ステップの処理により入力された要求情報と、画像データ、または画像データを識別する識別子に基づいて、分離ステップの処理により画像データ、または、識別子に対応する画像データが前景成分画像と背景成分画像に分離されるとき、生成される符号化データに含まれる情報のうち、要求情報で要求される情報を、課金ステップの処理により課金処理が完了した後、使用者にのみ取得可能な方法で出力することを特徴とする。
【００２１】
本発明の一側面の記録媒体のプログラムは、画素毎に、かつ、時間的に積分された画像を構成する光の量に応じて決定される画素値からなる画像データの各画素値を時間方向に展開するモデルに基づいて、画像データの前景オブジェクトを構成する前景オブジェクト成分からなる前景領域、画像データの背景オブジェクトを構成する背景オブジェクト成分からなる背景領域、または、前景領域と背景領域が混合された混合領域のいずれかを識別する領域情報の生成を制御する領域情報生成制御ステップと、画像データの各画素値を時間方向に展開するモデルに基づいて、混合領域の画素毎の前景領域と背景領域が混合された比率を示す混合比の生成を制御する混合比生成制御ステップと、領域情報、および混合比に基づいて、画像データの、前景オブジェクトを構成する前景オブジェクト成分からなる前景成分画像と、背景オブジェクトを構成する背景オブジェクト成分からなる背景成分画像との分離を制御する分離制御ステップと、所定の画像データ、または所定の画像データを識別する識別子と、所定の画像データを前景成分画像、および背景成分画像に分離されるとき生成される、領域情報、混合比、前景成分画像、および背景成分画像を含む所定の画像データの符号化データの全て、またはいずれかを要求する、使用者の要求情報との入力を制御する要求情報入力制御ステップと、要求情報入力制御ステップの処理で入力された要求情報に基づいて、分離制御ステップの処理により所定の画像データ、または、識別子に対応する所定の画像データが前景成分画像と背景成分画像に分離されるとき生成される、符号化データのうち、要求情報に対応する情報の出力を制御する符号化データ出力制御ステップと、要求情報に応じて、課金サーバに対して課金処理の実行を制御する課金制御ステップとを含む処理をコンピュータに実行させ、符号化データ出力制御ステップの処理は、要求情報入力制御ステップの処理により入力された要求情報と、画像データ、または画像データを識別する識別子に基づいて、分離制御ステップの処理により画像データ、または、識別子に対応する画像データが前景成分画像と背景成分画像に分離されるとき、生成される符号化データに含まれる情報のうち、要求情報で要求される情報を、課金制御ステップの処理により課金処理が完了した後、使用者にのみ取得可能な方法で出力することを特徴とする。
【００２２】
本発明の一側面のプログラムは、使用者の要求情報の入力を制御する要求情報入力制御ステップと、画素毎に、かつ、時間的に積分された画像を構成する光の量に応じて決定される画素値からなる画像データの各画素値を時間方向に展開するモデルに基づいて、画像データの前景オブジェクトを構成する前景オブジェクト成分からなる前景領域、画像データの背景オブジェクトを構成する背景オブジェクト成分からなる背景領域、または、前景領域と背景領域が混合された混合領域のいずれかを識別する領域情報の生成を制御する領域情報生成制御ステップと、画像データの各画素値を時間方向に展開するモデルに基づいて、混合領域の画素毎の前景領域と背景領域が混合された比率を示す混合比を生成する混合比生成ステップと、領域情報、および混合比に基づいて、画像データの、前景オブジェクトを構成する前景オブジェクト成分からなる前景成分画像と、背景オブジェクトを構成する背景オブジェクト成分からなる背景成分画像との分離を制御する分離制御ステップと、所定の画像データ、または所定の画像データを識別する識別子と、所定の画像データを前景成分画像、および背景成分画像に分離されるとき生成される、領域情報、混合比、前景成分画像、および背景成分画像を含む所定の画像データの符号化データの全て、またはいずれかを要求する、使用者の要求情報との入力を制御する要求情報入力制御ステップと、要求情報入力制御ステップの処理で入力された要求情報に基づいて、分離制御ステップの処理により所定の画像データ、または、識別子に対応する所定の画像データが前景成分画像と背景成分画像に分離されるとき生成される符号化データのうち、要求情報に対応する情報の出力を制御する符号化データ出力制御ステップと、要求情報に応じて、課金サーバに対して課金処理の実行を制御する課金制御ステップとを含む処理をコンピュータに実行させ、符号化データ出力制御ステップの処理は、要求情報入力制御ステップの処理により入力された要求情報と、画像データ、または画像データを識別する識別子に基づいて、分離制御ステップの処理により画像データ、または、識別子に対応する画像データが前景成分画像と背景成分画像に分離されるとき、生成される符号化データに含まれる情報のうち、要求情報で要求される情報を、課金制御ステップの処理により課金処理が完了した後、使用者にのみ取得可能な方法で出力することを特徴とする。
【００２３】
本発明の一側面のシステムは、第１の通信装置は、画素毎に、かつ、時間的に積分された画像を構成する光の量に応じて決定される画素値からなる画像データの各画素値を時間方向に展開するモデルに基づいて、画像データの前景オブジェクトを構成する前景オブジェクト成分からなる前景領域、画像データの背景オブジェクトを構成する背景オブジェクト成分からなる背景領域、または、前景領域と背景領域が混合された混合領域のいずれかを識別する領域情報を生成する領域情報生成手段と、画像データの各画素値を時間方向に展開するモデルに基づいて、混合領域の画素毎の前景領域と背景領域が混合された比率を示す混合比を生成する混合比生成手段と、領域情報、および混合比に基づいて、画像データを前景オブジェクトを構成する前景オブジェクト成分からなる前景成分画像と、背景オブジェクトを構成する背景オブジェクト成分からなる背景成分画像に分離する分離手段と、所定の画像データ、または所定の画像データを識別する識別子と、所定の画像データを前景成分画像、および背景成分画像に分離されるとき生成される、領域情報、混合比、前景成分画像、および背景成分画像を含む所定の画像データの符号化データの全て、またはいずれかを要求する、使用者の要求情報とを受信する要求情報受信手段と、要求情報受信手段により受信された要求情報に基づいて、分離手段により所定の画像データ、または、識別子に対応する所定の画像データが前景成分画像と背景成分画像に分離されるとき生成される、符号化データのうち、要求情報に対応する情報を第２の通信装置に送信する符号化データ送信手段と、要求情報に応じて、課金サーバに対して課金処理を実行する課金手段とを備え、符号化データ送信手段は、要求情報受信手段により受信された要求情報と、画像データ、または画像データを識別する識別子に基づいて、分離手段により画像データ、または、識別子に対応する画像データが前景成分画像と背景成分画像に分離されるとき、生成される符号化データに含まれる情報のうち、要求情報で要求される情報を、課金手段により課金処理が完了した後、使用者にのみ取得可能な方法で送信し、第２の通信装置は、要求情報、並びに、画像データ、または識別子を入力する要求情報入力手段と、要求情報入力手段により入力された要求情報、並びに、画像データ、または識別子を第１の通信装置に送信する要求情報送信手段と、第１の通信装置より送信されてくる、要求情報に対応する、画像データに基づいて生成される符号化データを受信する符号化データ受信手段とを備えることを特徴とする。
【００５１】
本発明の一側面においては、画素毎に、かつ、時間的に積分された画像を構成する光の量に応じて決定される画素値からなる画像データの各画素値を時間方向に展開するモデルに基づいて、画像データの前景オブジェクトを構成する前景オブジェクト成分からなる前景領域、画像データの背景オブジェクトを構成する背景オブジェクト成分からなる背景領域、または、前景領域と背景領域が混合された混合領域のいずれかを識別する領域情報が生成され、画像データの各画素値を時間方向に展開するモデルに基づいて、混合領域の画素毎の前景領域と背景領域が混合された比率を示す混合比が生成され、領域情報、および混合比に基づいて、画像データが前景オブジェクトを構成する前景オブジェクト成分からなる前景成分画像と、背景オブジェクトを構成する背景オブジェクト成分からなる背景成分画像に分離され、所定の画像データ、または所定の画像データを識別する識別子と、所定の画像データを前景成分画像、および背景成分画像に分離されるとき生成される、領域情報、混合比、前景成分画像、および背景成分画像を含む所定の画像データの符号化データの全て、またはいずれかを要求する、使用者の要求情報とが入力され、入力された要求情報に基づいて、所定の画像データ、または、識別子に対応する所定の画像データが前景成分画像と背景成分画像に分離されるとき生成される、符号化データのうち、要求情報に対応する情報が出力され、要求情報に応じて、課金サーバに対して課金処理が実行され、入力された要求情報と、画像データ、または画像データを識別する識別子に基づいて、画像データ、または、識別子に対応する画像データが前景成分画像と背景成分画像に分離されるとき、生成される符号化データに含まれる情報のうち、要求情報で要求される情報が、課金処理が完了した後、使用者にのみ取得可能な方法で出力される。
【００５２】
本発明の第２の側面においては、第１の通信装置により、画素毎に、かつ、時間的に積分された画像を構成する光の量に応じて決定される画素値からなる画像データの各画素値を時間方向に展開するモデルに基づいて、画像データの前景オブジェクトを構成する前景オブジェクト成分からなる前景領域、画像データの背景オブジェクトを構成する背景オブジェクト成分からなる背景領域、または、前景領域と背景領域が混合された混合領域のいずれかを識別する領域情報が生成され、画像データの各画素値を時間方向に展開するモデルに基づいて、混合領域の画素毎の前景領域と背景領域が混合された比率を示す混合比が生成され、領域情報、および混合比に基づいて、画像データが前景オブジェクトを構成する前景オブジェクト成分からなる前景成分画像と、背景オブジェクトを構成する背景オブジェクト成分からなる背景成分画像に分離され、所定の画像データ、または所定の画像データを識別する識別子と、所定の画像データが前景成分画像、および背景成分画像に分離されるとき生成される、領域情報、混合比、前景成分画像、および背景成分画像を含む所定の画像データの符号化データの全て、またはいずれかを要求する、使用者の要求情報とが受信され、受信された要求情報に基づいて、所定の画像データ、または、識別子に対応する所定の画像データが前景成分画像と背景成分画像に分離されるとき生成される、符号化データのうち、要求情報に対応する情報が第２の通信装置に送信され、要求情報に応じて、課金サーバに対して課金処理が実行され、受信された要求情報と、画像データ、または画像データを識別する識別子に基づいて、画像データ、または、識別子に対応する画像データが前景成分画像と背景成分画像に分離されるとき、生成される符号化データに含まれる情報のうち、要求情報で要求される情報が、課金処理が完了した後、使用者にのみ取得可能な方法で送信され、第２の通信装置により、要求情報、並びに、画像データ、または識別子が入力され、入力された要求情報、並びに、画像データ、または識別子が第１の通信装置に送信され、第１の通信装置より送信されてくる、要求情報に対応する、画像データに基づいて生成される符号化データが受信される。
【００５６】
【発明の実施の形態】
図１は、本発明に係る画像処理システムの一実施の形態を示す図である。
【００５７】
本発明の画像処理システムは、例えば、インターネットなどのネットワーク１上に分離処理サーバ１１、動き検出サーバ１２、領域特定サーバ１３、混合比算出サーバ１４、前景背景分離処理サーバ１５、動きボケ調整サーバ１６、符号化サーバ１７、蓄積サーバ１８−１，１８−２、合成サーバ１９、修正サーバ２０、購入サーバ２１、売却サーバ２２、検索サーバ２３、課金サーバ２４、金融サーバ（顧客用）２５、金融サーバ（提供者用）２６、クライアントコンピュータ２７、および、カメラ端末装置２８−１乃至２８−ｎが、接続されており相互にデータを授受できる構成となっている。分離処理サーバ１１、動き検出サーバ１２、領域特定サーバ１３、混合比算出サーバ１４、前景背景分離処理サーバ１５、動きボケ調整サーバ１６、符号化サーバ１７、合成サーバ１９、修正サーバ２０、購入サーバ２１、売却サーバ２２、検索サーバ２３、課金サーバ２４、金融サーバ（顧客用）２５、および、金融サーバ（提供者用）２６は、それぞれ分離サービス、動き検出サービス、領域特定サービス、混合比算出サービス、前景背景分離サービス、動きボケ調整サービス、符号化サービス、合成サービス、修正サービス、購入サービス、売却サービス、検索サービス、課金サービス、および、金融サービス（顧客用、および、提供者用）を提供する提供者により管理、または、運営されるサーバである。尚、以下の説明において、蓄積サーバ１８−１，１８−２、および、カメラ端末装置２８−１乃至２８−ｎを個々に区別する必要がないとき、単に蓄積サーバ１８、および、カメラ端末装置２８と称する。また、その他のサーバ、および、機器についても同様とする。
【００５８】
図２は、本発明に係る分離処理サーバ１１の構成を示す図である。CPU（Central Processing Unit）４１は、ROM（Read Only Memory）４２、または記憶部４８に記憶されているプログラムに従って各種の処理を実行する。RAM（Random Access Memory）４３には、CPU４１が実行するプログラムやデータなどが適宜記憶される。これらのCPU４１、ROM４２、およびRAM４３は、バス４４により相互に接続されている。
【００５９】
CPU４１にはまた、バス４４を介して入出力インタフェース４５が接続されている。入出力インタフェース４５には、キーボード、マウス、マイクロホンなどよりなる入力部４６、ディスプレイ、スピーカなどよりなる出力部４７が接続されている。CPU４１は、入力部４６から入力される指令に対応して各種の処理を実行する。そして、CPU４１は、処理の結果得られた画像や音声等を出力部４７に出力する。
【００６０】
入出力インタフェース４５に接続されている記憶部４８は、例えばハードディスクなどで構成され、CPU４１が実行するプログラムや各種のデータを記憶する。通信部４９は、インターネット、その他のネットワークを介して外部の装置と通信する。
【００６１】
また、通信部４９を介してプログラムを取得し、記憶部４８に記憶してもよい。
【００６２】
入出力インタフェース４５に接続されているドライブ５０は、磁気ディスク６１、光ディスク６２、光磁気ディスク６３、或いは半導体メモリ６４などが装着されたとき、それらを駆動し、そこに記録されているプログラムやデータなどを取得する。取得されたプログラムやデータは、必要に応じて記憶部４８に転送され、記憶される。
【００６３】
尚、動き検出サーバ１２、領域特定サーバ１３、混合比算出サーバ１４、前景背景分離処理サーバ１５、動きボケ調整サーバ１６、符号化サーバ１７、蓄積サーバ１８−１，１８−２、合成サーバ１９、修正サーバ２０、購入サーバ２１、売却サーバ２２、検索サーバ２３、課金サーバ２４、金融サーバ（顧客用）２５、金融サーバ（提供者用）２６、および、クライアントコンピュータ２７については、その基本構成が分離処理サーバ１１と同様であるので、その説明は省略する。
【００６４】
図３は、本発明に係るカメラ端末装置２８の構成を示す図である。カメラ端末装置２８の構成は、入力部７６にセンサ７６ａ、および、GPS（Global Positioning System）７６ｂが設けられ、出力部７７には、LCD（Liquid Crystal Display）７７ａが設けられている以外は、分離処理サーバ１１の構成と同じ構成となっている。すなわち、カメラ端末装置２８のCPU７１、ROM７２、RAM７３、バス７４、入出力インタフェース７５、入力部７６、出力部７７、記憶部７８、通信部７９、ドライブ８０、磁気ディスク９１、光ディスク９２、光磁気ディスク９３、および、半導体メモリ９４は、それぞれ分離処理サーバ１１のCPU４１、ROM４２、RAM４３、バス４４、入出力インタフェース４５、入力部４６、出力部４７、記憶部４８、通信部４９、ドライブ５０、磁気ディスク６１、光ディスク６２、光磁気ディスク６３、および、半導体メモリ６４に、それぞれ対応している。
【００６５】
センサ７６ａは、撮像素子であり撮像した画像を入力部７６に出力する。GPS７６ｂは、図示せぬ静止衛星より送信されてくる信号に基づいて、地球上の位置情報（緯度、および、経度）を検出し、その検出した位置情報を入力部７６に出力する。LCD７７ａは、出力部より出力される画像を表示する。
【００６６】
次に、図４，図５を参照して、分離処理サーバ１１について説明する。
【００６７】
分離処理サーバ１１は、図４で示すように、ネットワーク１を介して、例えば、クライアントコンピュータ２７などから入力される画像を後述する手法により、前景成分画像と背景成分画像に分離し、入力画像、前景成分画像、および、背景成分画像の各々にID（Identifier）を付して生成してクライアントコンピュータ２７に出力する、自らで記憶する、蓄積サーバ１８に出力して蓄積させる、または、ネットワーク上のその他のサーバに出力して記憶させる。ここで、前景成分画像とは、入力される画像中で動きの成分を有する画像を示し、背景成分画像とは、入力される画像中の動き成分を含まない静止部分の画像を示す。このとき、課金処理部１１ａは、ネットワーク１を介して課金サーバ２４に対して、分離処理に係る料金の課金処理を実行する。また、図５で示すように、分離処理サーバ１１は、画像の代わりに、画像を指定する画像IDが入力されると、ネットワーク１上の後述する検索サーバ２３や蓄積サーバ１８にアクセスしたり、自らの記憶部（例えば、図３の記憶部７８）を検索して、入力された画像IDに対応する画像データを読出し、前景成分画像と背景成分画像に分離した後、それぞれに対応するIDを付して、自らで記憶する、または、ネットワーク１上のその他のサーバに出力し、そのサーバに対応する処理を実行させる。
【００６８】
尚、以下の説明において、画像を指定する情報として画像IDを例として説明していくが、画像が指定できる情報であればよく、例えば、後述する画像位置情報であってもよい。
【００６９】
次に、図６，図７を参照して、動き検出サーバ１２について説明する。
【００７０】
図６で示すように、動き検出サーバ１２のオブジェクト抽出部１２ａは、例えば、クライアントコンピュータ２７などから入力される画像中の画像オブジェクトを抽出して、動き検出部１２ｂに出力する。動き検出部１２ｂは、入力された画像オブジェクトの動きベクトルと位置情報を検出してクライアントコンピュータ２７に出力する、自らで記憶する、または、ネットワーク１上のその他のサーバに出力し、そのサーバに対応する処理を実行させる。この際、課金処理部１２ｃは、ネットワーク１を介して課金サーバ２４に対して、各画像オブジェクト毎の動きベクトルと位置情報の検出の処理に係る料金の課金処理を実行する。尚、この明細書において、撮像の対象となる、現実世界におけるオブジェクトに対応する画像を、オブジェクトと称する。
【００７１】
また、図７で示すように、動き検出サーバ１２は、画像の代わりに、画像を指定する画像IDが入力されると、ネットワーク１上の後述する検索サーバ２３や蓄積サーバ１８にアクセスしたり、自らの記憶部（例えば、図３の記憶部７８）を検索して、入力された画像IDに対応する画像データを読出し、上記と同様の処理を実行する。
【００７２】
次に、図８，図９を参照して、領域特定サーバ１３について説明する。
【００７３】
領域特定サーバ１３は、図８で示すように、ネットワーク１を介して、例えば、クライアントコンピュータ２７などから入力される画像と、その画像中のオブジェクトを指定するオブジェクト指定情報により、入力された画像の画素のそれぞれを、前景領域、背景領域、または混合領域のいずれかに特定し、画素毎に前景領域、背景領域、または混合領域のいずれかに属するかを示す情報（以下、領域情報と称する）を生成し、クライアントコンピュータ２７に出力する、自らで記憶する、または、ネットワーク１上のその他のサーバに出力し、そのサーバに対応する処理を実行させる。このとき、課金処理部１３ａは、ネットワーク１を介して課金サーバ２４に対して、領域特定処理に係る料金の課金処理を実行する。また、図９で示すように、領域特定サーバ１３は、画像の代わりに、画像を指定する画像IDが入力されると、ネットワーク１上の後述する検索サーバ２３や蓄積サーバ１８にアクセスしたり、自らの記憶部（例えば、図３の記憶部７８）を検索して、入力された画像IDに対応する画像を呼び出し、その画像のオブジェクト指定情報に対応する領域情報を出力する。
【００７４】
次に、図１０，図１１を参照して、混合比算出サーバ１４について説明する。
【００７５】
混合比算出サーバ１４は、図１０で示すように、ネットワーク１を介して、例えば、クライアントコンピュータ２７などから入力される画像、その画像中のオブジェクトを指定するオブジェクト指定情報、および、領域情報に基づいて、混合領域に含まれる画素に対応する混合比（以下、混合比αと称する）を算出して、算出した混合比をクライアントコンピュータ２７に出力する、自らで記憶する、または、ネットワーク上のその他のサーバに出力し、そのサーバに対応する処理を実行させる。このとき、課金処理部１４ａは、ネットワーク１を介して課金サーバ２４に対して、混合比算出処理に係る料金の課金処理を実行する。また、図１１で示すように、混合比算出サーバ１４は、画像の代わりに、画像を指定する画像IDが入力されると、ネットワーク１上の後述する検索サーバ２３や蓄積サーバ１８にアクセスしたり、自らの記憶部（例えば、図３の記憶部７８）を検索して、入力された画像IDに対応する画像を呼び出し、上述と同様の処理を実行する。
【００７６】
次に、図１２，図１３を参照して、前景背景分離処理サーバ１５について説明する。
【００７７】
前景背景分離処理サーバ１５は、図１２で示すように、ネットワーク１を介して、例えば、クライアントコンピュータ２７などから入力される画像、その画像中のオブジェクトを指定するオブジェクト指定情報、領域情報、および、混合比αに基づいて、前景のオブジェクトに対応する画像の成分（以下、前景の成分とも称する）のみから成る前景成分画像と、背景の成分（以下、背景の成分とも称する）のみから成る背景成分画像とに入力画像を分離して、各画像毎にIDを付してクライアントコンピュータ２７に出力する、自らで記憶する、または、ネットワーク上のその他のサーバに出力し、そのサーバに対応する処理を実行させる。このとき、課金処理部１５ａは、ネットワーク１を介して課金サーバ２４に対して、前景背景分離処理に係る料金の課金処理を実行する。また、図１３で示すように、前景背景分離処理サーバ１５は、画像の代わりに、画像を指定する画像IDが入力されると、ネットワーク１上の後述する検索サーバ２３や蓄積サーバ１８にアクセスしたり、自らの記憶部（例えば、図３の記憶部７８）を検索して、入力された画像IDに対応する画像を呼び出して、上述と同様の処理を実行する。
【００７８】
次に、図１４，図１５を参照して、動きボケ調整サーバ１６について説明する。
【００７９】
動きボケ調整サーバ１６は、図１４で示すように、ネットワーク１を介して、例えば、クライアントコンピュータ２７などから入力される前景成分画像、動きベクトル、および、動きボケ量に基づいて、前景成分画像に含まれる動きボケを除去する、動きボケの量を減少させる、または動きボケの量を増加させるなど前景成分画像に含まれる動きボケの量を調整して、動きボケの量を調整した前景成分画像を生成し、画像毎にIDを付してクライアントコンピュータ２７に出力する、自らで記憶する、または、ネットワーク上のその他のサーバに出力し、そのサーバに対応する処理を実行させる。このとき、課金処理部１６ａは、ネットワーク１を介して課金サーバ２４に対して、動きボケ調整処理に係る料金の課金処理を実行する。また、図１５で示すように、動きボケ調整サーバ１６は、前景成分画像の代わりに、前景成分画像を指定する前景成分画像IDが入力されると、ネットワーク１上の後述する検索サーバ２３や蓄積サーバ１８にアクセスしたり、自らの記憶部（例えば、図３の記憶部７８）を検索して、入力された前景成分画像IDに対応する前景成分画像を呼び出して、上述と同様の処理を実行する。
【００８０】
次に、図１６，図１７を参照して、符号化サーバ１７について説明する。
【００８１】
符号化サーバ１７は、図１６で示すように、ネットワーク１を介して、例えば、クライアントコンピュータ２７などから入力される画像を前景成分画像と背景成分画像に分離し、それぞれにIDを付して、自らで記憶する、または、ネットワーク上のその他のサーバに出力して記憶させ、記憶させたそのサーバのURL（Universal Resource Locator）などの前景成分画像、および、背景成分画像が出力（記憶）されたサーバのネットワーク１上の位置を示す符号からなる前景成分画像位置情報、および、背景成分画像位置情報を生成し、それらの画像の動きベクトル、位置情報、および、混合比といった情報と共に出力する。また、符号化情報が出力する情報は、符号化情報、画像、および、画像および符号化情報のいずれであってもよく、必要に応じて出力する情報を変えることができる。また、このとき、課金処理部１７ａは、ネットワーク１を介して課金サーバ２４に対して、符号化処理に係る料金の課金処理を実行する。また、図１７で示すように、符号化サーバ１７は、画像の代わりに、画像を指定する画像IDが入力されると、ネットワーク１上の後述する検索サーバ２３や蓄積サーバ１８にアクセスしたり、自らの記憶部（例えば、図３の記憶部７８）を検索して、入力された画像IDに対応する画像を呼び出して、上述と同様の処理を実行する。
【００８２】
次に、図１８，図１９を参照して、蓄積サーバ１８について説明する。
【００８３】
蓄積サーバ１８は、図１８で示すように、ネットワーク１上に接続され、各種のサーバより送信されてくる画像を蓄積すると共に、蓄積させた画像に対応する画像位置情報を画像IDと共に出力する。この画像位置情報により、例えば、クライアントコンピュータ２７は、ネットワーク１を介してアクセスし、所望の画像を呼び出すことができる。すなわち、図１９で示すように、例えば、クライアントコンピュータ２７が、画像位置情報に基づいて、ネットワーク１状の蓄積サーバ１８にアクセスし、所望とする画像に対応する画像IDを指定することにより、所望する画像を読み出すことができる。尚、この明細書中では、画像位置情報と画像IDとを別に説明していくが、画像位置情報は、画像IDの一部とするようにしても良く、この場合、画像IDにより画像位置情報を認識することでき、ネットワーク１上のどのサーバに記憶（蓄積、または、処理）されているのかを認識できるようにしてもよい。また、蓄積サーバ１８は、画像データ以外にも、動きベクトル、位置情報、混合比、および、動きボケ量を記憶するようにしてもよい。
【００８４】
次に、図２０，図２１を参照して、合成サーバ１９について説明する。
【００８５】
合成サーバ１９は、図２０で示すように、ネットワーク１を介して、例えば、クライアントコンピュータ２７などから入力される画像Ａ，Ｂといった２個の画像と、動きベクトル、および、位置情報、混合比、および、動きボケ量から画像Ａ，Ｂを合成し、合成画像（Ａ＋Ｂ）を生成して、クライアントコンピュータ２７に出力する、自らで記憶する、または、ネットワーク１上のその他のサーバに出力し、そのサーバに対応する処理を実行させる。この場合、画像Ａ，Ｂは、一方が前景成分画像として、他方が背景成分画像として扱われることにより、両者が合成されることになる。このとき、課金処理部１９ａは、ネットワーク１を介して課金サーバ２４に対して、合成処理に係る料金の課金処理を実行する。また、図２１で示すように、合成サーバ１９は、画像Ａ，Ｂの代わりに、画像を指定する画像Ａ−ID，Ｂ−IDが入力されると、ネットワーク１上の後述する検索サーバ２３や蓄積サーバ１８にアクセスしたり、自らの記憶部（例えば、図３の記憶部７８）を検索して、入力された画像Ａ−ID，Ｂ−IDに対応する画像を呼び出して、上述と同様の処理を実行する。
【００８６】
次に、図２２，図２３を参照して、修正サーバ２０について説明する。
【００８７】
修正サーバ２０は、図２２で示すように、ネットワーク１を介して、例えば、クライアントコンピュータ２７などから入力される画像を、動きベクトル、および、位置情報、混合比、および、動きボケ量に基づいて修正し、修正画像を生成してクライアントコンピュータ２７に出力する、自らで記憶する、または、ネットワーク上のその他のサーバに出力し、そのサーバに対応する処理を実行させる。このとき、課金処理部２０ａは、ネットワーク１を介して課金サーバ２４に対して、修正処理に係る料金の課金処理を実行する。また、図２３で示すように、修正サーバ２０は、画像の代わりに、画像を指定する画像IDが入力されると、ネットワーク１上の後述する検索サーバ２３や蓄積サーバ１８にアクセスしたり、自らの記憶部（例えば、図３の記憶部７８）を検索して、入力された画像IDに対応する画像を呼び出して、上述と同様の処理を実行する。
【００８８】
次に、図２４を参照して購入サーバ２１について説明する。
【００８９】
購入サーバ２１は、図２４で示すように、ネットワーク１を介して、例えば、所定の画像の購入を希望する使用者によりクライアントコンピュータ２７などが操作されて、購入を希望する画像を指定する画像IDが入力されると、対応する画像をネットワーク１上の分離処理サーバ１１、蓄積サーバ１８、合成サーバ１９、または、修正サーバ２０などにアクセスし、対応する画像を呼び出し、クライアントコンピュータ２７に出力する。このとき、課金処理部２１ａは、ネットワーク１を介して課金サーバ２４に対して、購入する画像に係る料金の課金処理を実行する。
【００９０】
次に、図２５を参照して売却サーバ２２について説明する。
【００９１】
売却サーバ２２は、図２５で示すように、ネットワーク１を介して、例えば、分離処理サーバ１１、合成サーバ１９、または、修正サーバ２０により生成された、所定の使用者が所有する分離画像、合成画像、または、修正画像の売却を希望する画像が入力されると、売却を希望する画像をネットワーク１上の分離処理サーバ１１、蓄積サーバ１８、合成サーバ１９、または、修正サーバ２０などに記憶させると共に、課金処理部２２ａが、ネットワーク１を介して課金サーバ２４に対して、売却する画像に係る料金の課金処理を実行する（この場合、売却処理サービスの提供者が、売却を希望する使用者に、売却された画像に対応する価格分の支払処理を実行することになる）。
【００９２】
次に、図２６を参照して、検索サーバ２６について説明する。
【００９３】
検索サーバ２６は、例えば、クライアントコンピュータ１により使用者が所望とする画像の特徴を示す情報や、カメラ端末装置２８−１乃至２８−ｎの物理的な位置情報からネットワーク１上のカメラ端末装置２８−１乃至２８−ｎで現在撮像している画像、または、予め撮像された画像を検索して、要求画像としてクライアントコンピュータ１に出力する。このとき、課金処理部２３ａは、ネットワーク１を介して課金サーバ２４に対して、検索処理に係る料金の課金処理を実行する。
【００９４】
尚、本明細書においては、符号化とは画像データに基づいて得られる、前景成分画像、背景成分画像、動きベクトル、位置情報、動きボケ量、および、混合比の情報に変換することを符号化、そのデータを符号化データと呼ぶものとする。
【００９５】
図２７は、分離処理サーバ１１を示すブロック図である。
【００９６】
なお、分離処理サーバ１１の各機能をハードウェアで実現するか、ソフトウェアで実現するかは問わない。つまり、本明細書の各ブロック図は、ハードウェアのブロック図と考えても、ソフトウェアによる機能ブロック図と考えても良い。
【００９７】
分離処理サーバ１１に供給された入力画像は、オブジェクト抽出部１０１、領域特定部１０３、混合比算出部１０４、および前景背景分離部１０５に供給される。
【００９８】
オブジェクト抽出部１０１は、入力画像に含まれる前景のオブジェクトに対応する画像オブジェクトを粗く抽出して、抽出した画像オブジェクトを動き検出部１０２に供給する。オブジェクト抽出部１０１は、例えば、入力画像に含まれる前景のオブジェクトに対応する画像オブジェクトの輪郭を検出することで、前景のオブジェクトに対応する画像オブジェクトを粗く抽出する。
【００９９】
オブジェクト抽出部１０１は、入力画像に含まれる背景のオブジェクトに対応する画像オブジェクトを粗く抽出して、抽出した画像オブジェクトを動き検出部１０２に供給する。オブジェクト抽出部１０１は、例えば、入力画像と、抽出された前景のオブジェクトに対応する画像オブジェクトとの差から、背景のオブジェクトに対応する画像オブジェクトを粗く抽出する。
【０１００】
また、例えば、オブジェクト抽出部１０１は、内部に設けられている背景メモリに記憶されている背景の画像と、入力画像との差から、前景のオブジェクトに対応する画像オブジェクト、および背景のオブジェクトに対応する画像オブジェクトを粗く抽出するようにしてもよい。
【０１０１】
動き検出部１０２は、例えば、ブロックマッチング法、勾配法、位相相関法、およびペルリカーシブ法などの手法により、粗く抽出された前景のオブジェクトに対応する画像オブジェクトの動きベクトルを算出して、算出した動きベクトルおよび動きベクトルの位置情報（動きベクトルに対応する画素の位置を特定する情報）を領域特定部１０３および動きボケ調整部１０６に供給する。
【０１０２】
動き検出部１０２が出力する動きベクトルには、動き量vに対応する情報が含まれる。
【０１０３】
また、例えば、動き検出部１０２は、画像オブジェクトに画素を特定する画素位置情報と共に、画像オブジェクト毎の動きベクトルを動きボケ調整部１０６に出力するようにしてもよい。
【０１０４】
動き量vは、動いているオブジェクトに対応する画像の位置の変化を画素間隔を単位として表す値である。例えば、前景に対応するオブジェクトの画像が、あるフレームを基準として次のフレームにおいて４画素分離れた位置に表示されるように移動しているとき、前景に対応するオブジェクトの画像の動き量vは、４とされる。
【０１０５】
なお、オブジェクト抽出部１０１および動き検出部１０２は、動いているオブジェクトに対応した動きボケ量の調整を行う場合に必要となる。
【０１０６】
領域特定部１０３は、入力された画像の画素のそれぞれを、前景領域、背景領域、または混合領域のいずれかに特定し、画素毎に前景領域、背景領域、または混合領域のいずれかに属するかを示す情報を混合比算出部１０４、前景背景分離部１０５、および動きボケ調整部１０６に供給する。
【０１０７】
混合比算出部１０４は、入力画像、および領域特定部１０３から供給された領域情報を基に、混合領域に含まれる画素に対応する混合比を算出して、算出した混合比を前景背景分離部１０５に供給する。
【０１０８】
混合比αは、後述する式（３）に示されるように、画素値における、背景のオブジェクトに対応する画像の成分（以下、背景の成分とも称する）の割合を示す値である。
【０１０９】
前景背景分離部１０５は、領域特定部１０３から供給された領域情報、および混合比算出部１０４から供給された混合比αを基に、前景のオブジェクトに対応する画像の成分（以下、前景の成分とも称する）のみから成る前景成分画像と、背景の成分のみから成る背景成分画像とに入力画像を分離して、前景成分画像を動きボケ調整部１０６および選択部１０７に供給する。なお、分離された前景成分画像を最終的な出力とすることも考えられる。従来の混合領域を考慮しないで前景と背景だけを特定し、分離していた方式に比べ正確な前景と背景を得ることが出来る。
【０１１０】
動きボケ調整部１０６は、動きベクトルからわかる動き量vおよび領域情報を基に、前景成分画像に含まれる１以上の画素を示す処理単位を決定する。処理単位は、動きボケの量の調整の処理の対象となる１群の画素を指定するデータである。
【０１１１】
動きボケ調整部１０６は、分離処理サーバ１１に入力された動きボケ調整量、前景背景分離部１０５から供給された前景成分画像、動き検出部１０２から供給された動きベクトルおよびその位置情報、並びに処理単位を基に、前景成分画像に含まれる動きボケを除去する、動きボケの量を減少させる、または動きボケの量を増加させるなど前景成分画像に含まれる動きボケの量を調整して、動きボケの量を調整した前景成分画像を選択部１０７に出力する。動きベクトルとその位置情報は使わないこともある。
【０１１２】
ここで、動きボケとは、撮像の対象となる、現実世界におけるオブジェクトの動きと、センサの撮像の特性とにより生じる、動いているオブジェクトに対応する画像に含まれている歪みをいう。
【０１１３】
選択部１０７は、例えば使用者の選択に対応した選択信号を基に、前景背景分離部１０５から供給された前景成分画像、および動きボケ調整部１０６から供給された動きボケの量が調整された前景成分画像のいずれか一方を選択して、選択した前景成分画像を出力する。
【０１１４】
次に、図２８乃至図４３を参照して、分離処理サーバ１１に供給される入力画像について説明する。
【０１１５】
図２８は、センサ７６ａによる撮像を説明する図である。センサ７６ａは、例えば、固体撮像素子であるCCD（Charge-Coupled Device）エリアセンサを備えたCCDビデオカメラなどで構成される。現実世界における、前景に対応するオブジェクトは、現実世界における、背景に対応するオブジェクトと、センサとの間を、例えば、図中の左側から右側に水平に移動する。
【０１１６】
センサ７６ａは、前景に対応するオブジェクトを、背景に対応するオブジェクトと共に撮像する。センサ７６ａは、撮像した画像を１フレーム単位で出力する。例えば、センサ７６ａは、１秒間に３０フレームから成る画像を出力する。センサ７６ａの露光時間は、１／３０秒とすることができる。露光時間は、センサ７６ａが入力された光の電荷への変換を開始してから、入力された光の電荷への変換を終了するまでの期間である。以下、露光時間をシャッタ時間とも称する。
【０１１７】
図２９は、画素の配置を説明する図である。図２９中において、Ａ乃至Ｉは、個々の画素を示す。画素は、画像に対応する平面上に配置されている。１つの画素に対応する１つの検出素子は、センサ７６ａ上に配置されている。センサ７６ａが画像を撮像するとき、１つの検出素子は、画像を構成する１つの画素に対応する画素値を出力する。例えば、検出素子のＸ方向の位置は、画像上の横方向の位置に対応し、検出素子のＹ方向の位置は、画像上の縦方向の位置に対応する。
【０１１８】
図３０に示すように、例えば、CCDである検出素子は、シャッタ時間に対応する期間、入力された光を電荷に変換して、変換された電荷を蓄積する。電荷の量は、入力された光の強さと、光が入力されている時間にほぼ比例する。検出素子は、シャッタ時間に対応する期間において、入力された光から変換された電荷を、既に蓄積されている電荷に加えていく。すなわち、検出素子は、シャッタ時間に対応する期間、入力される光を積分して、積分された光に対応する量の電荷を蓄積する。検出素子は、時間に対して、積分効果があるとも言える。
【０１１９】
検出素子に蓄積された電荷は、図示せぬ回路により、電圧値に変換され、電圧値は更にデジタルデータなどの画素値に変換されて出力される。従って、センサ７６ａから出力される個々の画素値は、前景または背景に対応するオブジェクトの空間的に広がりを有するある部分を、シャッタ時間について積分した結果である、１次元の空間に射影された値を有する。
【０１２０】
分離処理サーバ１１は、このようなセンサ７６ａの蓄積の動作により、出力信号に埋もれてしまった有意な情報、例えば、混合比αを抽出する。分離処理サーバ１１は、前景の画像オブジェクト自身が混ざり合うことによる生ずる歪みの量、例えば、動きボケの量などを調整する。また、分離処理サーバ１１は、前景の画像オブジェクトと背景の画像オブジェクトとが混ざり合うことにより生ずる歪みの量を調整する。
【０１２１】
図３１は、動いている前景に対応するオブジェクトと、静止している背景に対応するオブジェクトとを撮像して得られる画像を説明する図である。図３１（Ａ）は、動きを伴う前景に対応するオブジェクトと、静止している背景に対応するオブジェクトとを撮像して得られる画像を示している。図３１（Ａ）に示す例において、前景に対応するオブジェクトは、画面に対して水平に左から右に動いている。
【０１２２】
図３１（Ｂ）は、図３１（Ａ）に示す画像の１つのラインに対応する画素値を時間方向に展開したモデル図である。図３１（Ｂ）の横方向は、図３１（Ａ）の空間方向Ｘに対応している。
【０１２３】
背景領域の画素は、背景の成分、すなわち、背景のオブジェクトに対応する画像の成分のみから、その画素値が構成されている。前景領域の画素は、前景の成分、すなわち、前景のオブジェクトに対応する画像の成分のみから、その画素値が構成されている。
【０１２４】
混合領域の画素は、背景の成分、および前景の成分から、その画素値が構成されている。混合領域は、背景の成分、および前景の成分から、その画素値が構成されているので、歪み領域ともいえる。混合領域は、更に、カバードバックグラウンド領域およびアンカバードバックグラウンド領域に分類される。
【０１２５】
カバードバックグラウンド領域は、前景領域に対して、前景のオブジェクトの進行方向の前端部に対応する位置の混合領域であり、時間の経過に対応して背景成分が前景に覆い隠される領域をいう。
【０１２６】
これに対して、アンカバードバックグラウンド領域は、前景領域に対して、前景のオブジェクトの進行方向の後端部に対応する位置の混合領域であり、時間の経過に対応して背景成分が現れる領域をいう。
【０１２７】
このように、前景領域、背景領域、またはカバードバックグラウンド領域若しくはアンカバードバックグラウンド領域を含む画像が、領域特定部１０３、混合比算出部１０４、および前景背景分離部１０５に入力画像として入力される。
【０１２８】
図３２は、以上のような、背景領域、前景領域、混合領域、カバードバックグラウンド領域、およびアンカバードバックグラウンド領域を説明する図である。図３１に示す画像に対応する場合、背景領域は、静止部分であり、前景領域は、動き部分であり、混合領域のカバードバックグラウンド領域は、背景から前景に変化する部分であり、混合領域のアンカバードバックグラウンド領域は、前景から背景に変化する部分である。
【０１２９】
図３３は、静止している前景に対応するオブジェクトおよび静止している背景に対応するオブジェクトを撮像した画像における、隣接して１列に並んでいる画素の画素値を時間方向に展開したモデル図である。例えば、隣接して１列に並んでいる画素として、画面の１つのライン上に並んでいる画素を選択することができる。
【０１３０】
図３３に示すF01乃至F04の画素値は、静止している前景のオブジェクトに対応する画素の画素値である。図３３に示すB01乃至B04の画素値は、静止している背景のオブジェクトに対応する画素の画素値である。
【０１３１】
図３３における縦方向は、時間に対応し、図中の上から下に向かって時間が経過する。図３３中の矩形の上辺の位置は、センサ７６ａが入力された光の電荷への変換を開始する時刻に対応し、図３３中の矩形の下辺の位置は、センサ７６ａが入力された光の電荷への変換を終了する時刻に対応する。すなわち、図３３中の矩形の上辺から下辺までの距離は、シャッタ時間に対応する。
【０１３２】
以下において、シャッタ時間とフレーム間隔とが同一である場合を例に説明する。
【０１３３】
図３３における横方向は、図３１で説明した空間方向Xに対応する。より具体的には、図３３に示す例において、図３３中の”F01”と記載された矩形の左辺から”B04”と記載された矩形の右辺までの距離は、画素のピッチの８倍、すなわち、連続している８つの画素の間隔に対応する。
【０１３４】
前景のオブジェクトおよび背景のオブジェクトが静止している場合、シャッタ時間に対応する期間において、センサ７６ａに入力される光は変化しない。
【０１３５】
ここで、シャッタ時間に対応する期間を２つ以上の同じ長さの期間に分割する。例えば、仮想分割数を４とすると、図３３に示すモデル図は、図９に示すモデルとして表すことができる。仮想分割数は、前景に対応するオブジェクトのシャッタ時間内での動き量vなどに対応して設定される。例えば、４である動き量vに対応して、仮想分割数は、４とされ、シャッタ時間に対応する期間は４つに分割される。
【０１３６】
図中の最も上の行は、シャッタが開いて最初の、分割された期間に対応する。図中の上から２番目の行は、シャッタが開いて２番目の、分割された期間に対応する。図中の上から３番目の行は、シャッタが開いて３番目の、分割された期間に対応する。図中の上から４番目の行は、シャッタが開いて４番目の、分割された期間に対応する。
【０１３７】
以下、動き量vに対応して分割されたシャッタ時間をシャッタ時間/vとも称する。
【０１３８】
前景に対応するオブジェクトが静止しているとき、センサ７６ａに入力される光は変化しないので、前景の成分F01/vは、画素値F01を仮想分割数で除した値に等しい。同様に、前景に対応するオブジェクトが静止しているとき、前景の成分F02/vは、画素値F02を仮想分割数で除した値に等しく、前景の成分F03/vは、画素値F03を仮想分割数で除した値に等しく、前景の成分F04/vは、画素値F04を仮想分割数で除した値に等しい。
【０１３９】
背景に対応するオブジェクトが静止しているとき、センサ７６ａに入力される光は変化しないので、背景の成分B01/vは、画素値B01を仮想分割数で除した値に等しい。同様に、背景に対応するオブジェクトが静止しているとき、背景の成分B02/vは、画素値B02を仮想分割数で除した値に等しく、B03/vは、画素値B03を仮想分割数で除した値に等しく、B04/vは、画素値B04を仮想分割数で除した値に等しい。
【０１４０】
すなわち、前景に対応するオブジェクトが静止している場合、シャッタ時間に対応する期間において、センサ７６ａに入力される前景のオブジェクトに対応する光が変化しないので、シャッタが開いて最初の、シャッタ時間/vに対応する前景の成分F01/vと、シャッタが開いて２番目の、シャッタ時間/vに対応する前景の成分F01/vと、シャッタが開いて３番目の、シャッタ時間/vに対応する前景の成分F01/vと、シャッタが開いて４番目の、シャッタ時間/vに対応する前景の成分F01/vとは、同じ値となる。F02/v乃至F04/vも、F01/vと同様の関係を有する。
【０１４１】
背景に対応するオブジェクトが静止している場合、シャッタ時間に対応する期間において、センサ７６ａに入力される背景のオブジェクトに対応する光は変化しないので、シャッタが開いて最初の、シャッタ時間/vに対応する背景の成分B01/vと、シャッタが開いて２番目の、シャッタ時間/vに対応する背景の成分B01/vと、シャッタが開いて３番目の、シャッタ時間/vに対応する背景の成分B01/vと、シャッタが開いて４番目の、シャッタ時間/vに対応する背景の成分B01/vとは、同じ値となる。B02/v乃至B04/vも、同様の関係を有する。
【０１４２】
次に、前景に対応するオブジェクトが移動し、背景に対応するオブジェクトが静止している場合について説明する。
【０１４３】
図３５は、前景に対応するオブジェクトが図中の右側に向かって移動する場合の、カバードバックグラウンド領域を含む、１つのライン上の画素の画素値を時間方向に展開したモデル図である。図３５において、前景の動き量vは、４である。１フレームは短い時間なので、前景に対応するオブジェクトが剛体であり、等速で移動していると仮定することができる。図３５において、前景に対応するオブジェクトの画像は、あるフレームを基準として次のフレームにおいて４画素分右側に表示されるように移動する。
【０１４４】
図３５において、最も左側の画素乃至左から４番目の画素は、前景領域に属する。図３５において、左から５番目乃至左から７番目の画素は、カバードバックグラウンド領域である混合領域に属する。図３５において、最も右側の画素は、背景領域に属する。
【０１４５】
前景に対応するオブジェクトが時間の経過と共に背景に対応するオブジェクトを覆い隠すように移動しているので、カバードバックグラウンド領域に属する画素の画素値に含まれる成分は、シャッタ時間に対応する期間のある時点で、背景の成分から、前景の成分に替わる。
【０１４６】
例えば、図３５中に太線枠を付した画素値Mは、式（１）で表される。
【０１４７】
M=B02/v+B02/v+F07/v+F06/v （１）
【０１４８】
例えば、左から５番目の画素は、１つのシャッタ時間/vに対応する背景の成分を含み、３つのシャッタ時間/vに対応する前景の成分を含むので、左から５番目の画素の混合比αは、1/4である。左から６番目の画素は、２つのシャッタ時間/vに対応する背景の成分を含み、２つのシャッタ時間/vに対応する前景の成分を含むので、左から６番目の画素の混合比αは、1/2である。左から７番目の画素は、３つのシャッタ時間/vに対応する背景の成分を含み、１つのシャッタ時間/vに対応する前景の成分を含むので、左から７番目の画素の混合比αは、3/4である。
【０１４９】
前景に対応するオブジェクトが、剛体であり、前景の画像が次のフレームにおいて４画素右側に表示されるように等速で移動すると仮定できるので、例えば、図３５中の左から４番目の画素の、シャッタが開いて最初の、シャッタ時間/vの前景の成分F07/vは、図３５中の左から５番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。同様に、前景の成分F07/vは、図３５中の左から６番目の画素の、シャッタが開いて３番目のシャッタ時間/vに対応する前景の成分と、図３５中の左から７番目の画素の、シャッタが開いて４番目のシャッタ時間/vに対応する前景の成分とに、それぞれ等しい。
【０１５０】
前景に対応するオブジェクトが、剛体であり、前景の画像が次のフレームにおいて４画素右側に表示されるように等速で移動すると仮定できるので、例えば、図３５中の左から３番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分F06/vは、図３５中の左から４番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。同様に、前景の成分F06/vは、図３５中の左から５番目の画素の、シャッタが開いて３番目のシャッタ時間/vに対応する前景の成分と、図３５中の左から６番目の画素の、シャッタが開いて４番目のシャッタ時間/vに対応する前景の成分とに、それぞれ等しい。
【０１５１】
前景に対応するオブジェクトが、剛体であり、前景の画像が次のフレームにおいて４画素右側に表示されるように等速で移動すると仮定できるので、例えば、図３５中の左から２番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分F05/vは、図３５中の左から３番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。同様に、前景の成分F05/vは、図３５中の左から４番目の画素の、シャッタが開いて３番目のシャッタ時間/vに対応する前景の成分と、図３５中の左から５番目の画素の、シャッタが開いて４番目のシャッタ時間/vに対応する前景の成分とに、それぞれ等しい。
【０１５２】
前景に対応するオブジェクトが、剛体であり、前景の画像が次のフレームにおいて４画素右側に表示されるように等速で移動すると仮定できるので、例えば、図３５中の最も左側の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分F04/vは、図３５中の左から２番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。同様に、前景の成分F04/vは、図３５中の左から３番目の画素の、シャッタが開いて３番目のシャッタ時間/vに対応する前景の成分と、図３５中の左から４番目の画素の、シャッタが開いて４番目のシャッタ時間/vに対応する前景の成分とに、それぞれ等しい。
【０１５３】
動いているオブジェクトに対応する前景の領域は、このように動きボケを含むので、歪み領域とも言える。
【０１５４】
図３６は、前景が図中の右側に向かって移動する場合の、アンカバードバックグラウンド領域を含む、１つのライン上の画素の画素値を時間方向に展開したモデル図である。図３６において、前景の動き量vは、４である。１フレームは短い時間なので、前景に対応するオブジェクトが剛体であり、等速で移動していると仮定することができる。図３６において、前景に対応するオブジェクトの画像は、あるフレームを基準として次のフレームにおいて４画素分右側に移動する。
【０１５５】
図３６において、最も左側の画素乃至左から４番目の画素は、背景領域に属する。図３６において、左から５番目乃至左から７番目の画素は、アンカバードバックグラウンドである混合領域に属する。図３６において、最も右側の画素は、前景領域に属する。
【０１５６】
背景に対応するオブジェクトを覆っていた前景に対応するオブジェクトが時間の経過と共に背景に対応するオブジェクトの前から取り除かれるように移動しているので、アンカバードバックグラウンド領域に属する画素の画素値に含まれる成分は、シャッタ時間に対応する期間のある時点で、前景の成分から、背景の成分に替わる。
【０１５７】
例えば、図３６中に太線枠を付した画素値M'は、式（２）で表される。
【０１５８】
M'=F02/v+F01/v+B26/v+B26/v （２）
【０１５９】
例えば、左から５番目の画素は、３つのシャッタ時間/vに対応する背景の成分を含み、１つのシャッタ時間/vに対応する前景の成分を含むので、左から５番目の画素の混合比αは、3/4である。左から６番目の画素は、２つのシャッタ時間/vに対応する背景の成分を含み、２つのシャッタ時間/vに対応する前景の成分を含むので、左から６番目の画素の混合比αは、1/2である。左から７番目の画素は、１つのシャッタ時間/vに対応する背景の成分を含み、３つのシャッタ時間/vに対応する前景の成分を含むので、左から７番目の画素の混合比αは、1/4である。
【０１６０】
式（１）および式（２）をより一般化すると、画素値Mは、式（３）で表される。
【０１６１】
【数１】
Figure 0004596227
ここで、αは、混合比である。Ｂは、背景の画素値であり、Fi/vは、前景の成分である。
【０１６２】
前景に対応するオブジェクトが剛体であり、等速で動くと仮定でき、かつ、動き量vが４であるので、例えば、図３６中の左から５番目の画素の、シャッタが開いて最初の、シャッタ時間/vの前景の成分F01/vは、図３６中の左から６番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。同様に、F01/vは、図３６中の左から７番目の画素の、シャッタが開いて３番目のシャッタ時間/vに対応する前景の成分と、図３６中の左から８番目の画素の、シャッタが開いて４番目のシャッタ時間/vに対応する前景の成分とに、それぞれ等しい。
【０１６３】
前景に対応するオブジェクトが剛体であり、等速で動くと仮定でき、かつ、仮想分割数が４であるので、例えば、図３６中の左から６番目の画素の、シャッタが開いて最初の、シャッタ時間/vの前景の成分F02/vは、図３６中の左から７番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。同様に、前景の成分F02/vは、図３６中の左から８番目の画素の、シャッタが開いて３番目のシャッタ時間/vに対応する前景の成分に等しい。
【０１６４】
前景に対応するオブジェクトが剛体であり、等速で動くと仮定でき、かつ、動き量vが４であるので、例えば、図３６中の左から７番目の画素の、シャッタが開いて最初の、シャッタ時間/vの前景の成分F03/vは、図３６中の左から８番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。
【０１６５】
図３４乃至図３６の説明において、仮想分割数は、４であるとして説明したが、仮想分割数は、動き量vに対応する。動き量vは、一般に、前景に対応するオブジェクトの移動速度に対応する。例えば、前景に対応するオブジェクトが、あるフレームを基準として次のフレームにおいて４画素分右側に表示されるように移動しているとき、動き量vは、４とされる。動き量vに対応し、仮想分割数は、４とされる。同様に、例えば、前景に対応するオブジェクトが、あるフレームを基準として次のフレームにおいて６画素分左側に表示されるように移動しているとき、動き量vは、６とされ、仮想分割数は、６とされる。
【０１６６】
図３７および図３８に、以上で説明した、前景領域、背景領域、カバードバックグラウンド領域若しくはアンカバードバックグラウンド領域から成る混合領域と、分割されたシャッタ時間に対応する前景の成分および背景の成分との関係を示す。
【０１６７】
図３７は、静止している背景の前を移動しているオブジェクトに対応する前景を含む画像から、前景領域、背景領域、および混合領域の画素を抽出した例を示す。図３７に示す例において、前景に対応するオブジェクトは、画面に対して水平に移動している。
【０１６８】
フレーム#n+1は、フレーム#nの次のフレームであり、フレーム#n+2は、フレーム#n+1の次のフレームである。
【０１６９】
フレーム#n乃至フレーム#n+2のいずれかから抽出した、前景領域、背景領域、および混合領域の画素を抽出して、動き量vを４として、抽出された画素の画素値を時間方向に展開したモデルを図３８に示す。
【０１７０】
前景領域の画素値は、前景に対応するオブジェクトが移動するので、シャッタ時間/vの期間に対応する、４つの異なる前景の成分から構成される。例えば、図３８に示す前景領域の画素のうち最も左側に位置する画素は、F01/v,F02/v,F03/v、およびF04/vから構成される。すなわち、前景領域の画素は、動きボケを含んでいる。
【０１７１】
背景に対応するオブジェクトが静止しているので、シャッタ時間に対応する期間において、センサ７６ａに入力される背景に対応する光は変化しない。この場合、背景領域の画素値は、動きボケを含まない。
【０１７２】
カバードバックグラウンド領域若しくはアンカバードバックグラウンド領域から成る混合領域に属する画素の画素値は、前景の成分と、背景の成分とから構成される。
【０１７３】
次に、オブジェクトに対応する画像が動いているとき、複数のフレームにおける、隣接して１列に並んでいる画素であって、フレーム上で同一の位置の画素の画素値を時間方向に展開したモデルについて説明する。例えば、オブジェクトに対応する画像が画面に対して水平に動いているとき、隣接して１列に並んでいる画素として、画面の１つのライン上に並んでいる画素を選択することができる。
【０１７４】
図３９は、静止している背景に対応するオブジェクトを撮像した画像の３つのフレームの、隣接して１列に並んでいる画素であって、フレーム上で同一の位置の画素の画素値を時間方向に展開したモデル図である。フレーム#nは、フレーム#n-1の次のフレームであり、フレーム#n+1は、フレーム#nの次のフレームである。他のフレームも同様に称する。
【０１７５】
図３９に示すB01乃至B12の画素値は、静止している背景のオブジェクトに対応する画素の画素値である。背景に対応するオブジェクトが静止しているので、フレーム#n-1乃至フレームn+1において、対応する画素の画素値は、変化しない。例えば、フレーム#n-1におけるB05の画素値を有する画素の位置に対応する、フレーム#nにおける画素、およびフレーム#n+1における画素は、それぞれ、B05の画素値を有する。
【０１７６】
図４０は、静止している背景に対応するオブジェクトと共に図中の右側に移動する前景に対応するオブジェクトを撮像した画像の３つのフレームの、隣接して１列に並んでいる画素であって、フレーム上で同一の位置の画素の画素値を時間方向に展開したモデル図である。図４０に示すモデルは、カバードバックグラウンド領域を含む。
【０１７７】
図４０において、前景に対応するオブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて４画素右側に表示されるように移動するので、前景の動き量vは、４であり、仮想分割数は、４である。
【０１７８】
例えば、図４０中のフレーム#n-1の最も左側の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F12/vとなり、図４０中の左から２番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F12/vとなる。図４０中の左から３番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分、および図４０中の左から４番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F12/vとなる。
【０１７９】
図４０中のフレーム#n-1の最も左側の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分は、F11/vとなり、図４０中の左から２番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分も、F11/vとなる。図４０中の左から３番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F11/vとなる。
【０１８０】
図４０中のフレーム#n-1の最も左側の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分は、F10/vとなり、図４０中の左から２番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分も、F10/vとなる。図４０中のフレーム#n-1の最も左側の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F09/vとなる。
【０１８１】
背景に対応するオブジェクトが静止しているので、図４０中のフレーム#n-1の左から２番目の画素の、シャッタが開いて最初のシャッタ時間/vの背景の成分は、B01/vとなる。図４０中のフレーム#n-1の左から３番目の画素の、シャッタが開いて最初および２番目のシャッタ時間/vの背景の成分は、B02/vとなる。図４０中のフレーム#n-1の左から４番目の画素の、シャッタが開いて最初乃至３番目のシャッタ時間/vの背景の成分は、B03/vとなる。
【０１８２】
図４０中のフレーム#n-1において、最も左側の画素は、前景領域に属し、左側から２番目乃至４番目の画素は、カバードバックグラウンド領域である混合領域に属する。
【０１８３】
図４０中のフレーム#n-1の左から５番目の画素乃至１２番目の画素は、背景領域に属し、その画素値は、それぞれ、B04乃至B11となる。
【０１８４】
図４０中のフレーム#nの左から１番目の画素乃至５番目の画素は、前景領域に属する。フレーム#nの前景領域における、シャッタ時間/vの前景の成分は、F05/v乃至F12/vのいずれかである。
【０１８５】
前景に対応するオブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて４画素右側に表示されるように移動するので、図４０中のフレーム#nの左から５番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F12/vとなり、図４０中の左から６番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F12/vとなる。図４０中の左から７番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分、および図４０中の左から８番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F12/vとなる。
【０１８６】
図４０中のフレーム#nの左から５番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分は、F11/vとなり、図４０中の左から６番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分も、F11/vとなる。図４０中の左から７番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F11/vとなる。
【０１８７】
図４０中のフレーム#nの左から５番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分は、F10/vとなり、図４０中の左から６番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分も、F10/vとなる。図４０中のフレーム#nの左から５番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F09/vとなる。
【０１８８】
背景に対応するオブジェクトが静止しているので、図４０中のフレーム#nの左から６番目の画素の、シャッタが開いて最初のシャッタ時間/vの背景の成分は、B05/vとなる。図４０中のフレーム#nの左から７番目の画素の、シャッタが開いて最初および２番目のシャッタ時間/vの背景の成分は、B06/vとなる。図４０中のフレーム#nの左から８番目の画素の、シャッタが開いて最初乃至３番目の、シャッタ時間/vの背景の成分は、B07/vとなる。
【０１８９】
図４０中のフレーム#nにおいて、左側から６番目乃至８番目の画素は、カバードバックグラウンド領域である混合領域に属する。
【０１９０】
図４０中のフレーム#nの左から９番目の画素乃至１２番目の画素は、背景領域に属し、画素値は、それぞれ、B08乃至B11となる。
【０１９１】
図４０中のフレーム#n+1の左から１番目の画素乃至９番目の画素は、前景領域に属する。フレーム#n+1の前景領域における、シャッタ時間/vの前景の成分は、F01/v乃至F12/vのいずれかである。
【０１９２】
前景に対応するオブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて４画素右側に表示されるように移動するので、図４０中のフレーム#n+1の左から９番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F12/vとなり、図４０中の左から１０番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F12/vとなる。図４０中の左から１１番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分、および図４０中の左から１２番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F12/vとなる。
【０１９３】
図４０中のフレーム#n+1の左から９番目の画素の、シャッタが開いて２番目のシャッタ時間/vの期間の前景の成分は、F11/vとなり、図４０中の左から１０番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分も、F11/vとなる。図４０中の左から１１番目の画素の、シャッタが開いて４番目の、シャッタ時間/vの前景の成分は、F11/vとなる。
【０１９４】
図４０中のフレーム#n+1の左から９番目の画素の、シャッタが開いて３番目の、シャッタ時間/vの前景の成分は、F10/vとなり、図４０中の左から１０番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分も、F10/vとなる。図４０中のフレーム#n+1の左から９番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F09/vとなる。
【０１９５】
背景に対応するオブジェクトが静止しているので、図４０中のフレーム#n+1の左から１０番目の画素の、シャッタが開いて最初のシャッタ時間/vの背景の成分は、B09/vとなる。図４０中のフレーム#n+1の左から１１番目の画素の、シャッタが開いて最初および２番目のシャッタ時間/vの背景の成分は、B10/vとなる。図４０中のフレーム#n+1の左から１２番目の画素の、シャッタが開いて最初乃至３番目の、シャッタ時間/vの背景の成分は、B11/vとなる。
【０１９６】
図４０中のフレーム#n+1において、左側から１０番目乃至１２番目の画素は、カバードバックグラウンド領域である混合領域に対応する。
【０１９７】
図４１は、図４０に示す画素値から前景の成分を抽出した画像のモデル図である。
【０１９８】
図４２は、静止している背景と共に図中の右側に移動するオブジェクトに対応する前景を撮像した画像の３つのフレームの、隣接して１列に並んでいる画素であって、フレーム上で同一の位置の画素の画素値を時間方向に展開したモデル図である。図４２において、アンカバードバックグラウンド領域が含まれている。
【０１９９】
図４２において、前景に対応するオブジェクトは、剛体であり、かつ等速で移動していると仮定できる。前景に対応するオブジェクトが、次のフレームにおいて４画素分右側に表示されるように移動しているので、動き量vは、４である。
【０２００】
例えば、図４２中のフレーム#n-1の最も左側の画素の、シャッタが開いて最初の、シャッタ時間/vの前景の成分は、F13/vとなり、図４２中の左から２番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F13/vとなる。図４２中の左から３番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分、および図４２中の左から４番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F13/vとなる。
【０２０１】
図４２中のフレーム#n-1の左から２番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F14/vとなり、図４２中の左から３番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F14/vとなる。図４２中の左から３番目の画素の、シャッタが開いて最初の、シャッタ時間/vの前景の成分は、F15/vとなる。
【０２０２】
背景に対応するオブジェクトが静止しているので、図４２中のフレーム#n-1の最も左側の画素の、シャッタが開いて２番目乃至４番目の、シャッタ時間/vの背景の成分は、B25/vとなる。図４２中のフレーム#n-1の左から２番目の画素の、シャッタが開いて３番目および４番目の、シャッタ時間/vの背景の成分は、B26/vとなる。図４２中のフレーム#n-1の左から３番目の画素の、シャッタが開いて４番目のシャッタ時間/vの背景の成分は、B27/vとなる。
【０２０３】
図４２中のフレーム#n-1において、最も左側の画素乃至３番目の画素は、アンカバードバックグラウンド領域である混合領域に属する。
【０２０４】
図４２中のフレーム#n-1の左から４番目の画素乃至１２番目の画素は、前景領域に属する。フレームの前景の成分は、F13/v乃至F24/vのいずれかである。
【０２０５】
図４２中のフレーム#nの最も左側の画素乃至左から４番目の画素は、背景領域に属し、画素値は、それぞれ、B25乃至B28となる。
【０２０６】
前景に対応するオブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて４画素右側に表示されるように移動するので、図４２中のフレーム#nの左から５番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F13/vとなり、図４２中の左から６番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F13/vとなる。図４２中の左から７番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分、および図４２中の左から８番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F13/vとなる。
【０２０７】
図４２中のフレーム#nの左から６番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F14/vとなり、図４２中の左から７番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F14/vとなる。図４２中の左から８番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F15/vとなる。
【０２０８】
背景に対応するオブジェクトが静止しているので、図４２中のフレーム#nの左から５番目の画素の、シャッタが開いて２番目乃至４番目のシャッタ時間/vの背景の成分は、B29/vとなる。図４２中のフレーム#nの左から６番目の画素の、シャッタが開いて３番目および４番目のシャッタ時間/vの背景の成分は、B30/vとなる。図４２中のフレーム#nの左から７番目の画素の、シャッタが開いて４番目のシャッタ時間/vの背景の成分は、B31/vとなる。
【０２０９】
図４２中のフレーム#nにおいて、左から５番目の画素乃至７番目の画素は、アンカバードバックグラウンド領域である混合領域に属する。
【０２１０】
図４２中のフレーム#nの左から８番目の画素乃至１２番目の画素は、前景領域に属する。フレーム#nの前景領域における、シャッタ時間/vの期間に対応する値は、F13/v乃至F20/vのいずれかである。
【０２１１】
図４２中のフレーム#n+1の最も左側の画素乃至左から８番目の画素は、背景領域に属し、画素値は、それぞれ、B25乃至B32となる。
【０２１２】
前景に対応するオブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて４画素右側に表示されるように移動するので、図４２中のフレーム#n+1の左から９番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F13/vとなり、図４２中の左から１０番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F13/vとなる。図４２中の左から１１番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分、および図４２中の左から１２番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F13/vとなる。
【０２１３】
図４２中のフレーム#n+1の左から１０番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F14/vとなり、図４２中の左から１１番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F14/vとなる。図４２中の左から１２番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F15/vとなる。
【０２１４】
背景に対応するオブジェクトが静止しているので、図４２中のフレーム#n+1の左から９番目の画素の、シャッタが開いて２番目乃至４番目の、シャッタ時間/vの背景の成分は、B33/vとなる。図４２中のフレーム#n+1の左から１０番目の画素の、シャッタが開いて３番目および４番目のシャッタ時間/vの背景の成分は、B34/vとなる。図４２中のフレーム#n+1の左から１１番目の画素の、シャッタが開いて４番目のシャッタ時間/vの背景の成分は、B35/vとなる。
【０２１５】
図４２中のフレーム#n+1において、左から９番目の画素乃至１１番目の画素は、アンカバードバックグラウンド領域である混合領域に属する。
【０２１６】
図４２中のフレーム#n+1の左から１２番目の画素は、前景領域に属する。フレーム#n+1の前景領域における、シャッタ時間/vの前景の成分は、F13/v乃至F16/vのいずれかである。
【０２１７】
図４３は、図４２に示す画素値から前景の成分を抽出した画像のモデル図である。
【０２１８】
図２７に戻り、領域特定部１０３は、複数のフレームの画素値を用いて、前景領域、背景領域、カバードバックグラウンド領域、またはアンカバードバックグラウンド領域に属することを示すフラグを画素毎に対応付けて、領域情報として、混合比算出部１０４および動きボケ調整部１０６に供給する。
【０２１９】
混合比算出部１０４は、複数のフレームの画素値、および領域情報を基に、混合領域に含まれる画素について画素毎に混合比αを算出し、算出した混合比αを前景背景分離部１０５に供給する。
【０２２０】
前景背景分離部１０５は、複数のフレームの画素値、領域情報、および混合比αを基に、前景の成分のみからなる前景成分画像を抽出して、動きボケ調整部１０６に供給する。
【０２２１】
動きボケ調整部１０６は、前景背景分離部１０５から供給された前景成分画像、動き検出部１０２から供給された動きベクトル、および領域特定部１０３から供給された領域情報を基に、前景成分画像に含まれる動きボケの量を調整して、動きボケの量を調整した前景成分画像を出力する。
【０２２２】
図４４のフローチャートを参照して、分離処理サーバ１１による動きボケの量の調整の処理を説明する。ステップＳ１１において、領域特定部１０３は、入力画像を基に、入力画像の画素毎に前景領域、背景領域、カバードバックグラウンド領域、またはアンカバードバックグラウンド領域のいずれかに属するかを示す領域情報を生成する領域特定の処理を実行する。領域特定の処理の詳細は、後述する。領域特定部１０３は、生成した領域情報を混合比算出部１０４に供給する。
【０２２３】
なお、ステップＳ１１において、領域特定部１０３は、入力画像を基に、入力画像の画素毎に前景領域、背景領域、または混合領域（カバードバックグラウンド領域、またはアンカバードバックグラウンド領域の区別をしない）のいずれかに属するかを示す領域情報を生成するようにしてもよい。この場合において、前景背景分離部１０５および動きボケ調整部１０６は、動きベクトルの方向を基に、混合領域がカバードバックグラウンド領域であるか、またはアンカバードバックグラウンド領域であるかを判定する。例えば、動きベクトルの方向に対応して、前景領域、混合領域、および背景領域と順に並んでいるとき、その混合領域は、カバードバックグラウンド領域と判定され、動きベクトルの方向に対応して、背景領域、混合領域、および前景領域と順に並んでいるとき、その混合領域は、アンカバードバックグラウンド領域と判定される。
【０２２４】
ステップＳ１２において、混合比算出部１０４は、入力画像および領域情報を基に、混合領域に含まれる画素毎に、混合比αを算出する。混合比算出の処理の詳細は、後述する。混合比算出部１０４は、算出した混合比αを前景背景分離部１０５に供給する。
【０２２５】
ステップＳ１３において、前景背景分離部１０５は、領域情報、および混合比αを基に、入力画像から前景の成分を抽出して、前景成分画像として動きボケ調整部１０６に供給する。
【０２２６】
ステップＳ１４において、動きボケ調整部１０６は、動きベクトルおよび領域情報を基に、動き方向に並ぶ連続した画素であって、アンカバードバックグラウンド領域、前景領域、およびカバードバックグラウンド領域のいずれかに属するものの画像上の位置を示す処理単位を生成し、処理単位に対応する前景成分に含まれる動きボケの量を調整する。動きボケの量の調整の処理の詳細については、後述する。
【０２２７】
ステップＳ１５において、分離処理サーバ１１は、画面全体について処理を終了したか否かを判定し、画面全体について処理を終了していないと判定された場合、ステップＳ１４に進み、処理単位に対応する前景の成分を対象とした動きボケの量の調整の処理を繰り返す。
【０２２８】
ステップＳ１５において、画面全体について処理を終了したと判定された場合、処理は終了する。
【０２２９】
このように、分離処理サーバ１１は、前景と背景を分離して、前景に含まれる動きボケの量を調整することができる。すなわち、分離処理サーバ１１は、前景の画素の画素値であるサンプルデータに含まれる動きボケの量を調整することができる。
【０２３０】
以下、領域特定部１０３、混合比算出部１０４、前景背景分離部１０５、および動きボケ調整部１０６のそれぞれの構成について説明する。
【０２３１】
図４５は、領域特定部１０３の構成の一例を示すブロック図である。図４５に構成を示す領域特定部１０３は、動きベクトルを利用しない。フレームメモリ２０１は、入力された画像をフレーム単位で記憶する。フレームメモリ２０１は、処理の対象がフレーム#nであるとき、フレーム#nの２つ前のフレームであるフレーム#n-2、フレーム#nの１つ前のフレームであるフレーム#n-1、フレーム#n、フレーム#nの１つ後のフレームであるフレーム#n+1、およびフレーム#nの２つ後のフレームであるフレーム#n+2を記憶する。
【０２３２】
静動判定部２０２−１は、フレーム#nの領域特定の対象である画素の画像上の位置と同一の位置にあるフレーム#n+2の画素の画素値、およびフレーム#nの領域特定の対象である画素の画像上の位置と同一の位置にあるフレーム#n+1の画素の画素値をフレームメモリ２０１から読み出して、読み出した画素値の差の絶対値を算出する。静動判定部２０２−１は、フレーム#n+2の画素値とフレーム#n+1の画素値との差の絶対値が、予め設定している閾値Thより大きいか否かを判定し、差の絶対値が閾値Thより大きいと判定された場合、動きを示す静動判定を領域判定部２０３−１に供給する。フレーム#n+2の画素の画素値とフレーム#n+1の画素の画素値との差の絶対値が閾値Th以下であると判定された場合、静動判定部２０２−１は、静止を示す静動判定を領域判定部２０３−１に供給する。
【０２３３】
静動判定部２０２−２は、フレーム#nの領域特定の対象である画素の画像上の位置と同一の位置にあるフレーム#n+1の画素の画素値、およびフレーム#nの対象となる画素の画素値をフレームメモリ２０１から読み出して、画素値の差の絶対値を算出する。静動判定部２０２−２は、フレーム#n+1の画素値とフレーム#nの画素値との差の絶対値が、予め設定している閾値Thより大きいか否かを判定し、画素値の差の絶対値が、閾値Thより大きいと判定された場合、動きを示す静動判定を領域判定部２０３−１および領域判定部２０３−２に供給する。フレーム#n+1の画素の画素値とフレーム#nの画素の画素値との差の絶対値が、閾値Th以下であると判定された場合、静動判定部２０２−２は、静止を示す静動判定を領域判定部２０３−１および領域判定部２０３−２に供給する。
【０２３４】
静動判定部２０２−３は、フレーム#nの領域特定の対象である画素の画素値、およびフレーム#nの領域特定の対象である画素の画像上の位置と同一の位置にあるフレーム#n-1の画素の画素値をフレームメモリ２０１から読み出して、画素値の差の絶対値を算出する。静動判定部２０２−３は、フレーム#nの画素値とフレーム#n-1の画素値との差の絶対値が、予め設定している閾値Thより大きいか否かを判定し、画素値の差の絶対値が、閾値Thより大きいと判定された場合、動きを示す静動判定を領域判定部２０３−２および領域判定部２０３−３に供給する。フレーム#nの画素の画素値とフレーム#n-1の画素の画素値との差の絶対値が、閾値Th以下であると判定された場合、静動判定部２０２−３は、静止を示す静動判定を領域判定部２０３−２および領域判定部２０３−３に供給する。
【０２３５】
静動判定部２０２−４は、フレーム#nの領域特定の対象である画素の画像上の位置と同一の位置にあるフレーム#n-1の画素の画素値、およびフレーム#nの領域特定の対象である画素の画像上の位置と同一の位置にあるフレーム#n-2の画素の画素値をフレームメモリ２０１から読み出して、画素値の差の絶対値を算出する。静動判定部２０２−４は、フレーム#n-1の画素値とフレーム#n-2の画素値との差の絶対値が、予め設定している閾値Thより大きいか否かを判定し、画素値の差の絶対値が、閾値Thより大きいと判定された場合、動きを示す静動判定を領域判定部２０３−３に供給する。フレーム#n-1の画素の画素値とフレーム#n-2の画素の画素値との差の絶対値が、閾値Th以下であると判定された場合、静動判定部２０２−４は、静止を示す静動判定を領域判定部２０３−３に供給する。
【０２３６】
領域判定部２０３−１は、静動判定部２０２−１から供給された静動判定が静止を示し、かつ、静動判定部２０２−２から供給された静動判定が動きを示しているとき、フレーム#nにおける領域特定の対象である画素がアンカバードバックグラウンド領域に属すると判定し、領域の判定される画素に対応するアンカバードバックグラウンド領域判定フラグに、アンカバードバックグラウンド領域に属することを示す”１”を設定する。
【０２３７】
領域判定部２０３−１は、静動判定部２０２−１から供給された静動判定が動きを示すか、または、静動判定部２０２−２から供給された静動判定が静止を示しているとき、フレーム#nにおける領域特定の対象である画素がアンカバードバックグラウンド領域に属しないと判定し、領域の判定される画素に対応するアンカバードバックグラウンド領域判定フラグに、アンカバードバックグラウンド領域に属しないことを示す”０”を設定する。
【０２３８】
領域判定部２０３−１は、このように”１”または”０”が設定されたアンカバードバックグラウンド領域判定フラグを判定フラグ格納フレームメモリ２０４に供給する。
【０２３９】
領域判定部２０３−２は、静動判定部２０２−２から供給された静動判定が静止を示し、かつ、静動判定部２０２−３から供給された静動判定が静止を示しているとき、フレーム#nにおける領域特定の対象である画素が静止領域に属すると判定し、領域の判定される画素に対応する静止領域判定フラグに、静止領域に属することを示す”１”を設定する。
【０２４０】
領域判定部２０３−２は、静動判定部２０２−２から供給された静動判定が動きを示すか、または、静動判定部２０２−３から供給された静動判定が動きを示しているとき、フレーム#nにおける領域特定の対象である画素が静止領域に属しないと判定し、領域の判定される画素に対応する静止領域判定フラグに、静止領域に属しないことを示す”０”を設定する。
【０２４１】
領域判定部２０３−２は、このように”１”または”０”が設定された静止領域判定フラグを判定フラグ格納フレームメモリ２０４に供給する。
【０２４２】
領域判定部２０３−２は、静動判定部２０２−２から供給された静動判定が動きを示し、かつ、静動判定部２０２−３から供給された静動判定が動きを示しているとき、フレーム#nにおける領域特定の対象である画素が動き領域に属すると判定し、領域の判定される画素に対応する動き領域判定フラグに、動き領域に属することを示す”１”を設定する。
【０２４３】
領域判定部２０３−２は、静動判定部２０２−２から供給された静動判定が静止を示すか、または、静動判定部２０２−３から供給された静動判定が静止を示しているとき、フレーム#nにおける領域特定の対象である画素が動き領域に属しないと判定し、領域の判定される画素に対応する動き領域判定フラグに、動き領域に属しないことを示す”０”を設定する。
【０２４４】
領域判定部２０３−２は、このように”１”または”０”が設定された動き領域判定フラグを判定フラグ格納フレームメモリ２０４に供給する。
【０２４５】
領域判定部２０３−３は、静動判定部２０２−３から供給された静動判定が動きを示し、かつ、静動判定部２０２−４から供給された静動判定が静止を示しているとき、フレーム#nにおける領域特定の対象である画素がカバードバックグラウンド領域に属すると判定し、領域の判定される画素に対応するカバードバックグラウンド領域判定フラグに、カバードバックグラウンド領域に属することを示す”１”を設定する。
【０２４６】
領域判定部２０３−３は、静動判定部２０２−３から供給された静動判定が静止を示すか、または、静動判定部２０２−４から供給された静動判定が動きを示しているとき、フレーム#nにおける領域特定の対象である画素がカバードバックグラウンド領域に属しないと判定し、領域の判定される画素に対応するカバードバックグラウンド領域判定フラグに、カバードバックグラウンド領域に属しないことを示す”０”を設定する。
【０２４７】
領域判定部２０３−３は、このように”１”または”０”が設定されたカバードバックグラウンド領域判定フラグを判定フラグ格納フレームメモリ２０４に供給する。
【０２４８】
判定フラグ格納フレームメモリ２０４は、領域判定部２０３−１から供給されたアンカバードバックグラウンド領域判定フラグ、領域判定部２０３−２から供給された静止領域判定フラグ、領域判定部２０３−２から供給された動き領域判定フラグ、および領域判定部２０３−３から供給されたカバードバックグラウンド領域判定フラグをそれぞれ記憶する。
【０２４９】
判定フラグ格納フレームメモリ２０４は、記憶しているアンカバードバックグラウンド領域判定フラグ、静止領域判定フラグ、動き領域判定フラグ、およびカバードバックグラウンド領域判定フラグを合成部２０５に供給する。合成部２０５は、判定フラグ格納フレームメモリ２０４から供給された、アンカバードバックグラウンド領域判定フラグ、静止領域判定フラグ、動き領域判定フラグ、およびカバードバックグラウンド領域判定フラグを基に、各画素が、アンカバードバックグラウンド領域、静止領域、動き領域、およびカバードバックグラウンド領域のいずれかに属することを示す領域情報を生成し、判定フラグ格納フレームメモリ２０６に供給する。
【０２５０】
判定フラグ格納フレームメモリ２０６は、合成部２０５から供給された領域情報を記憶すると共に、記憶している領域情報を出力する。
【０２５１】
次に、領域特定部１０３の処理の例を図４６乃至図５０を参照して説明する。
【０２５２】
前景に対応するオブジェクトが移動しているとき、オブジェクトに対応する画像の画面上の位置は、フレーム毎に変化する。図４６に示すように、フレーム#nにおいて、Yn(x,y)で示される位置に位置するオブジェクトに対応する画像は、次のフレームであるフレーム#n+1において、Yn+1(x,y)に位置する。
【０２５３】
前景のオブジェクトに対応する画像の動き方向に隣接して１列に並ぶ画素の画素値を時間方向に展開したモデル図を図２２に示す。例えば、前景のオブジェクトに対応する画像の動き方向が画面に対して水平であるとき、図４７におけるモデル図は、１つのライン上の隣接する画素の画素値を時間方向に展開したモデルを示す。
【０２５４】
図４７において、フレーム#nにおけるラインは、フレーム#n+1におけるラインと同一である。
【０２５５】
フレーム#nにおいて、左から２番目の画素乃至１３番目の画素に含まれているオブジェクトに対応する前景の成分は、フレーム#n+1において、左から６番目乃至１７番目の画素に含まれる。
【０２５６】
フレーム#nにおいて、カバードバックグラウンド領域に属する画素は、左から１１番目乃至１３番目の画素であり、アンカバードバックグラウンド領域に属する画素は、左から２番目乃至４番目の画素である。フレーム#n+1において、カバードバックグラウンド領域に属する画素は、左から１５番目乃至１７番目の画素であり、アンカバードバックグラウンド領域に属する画素は、左から６番目乃至８番目の画素である。
【０２５７】
図４７に示す例において、フレーム#nに含まれる前景の成分が、フレーム#n+1において４画素移動しているので、動き量vは、４である。仮想分割数は、動き量vに対応し、４である。
【０２５８】
次に、注目しているフレームの前後における混合領域に属する画素の画素値の変化について説明する。
【０２５９】
図４８に示す、背景が静止し、前景の動き量vが４であるフレーム#nにおいて、カバードバックグラウンド領域に属する画素は、左から１５番目乃至１７番目の画素である。動き量vが４であるので、１つ前のフレーム#n-1において、左から１５番目乃至１７番目の画素は、背景の成分のみを含み、背景領域に属する。また、更に１つ前のフレーム#n-2において、左から１５番目乃至１７番目の画素は、背景の成分のみを含み、背景領域に属する。
【０２６０】
ここで、背景に対応するオブジェクトが静止しているので、フレーム#n-1の左から１５番目の画素の画素値は、フレーム#n-2の左から１５番目の画素の画素値から変化しない。同様に、フレーム#n-1の左から１６番目の画素の画素値は、フレーム#n-2の左から１６番目の画素の画素値から変化せず、フレーム#n-1の左から１７番目の画素の画素値は、フレーム#n-2の左から１７番目の画素の画素値から変化しない。
【０２６１】
すなわち、フレーム#nにおけるカバードバックグラウンド領域に属する画素に対応する、フレーム#n-1およびフレーム#n-2の画素は、背景の成分のみから成り、画素値が変化しないので、その差の絶対値は、ほぼ０の値となる。従って、フレーム#nにおける混合領域に属する画素に対応する、フレーム#n-1およびフレーム#n-2の画素に対する静動判定は、静動判定部２０２−４により、静止と判定される。
【０２６２】
フレーム#nにおけるカバードバックグラウンド領域に属する画素は、前景の成分を含むので、フレーム#n-1における背景の成分のみから成る場合と、画素値が異なる。従って、フレーム#nにおける混合領域に属する画素、および対応するフレーム#n-1の画素に対する静動判定は、静動判定部２０２−３により、動きと判定される。
【０２６３】
このように、領域判定部２０３−３は、静動判定部２０２−３から動きを示す静動判定の結果が供給され、静動判定部２０２−４から静止を示す静動判定の結果が供給されたとき、対応する画素がカバードバックグラウンド領域に属すると判定する。
【０２６４】
図４９に示す、背景が静止し、前景の動き量vが４であるフレーム#nにおいて、アンカバードバックグラウンド領域に含まれる画素は、左から２番目乃至４番目の画素である。動き量vが４であるので、１つ後のフレーム#n+1において、左から２番目乃至４番目の画素は、背景の成分のみを含み、背景領域に属する。また、更に１つ後のフレーム#n+2において、左から２番目乃至４番目の画素は、背景の成分のみを含み、背景領域に属する。
【０２６５】
ここで、背景に対応するオブジェクトが静止しているので、フレーム#n+2の左から２番目の画素の画素値は、フレーム#n+1の左から２番目の画素の画素値から変化しない。同様に、フレーム#n+2の左から３番目の画素の画素値は、フレーム#n+1の左から３番目の画素の画素値から変化せず、フレーム#n+2の左から４番目の画素の画素値は、フレーム#n+1の左から４番目の画素の画素値から変化しない。
【０２６６】
すなわち、フレーム#nにおけるアンカバードバックグラウンド領域に属する画素に対応する、フレーム#n+1およびフレーム#n+2の画素は、背景の成分のみから成り、画素値が変化しないので、その差の絶対値は、ほぼ０の値となる。従って、フレーム#nにおける混合領域に属する画素に対応する、フレーム#n+1およびフレーム#n+2の画素に対する静動判定は、静動判定部２０２−１により、静止と判定される。
【０２６７】
フレーム#nにおけるアンカバードバックグラウンド領域に属する画素は、前景の成分を含むので、フレーム#n+1における背景の成分のみから成る場合と、画素値が異なる。従って、フレーム#nにおける混合領域に属する画素、および対応するフレーム#n+1の画素に対する静動判定は、静動判定部２０２−２により、動きと判定される。
【０２６８】
このように、領域判定部２０３−１は、静動判定部２０２−２から動きを示す静動判定の結果が供給され、静動判定部２０２−１から静止を示す静動判定の結果が供給されたとき、対応する画素がアンカバードバックグラウンド領域に属すると判定する。
【０２６９】
図５０は、フレーム#nにおける領域特定部１０３の判定条件を示す図である。フレーム#nの判定の対象となる画素の画像上の位置と同一の位置にあるフレーム#n-2の画素と、フレーム#nの判定の対象となる画素の画像上の位置と同一の位置にあるフレーム#n-1の画素とが静止と判定され、フレーム#nの判定の対象となる画素の画像上の位置と同一の位置にあるフレーム#n-1の画素と、フレーム#nの画素とが動きと判定されたとき、領域特定部１０３は、フレーム#nの判定の対象となる画素がカバードバックグラウンド領域に属すると判定する。
【０２７０】
フレーム#nの判定の対象となる画素の画像上の位置と同一の位置にあるフレーム#n-1の画素と、フレーム#nの画素とが静止と判定され、フレーム#nの画素と、フレーム#nの判定の対象となる画素の画像上の位置と同一の位置にあるフレーム#n+1の画素とが静止と判定されたとき、領域特定部１０３は、フレーム#nの判定の対象となる画素が静止領域に属すると判定する。
【０２７１】
フレーム#nの判定の対象となる画素の画像上の位置と同一の位置にあるフレーム#n-1の画素と、フレーム#nの画素とが動きと判定され、フレーム#nの画素と、フレーム#nの判定の対象となる画素の画像上の位置と同一の位置にあるフレーム#n+1の画素とが動きと判定されたとき、領域特定部１０３は、フレーム#nの判定の対象となる画素が動き領域に属すると判定する。
【０２７２】
フレーム#nの画素と、フレーム#nの判定の対象となる画素の画像上の位置と同一の位置にあるフレーム#n+1の画素とが動きと判定され、フレーム#nの判定の対象となる画素の画像上の位置と同一の位置にあるフレーム#n+1の画素と、フレーム#nの判定の対象となる画素の画像上の位置と同一の位置にあるフレーム#n+2の画素とが静止と判定されたとき、領域特定部１０３は、フレーム#nの判定の対象となる画素がアンカバードバックグラウンド領域に属すると判定する。
【０２７３】
図５１は、領域特定部１０３の領域の特定の結果の例を示す図である。図５１（Ａ）において、カバードバックグラウンド領域に属すると判定された画素は、白で表示されている。図５１（Ｂ）において、アンカバードバックグラウンド領域に属すると判定された画素は、白で表示されている。
【０２７４】
図５１（Ｃ）において、動き領域に属すると判定された画素は、白で表示されている。図５１（Ｄ）において、静止領域に属すると判定された画素は、白で表示されている。
【０２７５】
図５２は、判定フラグ格納フレームメモリ２０６が出力する領域情報の内、混合領域を示す領域情報を画像として示す図である。図５２において、カバードバックグラウンド領域またはアンカバードバックグラウンド領域に属すると判定された画素、すなわち混合領域に属すると判定された画素は、白で表示されている。判定フラグ格納フレームメモリ２０６が出力する混合領域を示す領域情報は、混合領域、および前景領域内のテクスチャの無い部分に囲まれたテクスチャの有る部分を示す。
【０２７６】
次に、図５３のフローチャートを参照して、領域特定部１０３の領域特定の処理を説明する。ステップＳ２０１において、フレームメモリ２０１は、判定の対象となるフレーム#nを含むフレーム#n-2乃至フレーム#n+2の画像を取得する。
【０２７７】
ステップＳ２０２において、静動判定部２０２−３は、フレーム#n-1の画素とフレーム#nの同一位置の画素とで、静止か否かを判定し、静止と判定された場合、ステップＳ２０３に進み、静動判定部２０２−２は、フレーム#nの画素とフレーム#n+1の同一位置の画素とで、静止か否かを判定する。
【０２７８】
ステップＳ２０３において、フレーム#nの画素とフレーム#n+1の同一位置の画素とで、静止と判定された場合、ステップＳ２０４に進み、領域判定部２０３−２は、領域の判定される画素に対応する静止領域判定フラグに、静止領域に属することを示す”１”を設定する。領域判定部２０３−２は、静止領域判定フラグを判定フラグ格納フレームメモリ２０４に供給し、手続きは、ステップＳ２０５に進む。
【０２７９】
ステップＳ２０２において、フレーム#n-1の画素とフレーム#nの同一位置の画素とで、動きと判定された場合、または、ステップＳ２０３において、フレーム#nの画素とフレーム#n+1の同一位置の画素とで、動きと判定された場合、フレーム#nの画素が静止領域には属さないので、ステップＳ２０４の処理はスキップされ、手続きは、ステップＳ２０５に進む。
【０２８０】
ステップＳ２０５において、静動判定部２０２−３は、フレーム#n-1の画素とフレーム#nの同一位置の画素とで、動きか否かを判定し、動きと判定された場合、ステップＳ２０６に進み、静動判定部２０２−２は、フレーム#nの画素とフレーム#n+1の同一位置の画素とで、動きか否かを判定する。
【０２８１】
ステップＳ２０６において、フレーム#nの画素とフレーム#n+1の同一位置の画素とで、動きと判定された場合、ステップＳ２０７に進み、領域判定部２０３−２は、領域の判定される画素に対応する動き領域判定フラグに、動き領域に属することを示す”１”を設定する。領域判定部２０３−２は、動き領域判定フラグを判定フラグ格納フレームメモリ２０４に供給し、手続きは、ステップＳ２０８に進む。
【０２８２】
ステップＳ２０５において、フレーム#n-1の画素とフレーム#nの同一位置の画素とで、静止と判定された場合、または、ステップＳ２０６において、フレーム#nの画素とフレーム#n+1の同一位置の画素とで、静止と判定された場合、フレーム#nの画素が動き領域には属さないので、ステップＳ２０７の処理はスキップされ、手続きは、ステップＳ２０８に進む。
【０２８３】
ステップＳ２０８において、静動判定部２０２−４は、フレーム#n-2の画素とフレーム#n-1の同一位置の画素とで、静止か否かを判定し、静止と判定された場合、ステップＳ２０９に進み、静動判定部２０２−３は、フレーム#n-1の画素とフレーム#nの同一位置の画素とで、動きか否かを判定する。
【０２８４】
ステップＳ２０９において、フレーム#n-1の画素とフレーム#nの同一位置の画素とで、動きと判定された場合、ステップＳ２１０に進み、領域判定部２０３−３は、領域の判定される画素に対応するカバードバックグラウンド領域判定フラグに、カバードバックグラウンド領域に属することを示す”１”を設定する。領域判定部２０３−３は、カバードバックグラウンド領域判定フラグを判定フラグ格納フレームメモリ２０４に供給し、手続きは、ステップＳ２１１に進む。
【０２８５】
ステップＳ２０８において、フレーム#n-2の画素とフレーム#n-1の同一位置の画素とで、動きと判定された場合、または、ステップＳ２０９において、フレーム#n-1の画素とフレーム#nの同一位置の画素とで、静止と判定された場合、フレーム#nの画素がカバードバックグラウンド領域には属さないので、ステップＳ２１０の処理はスキップされ、手続きは、ステップＳ２１１に進む。
【０２８６】
ステップＳ２１１において、静動判定部２０２−２は、フレーム#nの画素とフレーム#n+1の同一位置の画素とで、動きか否かを判定し、動きと判定された場合、ステップＳ２１２に進み、静動判定部２０２−１は、フレーム#n+1の画素とフレーム#n+2の同一位置の画素とで、静止か否かを判定する。
【０２８７】
ステップＳ２１２において、フレーム#n+1の画素とフレーム#n+2の同一位置の画素とで、静止と判定された場合、ステップＳ２１３に進み、領域判定部２０３−１は、領域の判定される画素に対応するアンカバードバックグラウンド領域判定フラグに、アンカバードバックグラウンド領域に属することを示す”１”を設定する。領域判定部２０３−１は、アンカバードバックグラウンド領域判定フラグを判定フラグ格納フレームメモリ２０４に供給し、手続きは、ステップＳ２１４に進む。
【０２８８】
ステップＳ２１１において、フレーム#nの画素とフレーム#n+1の同一位置の画素とで、静止と判定された場合、または、ステップＳ２１２において、フレーム#n+1の画素とフレーム#n+2の同一位置の画素とで、動きと判定された場合、フレーム#nの画素がアンカバードバックグラウンド領域には属さないので、ステップＳ２１３の処理はスキップされ、手続きは、ステップＳ２１４に進む。
【０２８９】
ステップＳ２１４において、領域特定部１０３は、フレーム#nの全ての画素について領域を特定したか否かを判定し、フレーム#nの全ての画素について領域を特定していないと判定された場合、手続きは、ステップＳ２０２に戻り、他の画素について、領域特定の処理を繰り返す。
【０２９０】
ステップＳ２１４において、フレーム#nの全ての画素について領域を特定したと判定された場合、ステップＳ２１５に進み、合成部２０５は、判定フラグ格納フレームメモリ２０４に記憶されているアンカバードバックグラウンド領域判定フラグ、およびカバードバックグラウンド領域判定フラグを基に、混合領域を示す領域情報を生成し、更に、各画素が、アンカバードバックグラウンド領域、静止領域、動き領域、およびカバードバックグラウンド領域のいずれかに属することを示す領域情報を生成し、生成した領域情報を判定フラグ格納フレームメモリ２０６に設定し、処理は終了する。
【０２９１】
このように、領域特定部１０３は、フレームに含まれている画素のそれぞれについて、動き領域、静止領域、アンカバードバックグラウンド領域、またはカバードバックグラウンド領域に属することを示す領域情報を生成することができる。
【０２９２】
なお、領域特定部１０３は、アンカバードバックグラウンド領域およびカバードバックグラウンド領域に対応する領域情報に論理和を適用することにより、混合領域に対応する領域情報を生成して、フレームに含まれている画素のそれぞれについて、動き領域、静止領域、または混合領域に属することを示すフラグから成る領域情報を生成するようにしてもよい。
【０２９３】
前景に対応するオブジェクトがテクスチャを有す場合、領域特定部１０３は、より正確に動き領域を特定することができる。
【０２９４】
領域特定部１０３は、動き領域を示す領域情報を前景領域を示す領域情報として、また、静止領域を示す領域情報を背景領域を示す領域情報として出力することができる。
【０２９５】
なお、背景に対応するオブジェクトが静止しているとして説明したが、背景領域に対応する画像が動きを含んでいても上述した領域を特定する処理を適用することができる。例えば、背景領域に対応する画像が一様に動いているとき、領域特定部１０３は、この動きに対応して画像全体をシフトさせ、背景に対応するオブジェクトが静止している場合と同様に処理する。また、背景領域に対応する画像が局所毎に異なる動きを含んでいるとき、領域特定部１０３は、動きに対応した画素を選択して、上述の処理を実行する。
【０２９６】
図５４は、領域特定部１０３の構成の他の一例を示すブロック図である。図５４に示す領域特定部１０３は、動きベクトルを使用しない。背景画像生成部３０１は、入力画像に対応する背景画像を生成し、生成した背景画像を２値オブジェクト画像抽出部３０２に供給する。背景画像生成部３０１は、例えば、入力画像に含まれる背景のオブジェクトに対応する画像オブジェクトを抽出して、背景画像を生成する。
【０２９７】
前景のオブジェクトに対応する画像の動き方向に隣接して１列に並ぶ画素の画素値を時間方向に展開したモデル図の例を図５５に示す。例えば、前景のオブジェクトに対応する画像の動き方向が画面に対して水平であるとき、図５５におけるモデル図は、１つのライン上の隣接する画素の画素値を時間方向に展開したモデルを示す。
【０２９８】
図５５において、フレーム#nにおけるラインは、フレーム#n-1およびフレーム#n+1におけるラインと同一である。
【０２９９】
フレーム#nにおいて、左から６番目の画素乃至１７番目の画素に含まれているオブジェクトに対応する前景の成分は、フレーム#n-1において、左から２番目乃至１３番目の画素に含まれ、フレーム#n+1において、左から１０番目乃至２１番目の画素に含まれる。
【０３００】
フレーム#n-1において、カバードバックグラウンド領域に属する画素は、左から１１番目乃至１３番目の画素であり、アンカバードバックグラウンド領域に属する画素は、左から２番目乃至４番目の画素である。フレーム#nにおいて、カバードバックグラウンド領域に属する画素は、左から１５番目乃至１７番目の画素であり、アンカバードバックグラウンド領域に属する画素は、左から６番目乃至８番目の画素である。フレーム#n+1において、カバードバックグラウンド領域に属する画素は、左から１９番目乃至２１番目の画素であり、アンカバードバックグラウンド領域に属する画素は、左から１０番目乃至１２番目の画素である。
【０３０１】
フレーム#n-1において、背景領域に属する画素は、左から１番目の画素、および左から１４番目乃至２１番目の画素である。フレーム#nにおいて、背景領域に属する画素は、左から１番目乃至５番目の画素、および左から１８番目乃至２１番目の画素である。フレーム#n+1において、背景領域に属する画素は、左から１番目乃至９番目の画素である。
【０３０２】
背景画像生成部３０１が生成する、図５５の例に対応する背景画像の例を図５６に示す。背景画像は、背景のオブジェクトに対応する画素から構成され、前景のオブジェクトに対応する画像の成分を含まない。
【０３０３】
２値オブジェクト画像抽出部３０２は、背景画像および入力画像の相関を基に、２値オブジェクト画像を生成し、生成した２値オブジェクト画像を時間変化検出部３０３に供給する。
【０３０４】
図５７は、２値オブジェクト画像抽出部３０２の構成を示すブロック図である。相関値演算部３２１は、背景画像生成部３０１から供給された背景画像および入力画像の相関を演算し、相関値を生成して、生成した相関値をしきい値処理部３２２に供給する。
【０３０５】
相関値演算部３２１は、例えば、図５８（Ａ）に示すように、Ｘ4を中心とした３×３の背景画像の中のブロックと、図５８（Ｂ）に示すように、背景画像の中のブロックに対応するＹ4を中心とした３×３の入力画像の中のブロックに、式（４）を適用して、Ｙ4に対応する相関値を算出する。
【０３０６】
【数２】
Figure 0004596227
【数３】
Figure 0004596227
【数４】
Figure 0004596227
【０３０７】
相関値演算部３２１は、このように各画素に対応して算出された相関値をしきい値処理部３２２に供給する。
【０３０８】
また、相関値演算部３２１は、例えば、図５９（Ａ）に示すように、Ｘ4を中心とした３×３の背景画像の中のブロックと、図５９（Ｂ）に示すように、背景画像の中のブロックに対応するＹ4を中心とした３×３の入力画像の中のブロックに、式（７）を適用して、Ｙ4に対応する差分絶対値を算出するようにしてもよい。
【０３０９】
【数５】
Figure 0004596227
【０３１０】
相関値演算部３２１は、このように算出された差分絶対値を相関値として、しきい値処理部３２２に供給する。
【０３１１】
しきい値処理部３２２は、相関画像の画素値としきい値th0とを比較して、相関値がしきい値th0以下である場合、２値オブジェクト画像の画素値に1を設定し、相関値がしきい値th0より大きい場合、２値オブジェクト画像の画素値に0を設定して、0または1が画素値に設定された２値オブジェクト画像を出力する。しきい値処理部３２２は、しきい値th0を予め記憶するようにしてもよく、または、外部から入力されたしきい値th0を使用するようにしてもよい。
【０３１２】
図６０は、図５５に示す入力画像のモデルに対応する２値オブジェクト画像の例を示す図である。２値オブジェクト画像において、背景画像と相関の高い画素には、画素値に0が設定される。
【０３１３】
図６１は、時間変化検出部３０３の構成を示すブロック図である。フレームメモリ３４１は、フレーム#nの画素について領域を判定するとき、２値オブジェクト画像抽出部３０２から供給された、フレーム#n-1、フレーム#n、およびフレーム#n+1の２値オブジェクト画像を記憶する。
【０３１４】
領域判定部３４２は、フレームメモリ３４１に記憶されているフレーム#n-1、フレーム#n、およびフレーム#n+1の２値オブジェクト画像を基に、フレーム#nの各画素について領域を判定して、領域情報を生成し、生成した領域情報を出力する。
【０３１５】
図６２は、領域判定部３４２の判定を説明する図である。フレーム#nの２値オブジェクト画像の注目している画素が0であるとき、領域判定部３４２は、フレーム#nの注目している画素が背景領域に属すると判定する。
【０３１６】
フレーム#nの２値オブジェクト画像の注目している画素が1であり、フレーム#n-1の２値オブジェクト画像の対応する画素が1であり、フレーム#n+1の２値オブジェクト画像の対応する画素が1であるとき、領域判定部３４２は、フレーム#nの注目している画素が前景領域に属すると判定する。
【０３１７】
フレーム#nの２値オブジェクト画像の注目している画素が1であり、フレーム#n-1の２値オブジェクト画像の対応する画素が0であるとき、領域判定部３４２は、フレーム#nの注目している画素がカバードバックグラウンド領域に属すると判定する。
【０３１８】
フレーム#nの２値オブジェクト画像の注目している画素が1であり、フレーム#n+1の２値オブジェクト画像の対応する画素が0であるとき、領域判定部３４２は、フレーム#nの注目している画素がアンカバードバックグラウンド領域に属すると判定する。
【０３１９】
図６３は、図５５に示す入力画像のモデルに対応する２値オブジェクト画像について、時間変化検出部３０３の判定した例を示す図である。時間変化検出部３０３は、２値オブジェクト画像のフレーム#nの対応する画素が0なので、フレーム#nの左から１番目乃至５番目の画素を背景領域に属すると判定する。
【０３２０】
時間変化検出部３０３は、２値オブジェクト画像のフレーム#nの画素が1であり、フレーム#n+1の対応する画素が0なので、左から６番目乃至９番目の画素をアンカバードバックグラウンド領域に属すると判定する。
【０３２１】
時間変化検出部３０３は、２値オブジェクト画像のフレーム#nの画素が1であり、フレーム#n-1の対応する画素が1であり、フレーム#n+1の対応する画素が1なので、左から１０番目乃至１３番目の画素を前景領域に属すると判定する。
【０３２２】
時間変化検出部３０３は、２値オブジェクト画像のフレーム#nの画素が1であり、フレーム#n-1の対応する画素が0なので、左から１４番目乃至１７番目の画素をカバードバックグラウンド領域に属すると判定する。
【０３２３】
時間変化検出部３０３は、２値オブジェクト画像のフレーム#nの対応する画素が0なので、左から１８番目乃至２１番目の画素を背景領域に属すると判定する。
【０３２４】
次に、図６４のフローチャートを参照して、領域判定部１０３の領域特定の処理を説明する。ステップＳ３０１において、領域判定部１０３の背景画像生成部３０１は、入力画像を基に、例えば、入力画像に含まれる背景のオブジェクトに対応する画像オブジェクトを抽出して背景画像を生成し、生成した背景画像を２値オブジェクト画像抽出部３０２に供給する。
【０３２５】
ステップＳ３０２において、２値オブジェクト画像抽出部３０２は、例えば、図５８を参照して説明した演算により、入力画像と背景画像生成部３０１から供給された背景画像との相関値を演算する。ステップＳ３０３において、２値オブジェクト画像抽出部３０２は、例えば、相関値としきい値th0とを比較することにより、相関値およびしきい値th0から２値オブジェクト画像を演算する。
【０３２６】
ステップＳ３０４において、時間変化検出部３０３は、領域判定の処理を実行して、処理は終了する。
【０３２７】
図６５のフローチャートを参照して、ステップＳ３０４に対応する領域判定の処理の詳細を説明する。ステップＳ３２１において、時間変化検出部３０３の領域判定部３４２は、フレームメモリ３４１に記憶されているフレーム#nにおいて、注目する画素が0であるか否かを判定し、フレーム#nにおいて、注目する画素が0であると判定された場合、ステップＳ３２２に進み、フレーム#nの注目する画素が背景領域に属すると設定して、処理は終了する。
【０３２８】
ステップＳ３２１において、フレーム#nにおいて、注目する画素が1であると判定された場合、ステップＳ３２３に進み、時間変化検出部３０３の領域判定部３４２は、フレームメモリ３４１に記憶されているフレーム#nにおいて、注目する画素が1であり、かつ、フレーム#n-1において、対応する画素が0であるか否かを判定し、フレーム#nにおいて、注目する画素が1であり、かつ、フレーム#n-1において、対応する画素が0であると判定された場合、ステップＳ３２４に進み、フレーム#nの注目する画素がカバードバックグラウンド領域に属すると設定して、処理は終了する。
【０３２９】
ステップＳ３２３において、フレーム#nにおいて、注目する画素が0であるか、または、フレーム#n-1において、対応する画素が1であると判定された場合、ステップＳ３２５に進み、時間変化検出部３０３の領域判定部３４２は、フレームメモリ３４１に記憶されているフレーム#nにおいて、注目する画素が1であり、かつ、フレーム#n+1において、対応する画素が0であるか否かを判定し、フレーム#nにおいて、注目する画素が1であり、かつ、フレーム#n+1において、対応する画素が0であると判定された場合、ステップＳ３２６に進み、フレーム#nの注目する画素がアンカバードバックグラウンド領域に属すると設定して、処理は終了する。
【０３３０】
ステップＳ３２５において、フレーム#nにおいて、注目する画素が0であるか、または、フレーム#n+1において、対応する画素が１であると判定された場合、ステップＳ３２７に進み、時間変化検出部３０３の領域判定部３４２は、フレーム#nの注目する画素を前景領域と設定して、処理は終了する。
【０３３１】
このように、領域特定部１０３は、入力された画像と対応する背景画像との相関値を基に、入力画像の画素が前景領域、背景領域、カバードバックグラウンド領域、およびアンカバードバックグラウンド領域のいずれかに属するかを特定して、特定した結果に対応する領域情報を生成することができる。
【０３３２】
図６６は、領域特定部１０３の他の構成を示すブロック図である。図６６に示す領域特定部１０３は、動き検出部１０２から供給される動きベクトルとその位置情報を使用する。図５４に示す場合と同様の部分には、同一の番号を付してあり、その説明は省略する。
【０３３３】
ロバスト化部３６１は、２値オブジェクト画像抽出部３０２から供給された、Ｎ個のフレームの２値オブジェクト画像を基に、ロバスト化された２値オブジェクト画像を生成して、時間変化検出部３０３に出力する。
【０３３４】
図６７は、ロバスト化部３６１の構成を説明するブロック図である。動き補償部３８１は、動き検出部１０２から供給された動きベクトルとその位置情報を基に、Ｎ個のフレームの２値オブジェクト画像の動きを補償して、動きが補償された２値オブジェクト画像をスイッチ３８２に出力する。
【０３３５】
図６８および図６９の例を参照して、動き補償部３８１の動き補償について説明する。例えば、フレーム#nの領域を判定するとき、図６８に例を示すフレーム#n-1、フレーム#n、およびフレーム#n+1の２値オブジェクト画像が入力された場合、動き補償部３８１は、動き検出部１０２から供給された動きベクトルを基に、図６９に例を示すように、フレーム#n-1の２値オブジェクト画像、およびフレーム#n+1の２値オブジェクト画像を動き補償して、動き補償された２値オブジェクト画像をスイッチ３８２に供給する。
【０３３６】
スイッチ３８２は、１番目のフレームの動き補償された２値オブジェクト画像をフレームメモリ３８３−１に出力し、２番目のフレームの動き補償された２値オブジェクト画像をフレームメモリ３８３−２に出力する。同様に、スイッチ３８２は、３番目乃至Ｎ−１番目のフレームの動き補償された２値オブジェクト画像のそれぞれをフレームメモリ３８３−３乃至フレームメモリ３８３−（Ｎ−１）のいずれかに出力し、Ｎ番目のフレームの動き補償された２値オブジェクト画像をフレームメモリ３８３−Ｎに出力する。
【０３３７】
フレームメモリ３８３−１は、１番目のフレームの動き補償された２値オブジェクト画像を記憶し、記憶されている２値オブジェクト画像を重み付け部３８４−１に出力する。フレームメモリ３８３−２は、２番目のフレームの動き補償された２値オブジェクト画像を記憶し、記憶されている２値オブジェクト画像を重み付け部３８４−２に出力する。
【０３３８】
同様に、フレームメモリ３８３−３乃至フレームメモリ３８３−（Ｎ−１）のそれぞれは、３番目のフレーム乃至Ｎ−１番目のフレームの動き補償された２値オブジェクト画像のいずれかを記憶し、記憶されている２値オブジェクト画像を重み付け部３８４−３乃至重み付け部３８４−（Ｎ−１）のいずれかに出力する。フレームメモリ３８３−Ｎは、Ｎ番目のフレームの動き補償された２値オブジェクト画像を記憶し、記憶されている２値オブジェクト画像を重み付け部３８４−Ｎに出力する。
【０３３９】
重み付け部３８４−１は、フレームメモリ３８３−１から供給された１番目のフレームの動き補償された２値オブジェクト画像の画素値に予め定めた重みw1を乗じて、積算部３８５に供給する。重み付け部３８４−２は、フレームメモリ３８３−２から供給された２番目のフレームの動き補償された２値オブジェクト画像の画素値に予め定めた重みw2を乗じて、積算部３８５に供給する。
【０３４０】
同様に、重み付け部３８４−３乃至重み付け部３８４−（Ｎ−１）のそれぞれは、フレームメモリ３８３−３乃至フレームメモリ３８３−（Ｎ−１）のいずれかから供給された３番目乃至Ｎ−１番目のいずれかのフレームの動き補償された２値オブジェクト画像の画素値に予め定めた重みw3乃至重みw(N-1)のいずれかを乗じて、積算部３８５に供給する。重み付け部３８４−Ｎは、フレームメモリ３８３−Ｎから供給されたＮ番目のフレームの動き補償された２値オブジェクト画像の画素値に予め定めた重みwNを乗じて、積算部３８５に供給する。
【０３４１】
積算部３８５は、１乃至Ｎ番目のフレームの動き補償され、それぞれ重みw1乃至wNのいずれかが乗じられた、２値オブジェクト画像の対応する画素値を積算して、積算された画素値を予め定めたしきい値th0と比較することにより２値オブジェクト画像を生成する。
【０３４２】
このように、ロバスト化部３６１は、Ｎ個の２値オブジェクト画像からロバスト化された２値オブジェト画像を生成して、時間変化検出部３０３に供給するので、図６６に構成を示す領域特定部１０３は、入力画像にノイズが含まれていても、図５４に示す場合に比較して、より正確に領域を特定することができる。
【０３４３】
次に、図６６に構成を示す領域特定部１０３の領域特定の処理について、図７０のフローチャートを参照して説明する。ステップＳ３４１乃至ステップＳ３４３の処理は、図６４のフローチャートで説明したステップＳ３０１乃至ステップＳ３０３とそれぞれ同様なのでその説明は省略する。
【０３４４】
ステップＳ３４４において、ロバスト化部３６１は、ロバスト化の処理を実行する。
【０３４５】
ステップＳ３４５において、時間変化検出部３０３は、領域判定の処理を実行して、処理は終了する。ステップＳ３４５の処理の詳細は、図６５のフローチャートを参照して説明した処理と同様なのでその説明は省略する。
【０３４６】
次に、図７１のフローチャートを参照して、図７０のステップＳ３４４の処理に対応する、ロバスト化の処理の詳細について説明する。ステップＳ３６１において、動き補償部３８１は、動き検出部１０２から供給される動きベクトルとその位置情報を基に、入力された２値オブジェクト画像の動き補償の処理を実行する。ステップＳ３６２において、フレームメモリ３８３−１乃至３８３−Ｎのいずれかは、スイッチ３８２を介して供給された動き補償された２値オブジェクト画像を記憶する。
【０３４７】
ステップＳ３６３において、ロバスト化部３６１は、Ｎ個の２値オブジェクト画像が記憶されたか否かを判定し、Ｎ個の２値オブジェクト画像が記憶されていないと判定された場合、ステップＳ３６１に戻り、２値オブジェクト画像の動き補償の処理および２値オブジェクト画像の記憶の処理を繰り返す。
【０３４８】
ステップＳ３６３において、Ｎ個の２値オブジェクト画像が記憶されたと判定された場合、ステップＳ３６４に進み、重み付け部３８４−１乃至３８４−Ｎのそれぞれは、Ｎ個の２値オブジェクト画像のそれぞれにw1乃至wNのいずれかの重みを乗じて、重み付けする。
【０３４９】
ステップＳ３６５において、積算部３８５は、重み付けされたＮ個の２値オブジェクト画像を積算する。
【０３５０】
ステップＳ３６６において、積算部３８５は、例えば、予め定められたしきい値th1との比較などにより、積算された画像から２値オブジェクト画像を生成して、処理は終了する。
【０３５１】
このように、図６６に構成を示す領域特定部１０３は、ロバスト化された２値オブジェクト画像を基に、領域情報を生成することができる。
【０３５２】
以上のように、領域特定部１０３は、フレームに含まれている画素のそれぞれについて、動き領域、静止領域、アンカバードバックグラウンド領域、またはカバードバックグラウンド領域に属することを示す領域情報を生成することができる。
【０３５３】
図７２は、混合比算出部１０４の構成の一例を示すブロック図である。推定混合比処理部４０１は、入力画像を基に、カバードバックグラウンド領域のモデルに対応する演算により、画素毎に推定混合比を算出して、算出した推定混合比を混合比決定部４０３に供給する。
【０３５４】
推定混合比処理部４０２は、入力画像を基に、アンカバードバックグラウンド領域のモデルに対応する演算により、画素毎に推定混合比を算出して、算出した推定混合比を混合比決定部４０３に供給する。
【０３５５】
前景に対応するオブジェクトがシャッタ時間内に等速で動いていると仮定できるので、混合領域に属する画素の混合比αは、以下の性質を有する。すなわち、混合比αは、画素の位置の変化に対応して、直線的に変化する。画素の位置の変化を１次元とすれば、混合比αの変化は、直線で表現することができ、画素の位置の変化を２次元とすれば、混合比αの変化は、平面で表現することができる。
【０３５６】
なお、１フレームの期間は短いので、前景に対応するオブジェクトが剛体であり、等速で移動していると仮定が成り立つ。
【０３５７】
この場合、混合比αの傾きは、前景のシャッタ時間内での動き量vの逆比となる。
【０３５８】
理想的な混合比αの例を図７３に示す。理想的な混合比αの混合領域における傾きlは、動き量vの逆数として表すことができる。
【０３５９】
図７３に示すように、理想的な混合比αは、背景領域において、１の値を有し、前景領域において、０の値を有し、混合領域において、０を越え１未満の値を有する。
【０３６０】
図７４の例において、フレーム#nの左から７番目の画素の画素値C06は、フレーム#n-1の左から７番目の画素の画素値P06を用いて、式（８）で表すことができる。
【０３６１】
【数６】
Figure 0004596227
【０３６２】
式（８）において、画素値C06を混合領域の画素の画素値Mと、画素値P06を背景領域の画素の画素値Bと表現する。すなわち、混合領域の画素の画素値Mおよび背景領域の画素の画素値Bは、それぞれ、式（９）および式（１０）のように表現することができる。
【０３６３】
M=C06 （９）
B=P06 （１０）
【０３６４】
式（８）中の2/vは、混合比αに対応する。動き量vが４なので、フレーム#nの左から７番目の画素の混合比αは、0.5となる。
【０３６５】
以上のように、注目しているフレーム#nの画素値Cを混合領域の画素値と見なし、フレーム#nの前のフレーム#n-1の画素値Pを背景領域の画素値と見なすことで、混合比αを示す式（３）は、式（１１）のように書き換えられる。
【０３６６】
C=α・P+f （１１）
式（１１）のfは、注目している画素に含まれる前景の成分の和ΣiFi/vである。式（１１）に含まれる変数は、混合比αおよび前景の成分の和fの２つである。
【０３６７】
同様に、アンカバードバックグラウンド領域における、動き量vが４であり、時間方向の仮想分割数が４である、画素値を時間方向に展開したモデルを図７５に示す。
【０３６８】
アンカバードバックグラウンド領域において、上述したカバードバックグラウンド領域における表現と同様に、注目しているフレーム#nの画素値Cを混合領域の画素値と見なし、フレーム#nの後のフレーム#n+1の画素値Nを背景領域の画素値と見なすことで、混合比αを示す式（３）は、式（１２）のように表現することができる。
【０３６９】
C=α・N+f （１２）
【０３７０】
なお、背景のオブジェクトが静止しているとして説明したが、背景のオブジェクトが動いている場合においても、背景の動き量vに対応させた位置の画素の画素値を利用することにより、式（８）乃至式（１２）を適用することができる。例えば、図７４において、背景に対応するオブジェクトの動き量vが２であり、仮想分割数が２であるとき、背景に対応するオブジェクトが図中の右側に動いているとき、式（１０）における背景領域の画素の画素値Bは、画素値P04とされる。
【０３７１】
式（１１）および式（１２）は、それぞれ２つの変数を含むので、そのままでは混合比αを求めることができない。ここで、画像は一般的に空間的に相関が強いので近接する画素同士でほぼ同じ画素値となる。
【０３７２】
そこで、前景成分は、空間的に相関が強いので、前景の成分の和fを前または後のフレームから導き出せるように式を変形して、混合比αを求める。
【０３７３】
図７６のフレーム#nの左から７番目の画素の画素値Mcは、式（１３）で表すことができる。
【０３７４】
【数７】
Figure 0004596227
式（１３）の右辺第１項の2/vは、混合比αに相当する。式（１３）の右辺第２項は、後のフレーム#n+1の画素値を利用して、式（１４）のように表すこととする。
【０３７５】
【数８】
Figure 0004596227
【０３７６】
ここで、前景の成分の空間相関を利用して、式（１５）が成立するとする。
【０３７７】
F=F05=F06=F07=F08=F09=F10=F11=F12 （１５）
式（１４）は、式（１５）を利用して、式（１６）のように置き換えることができる。
【０３７８】
【数９】
Figure 0004596227
結果として、βは、式（１７）で表すことができる。
【０３７９】
β=2/4 （１７）
【０３８０】
一般的に、式（１５）に示すように混合領域に関係する前景の成分が等しいと仮定すると、混合領域の全ての画素について、内分比の関係から式（１８）が成立する。
【０３８１】
β=1-α （１８）
【０３８２】
式（１８）が成立するとすれば、式（１１）は、式（１９）に示すように展開することができる。
【０３８３】
【数１０】
Figure 0004596227
【０３８４】
同様に、式（１８）が成立するとすれば、式（１２）は、式（２０）に示すように展開することができる。
【０３８５】
【数１１】
Figure 0004596227
【０３８６】
式（１９）および式（２０）において、C，N、およびPは、既知の画素値なので、式（１９）および式（２０）に含まれる変数は、混合比αのみである。式（１９）および式（２０）における、C，N、およびPの関係を図７７に示す。Cは、混合比αを算出する、フレーム#nの注目している画素の画素値である。Nは、注目している画素と空間方向の位置が対応する、フレーム#n+1の画素の画素値である。Pは、注目している画素と空間方向の位置が対応する、フレーム#n-1の画素の画素値である。
【０３８７】
従って、式（１９）および式（２０）のそれぞれに１つの変数が含まれることとなるので、３つのフレームの画素の画素値を利用して、混合比αを算出することができる。式（１９）および式（２０）を解くことにより、正しい混合比αが算出されるための条件は、混合領域に関係する前景の成分が等しい、すなわち、前景のオブジェクトが静止しているとき撮像された前景の画像オブジェクトにおいて、前景のオブジェクトの動きの方向に対応する、画像オブジェクトの境界に位置する画素であって、動き量vの２倍の数の連続している画素の画素値が、一定であることである。
【０３８８】
以上のように、カバードバックグラウンド領域に属する画素の混合比αは、式（２１）により算出され、アンカバードバックグラウンド領域に属する画素の混合比αは、式（２２）により算出される。
【０３８９】
α=(C-N)/(P-N) （２１）
α=(C-P)/(N-P) （２２）
【０３９０】
図７８は、推定混合比処理部４０１の構成を示すブロック図である。フレームメモリ４２１は、入力された画像をフレーム単位で記憶し、入力画像として入力されているフレームから１つ後のフレームをフレームメモリ４２２および混合比演算部４２３に供給する。
【０３９１】
フレームメモリ４２２は、入力された画像をフレーム単位で記憶し、フレームメモリ４２１から供給されているフレームから１つ後のフレームを混合比演算部４２３に供給する。
【０３９２】
従って、入力画像としてフレーム#n+1が混合比演算部４２３に入力されているとき、フレームメモリ４２１は、フレーム#nを混合比演算部４２３に供給し、フレームメモリ４２２は、フレーム#n-1を混合比演算部４２３に供給する。
【０３９３】
混合比演算部４２３は、式（２１）に示す演算により、フレーム#nの注目している画素の画素値C、注目している画素と空間的位置が対応する、フレーム#n+1の画素の画素値N、および注目している画素と空間的位置が対応する、フレーム#n-1の画素の画素値Pを基に、注目している画素の推定混合比を算出して、算出した推定混合比を出力する。例えば、背景が静止しているとき、混合比演算部４２３は、フレーム#nの注目している画素の画素値C、注目している画素とフレーム内の位置が同じ、フレーム#n+1の画素の画素値N、および注目している画素とフレーム内の位置が同じ、フレーム#n-1の画素の画素値Pを基に、注目している画素の推定混合比を算出して、算出した推定混合比を出力する。
【０３９４】
このように、推定混合比処理部４０１は、入力画像を基に、推定混合比を算出して、混合比決定部４０３に供給することができる。
【０３９５】
なお、推定混合比処理部４０２は、推定混合比処理部４０１が式（２１）に示す演算により、注目している画素の推定混合比を算出するのに対して、式（２２）に示す演算により、注目している画素の推定混合比を算出する部分が異なることを除き、推定混合比処理部４０１と同様なので、その説明は省略する。
【０３９６】
図７９は、推定混合比処理部４０１により算出された推定混合比の例を示す図である。図７９に示す推定混合比は、等速で動いているオブジェクトに対応する前景の動き量vが１１である場合の結果を、１ラインに対して示すものである。
【０３９７】
推定混合比は、混合領域において、図７３に示すように、ほぼ直線的に変化していることがわかる。
【０３９８】
図７２に戻り、混合比決定部４０３は、領域特定部１０３から供給された、混合比αの算出の対象となる画素が、前景領域、背景領域、カバードバックグラウンド領域、またはアンカバードバックグラウンド領域のいずれかに属するかを示す領域情報を基に、混合比αを設定する。混合比決定部４０３は、対象となる画素が前景領域に属する場合、０を混合比αに設定し、対象となる画素が背景領域に属する場合、１を混合比αに設定し、対象となる画素がカバードバックグラウンド領域に属する場合、推定混合比処理部４０１から供給された推定混合比を混合比αに設定し、対象となる画素がアンカバードバックグラウンド領域に属する場合、推定混合比処理部４０２から供給された推定混合比を混合比αに設定する。混合比決定部４０３は、領域情報を基に設定した混合比αを出力する。
【０３９９】
図８０は、混合比算出部１０４の他の構成を示すブロック図である。選択部４４１は、領域特定部１０３から供給された領域情報を基に、カバードバックグラウンド領域に属する画素および、これに対応する前および後のフレームの画素を推定混合比処理部４４２に供給する。選択部４４１は、領域特定部１０３から供給された領域情報を基に、アンカバードバックグラウンド領域に属する画素および、これに対応する前および後のフレームの画素を推定混合比処理部４４３に供給する。
【０４００】
推定混合比処理部４４２は、選択部４４１から入力された画素値を基に、式（２１）に示す演算により、カバードバックグラウンド領域に属する、注目している画素の推定混合比を算出して、算出した推定混合比を選択部４４４に供給する。
【０４０１】
推定混合比処理部４４３は、選択部４４１から入力された画素値を基に、式（２２）に示す演算により、アンカバードバックグラウンド領域に属する、注目している画素の推定混合比を算出して、算出した推定混合比を選択部４４４に供給する。
【０４０２】
選択部４４４は、領域特定部１０３から供給された領域情報を基に、対象となる画素が前景領域に属する場合、０である推定混合比を選択して、混合比αに設定し、対象となる画素が背景領域に属する場合、１である推定混合比を選択して、混合比αに設定する。選択部４４４は、対象となる画素がカバードバックグラウンド領域に属する場合、推定混合比処理部４４２から供給された推定混合比を選択して混合比αに設定し、対象となる画素がアンカバードバックグラウンド領域に属する場合、推定混合比処理部４４３から供給された推定混合比を選択して混合比αに設定する。選択部４４４は、領域情報を基に選択して設定した混合比αを出力する。
【０４０３】
このように、図８０に示す他の構成を有する混合比算出部１０４は、画像の含まれる画素毎に混合比αを算出して、算出した混合比αを出力することができる。
【０４０４】
図８１のフローチャートを参照して、図７２に構成を示す混合比算出部１０４の混合比αの算出の処理を説明する。ステップＳ４０１において、混合比算出部１０４は、領域特定部１０３から供給された領域情報を取得する。ステップＳ４０２において、推定混合比処理部４０１は、カバードバックグラウンド領域に対応するモデルにより推定混合比の演算の処理を実行し、算出した推定混合比を混合比決定部４０３に供給する。混合比推定の演算の処理の詳細は、図８２のフローチャートを参照して、後述する。
【０４０５】
ステップＳ４０３において、推定混合比処理部４０２は、アンカバードバックグラウンド領域に対応するモデルにより推定混合比の演算の処理を実行し、算出した推定混合比を混合比決定部４０３に供給する。
【０４０６】
ステップＳ４０４において、混合比算出部１０４は、フレーム全体について、混合比αを推定したか否かを判定し、フレーム全体について、混合比αを推定していないと判定された場合、ステップＳ４０２に戻り、次の画素について混合比αを推定する処理を実行する。
【０４０７】
ステップＳ４０４において、フレーム全体について、混合比αを推定したと判定された場合、ステップＳ４０５に進み、混合比決定部４０３は、画素が、前景領域、背景領域、カバードバックグラウンド領域、またはアンカバードバックグラウンド領域のいずれかに属するかを示す、領域特定部１０３から供給された領域情報を基に、混合比αを設定する。混合比決定部４０３は、対象となる画素が前景領域に属する場合、０を混合比αに設定し、対象となる画素が背景領域に属する場合、１を混合比αに設定し、対象となる画素がカバードバックグラウンド領域に属する場合、推定混合比処理部４０１から供給された推定混合比を混合比αに設定し、対象となる画素がアンカバードバックグラウンド領域に属する場合、推定混合比処理部４０２から供給された推定混合比を混合比αに設定し、処理は終了する。
【０４０８】
このように、混合比算出部１０４は、領域特定部１０３から供給された領域情報、および入力画像を基に、各画素に対応する特徴量である混合比αを算出することができる。
【０４０９】
図８０に構成を示す混合比算出部１０４の混合比αの算出の処理は、図８１のフローチャートで説明した処理と同様なので、その説明は省略する。
【０４１０】
次に、図８１のステップＳ４０２に対応する、カバードバックグラウンド領域に対応するモデルによる混合比推定の処理を図８２のフローチャートを参照して説明する。
【０４１１】
ステップＳ４２１において、混合比演算部４２３は、フレームメモリ４２１から、フレーム#nの注目画素の画素値Cを取得する。
【０４１２】
ステップＳ４２２において、混合比演算部４２３は、フレームメモリ４２２から、注目画素に対応する、フレーム#n-1の画素の画素値Pを取得する。
【０４１３】
ステップＳ４２３において、混合比演算部４２３は、入力画像に含まれる注目画素に対応する、フレーム#n+1の画素の画素値Nを取得する。
【０４１４】
ステップＳ４２４において、混合比演算部４２３は、フレーム#nの注目画素の画素値C、フレーム#n-1の画素の画素値P、およびフレーム#n+1の画素の画素値Nを基に、推定混合比を演算する。
【０４１５】
ステップＳ４２５において、混合比演算部４２３は、フレーム全体について、推定混合比を演算する処理を終了したか否かを判定し、フレーム全体について、推定混合比を演算する処理を終了していないと判定された場合、ステップＳ４２１に戻り、次の画素について推定混合比を算出する処理を繰り返す。
【０４１６】
ステップＳ４２５において、フレーム全体について、推定混合比を演算する処理を終了したと判定された場合、処理は終了する。
【０４１７】
このように、推定混合比処理部４０１は、入力画像を基に、推定混合比を演算することができる。
【０４１８】
図８１のステップＳ４０３におけるアンカバードバックグラウンド領域に対応するモデルによる混合比推定の処理は、アンカバードバックグラウンド領域のモデルに対応する式を利用した、図８２のフローチャートに示す処理と同様なので、その説明は省略する。
【０４１９】
なお、図８０に示す推定混合比処理部４４２および推定混合比処理部４４３は、図８２に示すフローチャートと同様の処理を実行して推定混合比を演算するので、その説明は省略する。
【０４２０】
また、背景に対応するオブジェクトが静止しているとして説明したが、背景領域に対応する画像が動きを含んでいても上述した混合比αを求める処理を適用することができる。例えば、背景領域に対応する画像が一様に動いているとき、推定混合比処理部４０１は、背景の動きに対応して画像全体をシフトさせ、背景に対応するオブジェクトが静止している場合と同様に処理する。また、背景領域に対応する画像が局所毎に異なる背景の動きを含んでいるとき、推定混合比処理部４０１は、混合領域に属する画素に対応する画素として、背景の動きに対応した画素を選択して、上述の処理を実行する。
【０４２１】
また、混合比算出部１０４は、全ての画素について、カバードバックグラウンド領域に対応するモデルによる混合比推定の処理のみを実行して、算出された推定混合比を混合比αとして出力するようにしてもよい。この場合において、混合比αは、カバードバックグラウンド領域に属する画素について、背景の成分の割合を示し、アンカバードバックグラウンド領域に属する画素について、前景の成分の割合を示す。アンカバードバックグラウンド領域に属する画素について、このように算出された混合比αと１との差分の絶対値を算出して、算出した絶対値を混合比αに設定すれば、分離処理サーバ１１は、アンカバードバックグラウンド領域に属する画素について、背景の成分の割合を示す混合比αを求めることができる。
【０４２２】
なお、同様に、混合比算出部１０４は、全ての画素について、アンカバードバックグラウンド領域に対応するモデルによる混合比推定の処理のみを実行して、算出された推定混合比を混合比αとして出力するようにしてもよい。
【０４２３】
次に、混合比αが直線的に変化する性質を利用して混合比αを算出する混合比算出部１０４について説明する。
【０４２４】
上述したように、式（１１）および式（１２）は、それぞれ２つの変数を含むので、そのままでは混合比αを求めることができない。
【０４２５】
そこで、シャッタ時間内において、前景に対応するオブジェクトが等速で動くことによる、画素の位置の変化に対応して、混合比αが直線的に変化する性質を利用して、空間方向に、混合比αと前景の成分の和fとを近似した式を立てる。混合領域に属する画素の画素値および背景領域に属する画素の画素値の組の複数を利用して、混合比αと前景の成分の和fとを近似した式を解く。
【０４２６】
混合比αの変化を、直線として近似すると、混合比αは、式（２３）で表される。
【０４２７】
α=il+p （２３）
式（２３）において、iは、注目している画素の位置を０とした空間方向のインデックスである。lは、混合比αの直線の傾きである。pは、混合比αの直線の切片である共に、注目している画素の混合比αである。式（２３）において、インデックスiは、既知であるが、傾きlおよび切片pは、未知である。
【０４２８】
インデックスi、傾きl、および切片pの関係を図８３に示す。
【０４２９】
混合比αを式（２３）のように近似することにより、複数の画素に対して複数の異なる混合比αは、２つの変数で表現される。図８３に示す例において、５つの画素に対する５つの混合比は、２つの変数である傾きlおよび切片pにより表現される。
【０４３０】
図８４に示す平面で混合比αを近似すると、画像の水平方向および垂直方向の２つの方向に対応する動きvを考慮したとき、式（２３）を平面に拡張して、混合比αは、式（２４）で表される。
【０４３１】
α=jm+kq+p （２４）
式（２４）において、jは、注目している画素の位置を０とした水平方向のインデックスであり、kは、垂直方向のインデックスである。mは、混合比αの面の水平方向の傾きであり、qは、混合比αの面の垂直方向の傾きである。pは、混合比αの面の切片である。
【０４３２】
例えば、図７４に示すフレーム#nにおいて、C05乃至C07について、それぞれ、式（２５）乃至式（２７）が成立する。
【０４３３】
C05=α05・B05/v+f05 （２５）
C06=α06・B06/v+f06 （２６）
C07=α07・B07/v+f07 （２７）
【０４３４】
前景の成分が近傍で一致する、すなわち、F01乃至F03が等しいとして、F01乃至F03をFcに置き換えると式（２８）が成立する。
【０４３５】
f(x)=(1-α(x))・Fc （２８）
式（２８）において、xは、空間方向の位置を表す。
【０４３６】
α（ｘ）を式（２４）で置き換えると、式（２８）は、式（２９）として表すことができる。
【０４３７】
Figure 0004596227
【０４３８】
式（２９）において、（-m・Fc）、（-q・Fc）、および(1-p)・Fcは、式（３０）乃至式（３２）に示すように置き換えられている。
【０４３９】
s=-m・Fc （３０）
t=-q・Fc （３１）
u=(1-p)・Fc （３２）
【０４４０】
式（２９）において、jは、注目している画素の位置を０とした水平方向のインデックスであり、kは、垂直方向のインデックスである。
【０４４１】
このように、前景に対応するオブジェクトがシャッタ時間内において等速に移動し、前景に対応する成分が近傍において一定であるという仮定が成立するので、前景の成分の和は、式（２９）で近似される。
【０４４２】
なお、混合比αを直線で近似する場合、前景の成分の和は、式（３３）で表すことができる。
【０４４３】
f(x)=is+u （３３）
【０４４４】
式（１３）の混合比αおよび前景成分の和を、式（２４）および式（２９）を利用して置き換えると、画素値Mは、式（３４）で表される。
【０４４５】
Figure 0004596227
【０４４６】
式（３４）において、未知の変数は、混合比αの面の水平方向の傾きm、混合比αの面の垂直方向の傾きq、混合比αの面の切片p、s、t、およびuの６つである。
【０４４７】
注目している画素の近傍の画素に対応させて、式（３４）に示す正規方程式に、画素値Mまたは画素値Bを設定し、画素値Mまたは画素値Bが設定された複数の正規方程式を最小自乗法で解いて、混合比αを算出する。
【０４４８】
例えば、注目している画素の水平方向のインデックスjを０とし、垂直方向のインデックスkを０とし、注目している画素の近傍の３×３の画素について、式（３４）に示す正規方程式に画素値Mまたは画素値Bを設定すると、式（３５）乃至式（４３）を得る。
【０４４９】
Figure 0004596227
【０４５０】
注目している画素の水平方向のインデックスjが０であり、垂直方向のインデックスkが０であるので、注目している画素の混合比αは、式（２４）より、j=0およびk=0のときの値、すなわち、切片pに等しい。
【０４５１】
従って、式（３５）乃至式（４３）の９つの式を基に、最小自乗法により、水平方向の傾きm、垂直方向の傾きq、切片p、s、t、およびuのそれぞれの値を算出し、切片pを混合比αとして出力すればよい。
【０４５２】
次に、最小自乗法を適用して混合比αを算出するより具体的な手順を説明する。
【０４５３】
インデックスiおよびインデックスkを１つのインデックスxで表現すると、インデックスi、インデックスk、およびインデックスxの関係は、式（４４）で表される。
【０４５４】
x=(j+1)・3+(k+1) （４４）
【０４５５】
水平方向の傾きm、垂直方向の傾きq、切片p、s、t、およびuをそれぞれ変数w0,w1,w2,w3,w4、およびW5と表現し、jB,kB,B,j,k、および1をそれぞれa0,a1,a2,a3,a4、およびa5と表現する。誤差exを考慮すると、式（３５）乃至式（４３）は、式（４５）に書き換えることができる。
【０４５６】
【数１２】
Figure 0004596227
式（４５）において、xは、０乃至８の整数のいずれかの値である。
【０４５７】
式（４５）から、式（４６）を導くことができる。
【０４５８】
【数１３】
Figure 0004596227
【０４５９】
ここで、最小自乗法を適用するため、誤差の自乗和Eを式（４７）に示すようにに定義する。
【０４６０】
【数１４】
Figure 0004596227
【０４６１】
誤差が最小になるためには、誤差の自乗和Eに対する、変数Wvの偏微分が０になればよい。ここで、vは、０乃至５の整数のいずれかの値である。従って、式（４８）を満たすようにwyを求める。
【０４６２】
【数１５】
Figure 0004596227
【０４６３】
式（４８）に式（４６）を代入すると、式（４９）を得る。
【０４６４】
【数１６】
Figure 0004596227
【０４６５】
式（４９）のvに０乃至５の整数のいずれか１つを代入して得られる６つの式に、例えば、掃き出し法（Gauss-Jordanの消去法）などを適用して、wyを算出する。上述したように、w0は水平方向の傾きmであり、w1は垂直方向の傾きqであり、w2は切片pであり、w3はsであり、w4はtであり、w5はuである。
【０４６６】
以上のように、画素値Mおよび画素値Bを設定した式に、最小自乗法を適用することにより、水平方向の傾きm、垂直方向の傾きq、切片p、s、t、およびuを求めることができる。
【０４６７】
式（３５）乃至式（４３）に対応する説明において、混合領域に含まれる画素の画素値をMとし、背景領域に含まれる画素の画素値をBとして説明したが、注目している画素が、カバードバックグラウンド領域に含まれる場合、またはアンカバードバックグラウンド領域に含まれる場合のそれぞれに対して、正規方程式を立てる必要がある。
【０４６８】
例えば、図７４に示す、フレーム#nのカバードバックグラウンド領域に含まれる画素の混合比αを求める場合、フレーム#nの画素のC04乃至C08、およびフレーム#n-1の画素の画素値P04乃至P08が、正規方程式に設定される。
【０４６９】
図７５に示す、フレーム#nのアンカバードバックグラウンド領域に含まれる画素の混合比αを求める場合、フレーム#nの画素のC28乃至C32、およびフレーム#n+1の画素の画素値N28乃至N32が、正規方程式に設定される。
【０４７０】
また、例えば、図８５に示す、カバードバックグラウンド領域に含まれる画素の混合比αを算出するとき、以下の式（５０）乃至式（５８）が立てられる。混合比αを算出する画素の画素値は、Mc5である。
【０４７１】
Mc1=(-1)・Bc1・m+(-1)・Bc1・q+Bc1・p+(-1)・s+(-1)・t+u （５０）
Mc2=(0)・Bc2・m+(-1)・Bc2・q+Bc2・p+(0)・s+(-1)・t+u （５１）
Mc3=(+1)・Bc3・m+(-1)・Bc3・q+Bc3・p+(+1)・s+(-1)・t+u （５２）
Mc4=(-1)・Bc4・m+(0)・Bc4・q+Bc4・p+(-1)・s+(0)・t+u （５３）
Mc5=(0)・Bc5・m+(0)・Bc5・q+Bc5・p+(0)・s+(0)・t+u （５４）
Mc6=(+1)・Bc6・m+(0)・Bc6・q+Bc6・p+(+1)・s+(0)・t+u （５５）
Mc7=(-1)・Bc7・m+(+1)・Bc7・q+Bc7・p+(-1)・s+(+1)・t+u （５６）
Mc8=(0)・Bc8・m+(+1)・Bc8・q+Bc8・p+(0)・s+(+1)・t+u （５７）
Mc9=(+1)・Bc9・m+(+1)・Bc9・q+Bc9・p+(+1)・s+(+1)・t+u （５８）
【０４７２】
フレーム#nのカバードバックグラウンド領域に含まれる画素の混合比αを算出するとき、式（５０）乃至式（５８）において、フレーム#nの画素に対応する、フレーム#n-1の画素の背景領域の画素の画素値Bc1乃至Bc9が使用される。
【０４７３】
図８５に示す、アンカバードバックグラウンド領域に含まれる画素の混合比αを算出するとき、以下の式（５９）乃至式（６７）が立てられる。混合比αを算出する画素の画素値は、Mu5である。
【０４７４】
Mu1=(-1)・Bu1・m+(-1)・Bu1・q+Bu1・p+(-1)・s+(-1)・t+u （５９）
Mu2=(0)・Bu2・m+(-1)・Bu2・q+Bu2・p+(0)・s+(-1)・t+u （６０）
Mu3=(+1)・Bu3・m+(-1)・Bu3・q+Bu3・p+(+1)・s+(-1)・t+u （６１）
Mu4=(-1)・Bu4・m+(0)・Bu4・q+Bu4・p+(-1)・s+(0)・t+u （６２）
Mu5=(0)・Bu5・m+(0)・Bu5・q+Bu5・p+(0)・s+(0)・t+u （６３）
Mu6=(+1)・Bu6・m+(0)・Bu6・q+Bu6・p+(+1)・s+(0)・t+u （６４）
Mu7=(-1)・Bu7・m+(+1)・Bu7・q+Bu7・p+(-1)・s+(+1)・t+u （６５）
Mu8=(0)・Bu8・m+(+1)・Bu8・q+Bu8・p+(0)・s+(+1)・t+u （６６）
Mu9=(+1)・Bu9・m+(+1)・Bu9・q+Bu9・p+(+1)・s+(+1)・t+u （６７）
【０４７５】
フレーム#nのアンカバードバックグラウンド領域に含まれる画素の混合比αを算出するとき、式（５９）乃至式（６７）において、フレーム#nの画素に対応する、フレーム#n+1の画素の背景領域の画素の画素値Bu1乃至Bu9が使用される。
【０４７６】
図８６は、推定混合比処理部４０１の構成を示すブロック図である。推定混合比処理部４０１に入力された画像は、遅延部５０１および足し込み部５０２に供給される。
【０４７７】
遅延回路２２１は、入力画像を１フレーム遅延させ、足し込み部５０２に供給する。足し込み部５０２に、入力画像としてフレーム#nが入力されているとき、遅延回路２２１は、フレーム#n-1を足し込み部５０２に供給する。
【０４７８】
足し込み部５０２は、混合比αを算出する画素の近傍の画素の画素値、およびフレーム#n-1の画素値を、正規方程式に設定する。例えば、足し込み部５０２は、式（５０）乃至式（５８）に基づいて、正規方程式に画素値Mc1乃至Mc9および画素値Bc1乃至Bc9を設定する。足し込み部５０２は、画素値が設定された正規方程式を演算部５０３に供給する。
【０４７９】
演算部５０３は、足し込み部５０２から供給された正規方程式を掃き出し法などにより解いて推定混合比を求め、求められた推定混合比を出力する。
【０４８０】
このように、推定混合比処理部４０１は、入力画像を基に、推定混合比を算出して、混合比決定部４０３に供給することができる。
【０４８１】
なお、推定混合比処理部４０２は、推定混合比処理部４０１と同様の構成を有するので、その説明は省略する。
【０４８２】
図８７は、推定混合比処理部４０１により算出された推定混合比の例を示す図である。図８７に示す推定混合比は、等速で動いているオブジェクトに対応する前景の動きvが１１であり、７×７画素のブロックを単位として方程式を生成して算出された結果を、１ラインに対して示すものである。
【０４８３】
推定混合比は、混合領域において、図８６に示すように、ほぼ直線的に変化していることがわかる。
【０４８４】
次に、図８６に構成を示す推定混合比処理部４０１による、カバードバックグラウンド領域に対応するモデルによる混合比推定の処理を図８８のフローチャートを参照して説明する。
【０４８５】
ステップＳ５２１において、足し込み部５０２は、入力された画像に含まれる画素値、および遅延回路２２１から供給される画像に含まれる画素値を、カバードバックグラウンド領域のモデルに対応する正規方程式に設定する。
【０４８６】
ステップＳ５２２において、推定混合比処理部４０１は、対象となる画素についての設定が終了したか否かを判定し、対象となる画素についての設定が終了していないと判定された場合、ステップＳ５２１に戻り、正規方程式への画素値の設定の処理を繰り返す。
【０４８７】
ステップＳ５２２において、対象となる画素についての画素値の設定が終了したと判定された場合、ステップＳ５２３に進み、演算部１７３は、画素値が設定された正規方程式を基に、推定混合比を演算して、求められた推定混合比を出力する。
【０４８８】
このように、図８６に構成を示す推定混合比処理部４０１は、入力画像を基に、推定混合比を演算することができる。
【０４８９】
アンカバードバックグラウンド領域に対応するモデルによる混合比推定の処理は、アンカバードバックグラウンド領域のモデルに対応する正規方程式を利用した、図８８のフローチャートに示す処理と同様なので、その説明は省略する。
【０４９０】
なお、背景に対応するオブジェクトが静止しているとして説明したが、背景領域に対応する画像が動きを含んでいても上述した混合比を求める処理を適用することができる。例えば、背景領域に対応する画像が一様に動いているとき、推定混合比処理部４０１は、この動きに対応して画像全体をシフトさせ、背景に対応するオブジェクトが静止している場合と同様に処理する。また、背景領域に対応する画像が局所毎に異なる動きを含んでいるとき、推定混合比処理部４０１は、混合領域に属する画素に対応する画素として、動きに対応した画素を選択して、上述の処理を実行する。
【０４９１】
このように、混合比算出部１０２は、領域特定部１０１から供給された領域情報、および入力画像を基に、各画素に対応する特徴量である混合比αを算出することができる。
【０４９２】
混合比αを利用することにより、動いているオブジェクトに対応する画像に含まれる動きボケの情報を残したままで、画素値に含まれる前景の成分と背景の成分とを分離することが可能になる。
【０４９３】
また、混合比αに基づいて画像を合成すれば、実世界を実際に撮影し直したような動いているオブジェクトのスピードに合わせた正しい動きボケを含む画像を作ることが可能になる。
【０４９４】
次に、前景背景分離部１０５について説明する。図８９は、前景背景分離部１０５の構成の一例を示すブロック図である。前景背景分離部１０５に供給された入力画像は、分離部６０１、スイッチ６０２、およびスイッチ６０４に供給される。カバードバックグラウンド領域を示す情報、およびアンカバードバックグラウンド領域を示す、領域特定部１０３から供給された領域情報は、分離部６０１に供給される。前景領域を示す領域情報は、スイッチ６０２に供給される。背景領域を示す領域情報は、スイッチ６０４に供給される。
【０４９５】
混合比算出部１０４から供給された混合比αは、分離部６０１に供給される。
【０４９６】
分離部６０１は、カバードバックグラウンド領域を示す領域情報、アンカバードバックグラウンド領域を示す領域情報、および混合比αを基に、入力画像から前景の成分を分離して、分離した前景の成分を合成部６０３に供給するとともに、入力画像から背景の成分を分離して、分離した背景の成分を合成部６０５に供給する。
【０４９７】
スイッチ６０２は、前景領域を示す領域情報を基に、前景に対応する画素が入力されたとき、閉じられ、入力画像に含まれる前景に対応する画素のみを合成部６０３に供給する。
【０４９８】
スイッチ６０４は、背景領域を示す領域情報を基に、背景に対応する画素が入力されたとき、閉じられ、入力画像に含まれる背景に対応する画素のみを合成部６０５に供給する。
【０４９９】
合成部６０３は、分離部６０１から供給された前景に対応する成分、スイッチ６０２から供給された前景に対応する画素を基に、前景成分画像を合成し、合成した前景成分画像を出力する。前景領域と混合領域とは重複しないので、合成部６０３は、例えば、前景に対応する成分と、前景に対応する画素とに論理和の演算を適用して、前景成分画像を合成する。
【０５００】
合成部６０３は、前景成分画像の合成の処理の最初に実行される初期化の処理において、内蔵しているフレームメモリに全ての画素値が０である画像を格納し、前景成分画像の合成の処理において、前景成分画像を格納（上書き）する。従って、合成部６０３が出力する前景成分画像の内、背景領域に対応する画素には、画素値として０が格納されている。
【０５０１】
合成部６０５は、分離部６０１から供給された背景に対応する成分、スイッチ６０４から供給された背景に対応する画素を基に、背景成分画像を合成して、合成した背景成分画像を出力する。背景領域と混合領域とは重複しないので、合成部６０５は、例えば、背景に対応する成分と、背景に対応する画素とに論理和の演算を適用して、背景成分画像を合成する。
【０５０２】
合成部６０５は、背景成分画像の合成の処理の最初に実行される初期化の処理において、内蔵しているフレームメモリに全ての画素値が０である画像を格納し、背景成分画像の合成の処理において、背景成分画像を格納（上書き）する。従って、合成部６０５が出力する背景成分画像の内、前景領域に対応する画素には、画素値として０が格納されている。
【０５０３】
図９０は、前景背景分離部１０５に入力される入力画像、並びに前景背景分離部１０５から出力される前景成分画像および背景成分画像を示す図である。
【０５０４】
図９０（Ａ）は、表示される画像の模式図であり、図９０（Ｂ）は、図９０（Ａ）に対応する前景領域に属する画素、背景領域に属する画素、および混合領域に属する画素を含む１ラインの画素を時間方向に展開したモデル図を示す。
【０５０５】
図９０（Ａ）および図９０（Ｂ）に示すように、前景背景分離部１０５から出力される背景成分画像は、背景領域に属する画素、および混合領域の画素に含まれる背景の成分から構成される。
【０５０６】
図９０（Ａ）および図９０（Ｂ）に示すように、前景背景分離部１０５から出力される前景成分画像は、前景領域に属する画素、および混合領域の画素に含まれる前景の成分から構成される。
【０５０７】
混合領域の画素の画素値は、前景背景分離部１０５により、背景の成分と、前景の成分とに分離される。分離された背景の成分は、背景領域に属する画素と共に、背景成分画像を構成する。分離された前景の成分は、前景領域に属する画素と共に、前景成分画像を構成する。
【０５０８】
このように、前景成分画像は、背景領域に対応する画素の画素値が０とされ、前景領域に対応する画素および混合領域に対応する画素に意味のある画素値が設定される。同様に、背景成分画像は、前景領域に対応する画素の画素値が０とされ、背景領域に対応する画素および混合領域に対応する画素に意味のある画素値が設定される。
【０５０９】
次に、分離部６０１が実行する、混合領域に属する画素から前景の成分、および背景の成分を分離する処理について説明する。
【０５１０】
図９１は、図中の左から右に移動するオブジェクトに対応する前景を含む、２つのフレームの前景の成分および背景の成分を示す画像のモデルである。図９１に示す画像のモデルにおいて、前景の動き量vは４であり、仮想分割数は、４とされている。
【０５１１】
フレーム#nにおいて、最も左の画素、および左から１４番目乃至１８番目の画素は、背景の成分のみから成り、背景領域に属する。フレーム#nにおいて、左から２番目乃至４番目の画素は、背景の成分および前景の成分を含み、アンカバードバックグラウンド領域に属する。フレーム#nにおいて、左から１１番目乃至１３番目の画素は、背景の成分および前景の成分を含み、カバードバックグラウンド領域に属する。フレーム#nにおいて、左から５番目乃至１０番目の画素は、前景の成分のみから成り、前景領域に属する。
【０５１２】
フレーム#n+1において、左から１番目乃至５番目の画素、および左から１８番目の画素は、背景の成分のみから成り、背景領域に属する。フレーム#n+1において、左から６番目乃至８番目の画素は、背景の成分および前景の成分を含み、アンカバードバックグラウンド領域に属する。フレーム#n+1において、左から１５番目乃至１７番目の画素は、背景の成分および前景の成分を含み、カバードバックグラウンド領域に属する。フレーム#n+1において、左から９番目乃至１４番目の画素は、前景の成分のみから成り、前景領域に属する。
【０５１３】
図９２は、カバードバックグラウンド領域に属する画素から前景の成分を分離する処理を説明する図である。図９２において、α１乃至α１８は、フレーム#nにおける画素のぞれぞれに対応する混合比である。図９２において、左から１５番目乃至１７番目の画素は、カバードバックグラウンド領域に属する。
【０５１４】
フレーム#nの左から１５番目の画素の画素値C15は、式（６８）で表される。
【０５１５】
Figure 0004596227
ここで、α15は、フレーム#nの左から１５番目の画素の混合比である。P15は、フレーム#n-1の左から１５番目の画素の画素値である。
【０５１６】
式（６８）を基に、フレーム#nの左から１５番目の画素の前景の成分の和f15は、式（６９）で表される。
【０５１７】
Figure 0004596227
【０５１８】
同様に、フレーム#nの左から１６番目の画素の前景の成分の和f16は、式（７０）で表され、フレーム#nの左から１７番目の画素の前景の成分の和f17は、式（７１）で表される。
【０５１９】
f16=C16-α16・P16 （７０）
f17=C17-α17・P17 （７１）
【０５２０】
このように、カバードバックグラウンド領域に属する画素の画素値Cに含まれる前景の成分fcは、式（７２）で計算される。
【０５２１】
fc=C-α・P （７２）
Pは、１つ前のフレームの、対応する画素の画素値である。
【０５２２】
図９３は、アンカバードバックグラウンド領域に属する画素から前景の成分を分離する処理を説明する図である。図９３において、α１乃至α１８は、フレーム#nにおける画素のぞれぞれに対応する混合比である。図９３において、左から２番目乃至４番目の画素は、アンカバードバックグラウンド領域に属する。
【０５２３】
フレーム#nの左から２番目の画素の画素値C02は、式（７３）で表される。
【０５２４】
Figure 0004596227
ここで、α2は、フレーム#nの左から２番目の画素の混合比である。N02は、フレーム#n+1の左から２番目の画素の画素値である。
【０５２５】
式（７３）を基に、フレーム#nの左から２番目の画素の前景の成分の和f02は、式（７４）で表される。
【０５２６】
Figure 0004596227
【０５２７】
同様に、フレーム#nの左から３番目の画素の前景の成分の和f03は、式（７５）で表され、フレーム#nの左から４番目の画素の前景の成分の和f04は、式（７６）で表される。
【０５２８】
f03=C03-α3・N03 （７５）
f04=C04-α4・N04 （７６）
【０５２９】
このように、アンカバードバックグラウンド領域に属する画素の画素値Cに含まれる前景の成分fuは、式（７７）で計算される。
【０５３０】
fu=C-α・N （７７）
Nは、１つ後のフレームの、対応する画素の画素値である。
【０５３１】
このように、分離部６０１は、領域情報に含まれる、カバードバックグラウンド領域を示す情報、およびアンカバードバックグラウンド領域を示す情報、並びに画素毎の混合比αを基に、混合領域に属する画素から前景の成分、および背景の成分を分離することができる。
【０５３２】
図９４は、以上で説明した処理を実行する分離部６０１の構成の一例を示すブロック図である。分離部６０１に入力された画像は、フレームメモリ６２１に供給され、混合比算出部１０４から供給されたカバードバックグラウンド領域およびアンカバードバックグラウンド領域を示す領域情報、並びに混合比αは、分離処理ブロック６２２に入力される。
【０５３３】
フレームメモリ６２１は、入力された画像をフレーム単位で記憶する。フレームメモリ６２１は、処理の対象がフレーム#nであるとき、フレーム#nの１つ前のフレームであるフレーム#n-1、フレーム#n、およびフレーム#nの１つ後のフレームであるフレーム#n+1を記憶する。
【０５３４】
フレームメモリ６２１は、フレーム#n-1、フレーム#n、およびフレーム#n+1の対応する画素を分離処理ブロック６２２に供給する。
【０５３５】
分離処理ブロック６２２は、カバードバックグラウンド領域およびアンカバードバックグラウンド領域を示す領域情報、並びに混合比αを基に、フレームメモリ６２１から供給されたフレーム#n-1、フレーム#n、およびフレーム#n+1の対応する画素の画素値に図９２および図９３を参照して説明した演算を適用して、フレーム#nの混合領域に属する画素から前景の成分および背景の成分を分離して、フレームメモリ６２３に供給する。
【０５３６】
分離処理ブロック６２２は、アンカバード領域処理部６３１、カバード領域処理部６３２、合成部６３３、および合成部６３４で構成されている。
【０５３７】
アンカバード領域処理部６３１の乗算器６４１は、混合比αを、フレームメモリ６２１から供給されたフレーム#n+1の画素の画素値に乗じて、スイッチ６４２に出力する。スイッチ６４２は、フレームメモリ６２１から供給されたフレーム#nの画素（フレーム#n+1の画素に対応する）がアンカバードバックグラウンド領域であるとき、閉じられ、乗算器６４１から供給された混合比αを乗じた画素値を演算器６４３および合成部６３４に供給する。スイッチ６４２から出力されるフレーム#n+1の画素の画素値に混合比αを乗じた値は、フレーム#nの対応する画素の画素値の背景の成分に等しい。
【０５３８】
演算器６４３は、フレームメモリ６２１から供給されたフレーム#nの画素の画素値から、スイッチ６４２から供給された背景の成分を減じて、前景の成分を求める。演算器６４３は、アンカバードバックグラウンド領域に属する、フレーム#nの画素の前景の成分を合成部６３３に供給する。
【０５３９】
カバード領域処理部６３２の乗算器６５１は、混合比αを、フレームメモリ６２１から供給されたフレーム#n-1の画素の画素値に乗じて、スイッチ６５２に出力する。スイッチ６５２は、フレームメモリ６２１から供給されたフレーム#nの画素（フレーム#n-1の画素に対応する）がカバードバックグラウンド領域であるとき、閉じられ、乗算器６５１から供給された混合比αを乗じた画素値を演算器６５３および合成部６３４に供給する。スイッチ６５２から出力されるフレーム#n-1の画素の画素値に混合比αを乗じた値は、フレーム#nの対応する画素の画素値の背景の成分に等しい。
【０５４０】
演算器６５３は、フレームメモリ６２１から供給されたフレーム#nの画素の画素値から、スイッチ６５２から供給された背景の成分を減じて、前景の成分を求める。演算器６５３は、カバードバックグラウンド領域に属する、フレーム#nの画素の前景の成分を合成部６３３に供給する。
【０５４１】
合成部６３３は、フレーム#nの、演算器６４３から供給された、アンカバードバックグラウンド領域に属する画素の前景の成分、および演算器６５３から供給された、カバードバックグラウンド領域に属する画素の前景の成分を合成して、フレームメモリ６２３に供給する。
【０５４２】
合成部６３４は、フレーム#nの、スイッチ６４２から供給された、アンカバードバックグラウンド領域に属する画素の背景の成分、およびスイッチ６５２から供給された、カバードバックグラウンド領域に属する画素の背景の成分を合成して、フレームメモリ６２３に供給する。
【０５４３】
フレームメモリ６２３は、分離処理ブロック６２２から供給された、フレーム#nの混合領域の画素の前景の成分と、背景の成分とをそれぞれに記憶する。
【０５４４】
フレームメモリ６２３は、記憶しているフレーム#nの混合領域の画素の前景の成分、および記憶しているフレーム#nの混合領域の画素の背景の成分を出力する。
【０５４５】
特徴量である混合比αを利用することにより、画素値に含まれる前景の成分と背景の成分とを完全に分離することが可能になる。
【０５４６】
合成部６０３は、分離部６０１から出力された、フレーム#nの混合領域の画素の前景の成分と、前景領域に属する画素とを合成して前景成分画像を生成する。合成部６０５は、分離部６０１から出力された、フレーム#nの混合領域の画素の背景の成分と、背景領域に属する画素とを合成して背景成分画像を生成する。
【０５４７】
図９５は、図９１のフレーム#nに対応する、前景成分画像の例と、背景成分画像の例を示す図である。
【０５４８】
図９５（Ａ）は、図９１のフレーム#nに対応する、前景成分画像の例を示す。最も左の画素、および左から１４番目の画素は、前景と背景が分離される前において、背景の成分のみから成っていたので、画素値が０とされる。
【０５４９】
左から２番目乃至４番目の画素は、前景と背景とが分離される前において、アンカバードバックグラウンド領域に属し、背景の成分が０とされ、前景の成分がそのまま残されている。左から１１番目乃至１３番目の画素は、前景と背景とが分離される前において、カバードバックグラウンド領域に属し、背景の成分が０とされ、前景の成分がそのまま残されている。左から５番目乃至１０番目の画素は、前景の成分のみから成るので、そのまま残される。
【０５５０】
図９５（Ｂ）は、図９１のフレーム#nに対応する、背景成分画像の例を示す。最も左の画素、および左から１４番目の画素は、前景と背景とが分離される前において、背景の成分のみから成っていたので、そのまま残される。
【０５５１】
左から２番目乃至４番目の画素は、前景と背景とが分離される前において、アンカバードバックグラウンド領域に属し、前景の成分が０とされ、背景の成分がそのまま残されている。左から１１番目乃至１３番目の画素は、前景と背景とが分離される前において、カバードバックグラウンド領域に属し、前景の成分が０とされ、背景の成分がそのまま残されている。左から５番目乃至１０番目の画素は、前景と背景とが分離される前において、前景の成分のみから成っていたので、画素値が０とされる。
【０５５２】
次に、図９６に示すフローチャートを参照して、前景背景分離部１０５による前景と背景との分離の処理を説明する。ステップＳ６０１において、分離部６０１のフレームメモリ６２１は、入力画像を取得し、前景と背景との分離の対象となるフレーム#nを、その前のフレーム#n-1およびその後のフレーム#n+1と共に記憶する。
【０５５３】
ステップＳ６０２において、分離部６０１の分離処理ブロック６２２は、混合比算出部１０４から供給された領域情報を取得する。ステップＳ６０３において、分離部６０１の分離処理ブロック６２２は、混合比算出部１０４から供給された混合比αを取得する。
【０５５４】
ステップＳ６０４において、アンカバード領域処理部６３１は、領域情報および混合比αを基に、フレームメモリ６２１から供給された、アンカバードバックグラウンド領域に属する画素の画素値から、背景の成分を抽出する。
【０５５５】
ステップＳ６０５において、アンカバード領域処理部６３１は、領域情報および混合比αを基に、フレームメモリ６２１から供給された、アンカバードバックグラウンド領域に属する画素の画素値から、前景の成分を抽出する。
【０５５６】
ステップＳ６０６において、カバード領域処理部６３２は、領域情報および混合比αを基に、フレームメモリ６２１から供給された、カバードバックグラウンド領域に属する画素の画素値から、背景の成分を抽出する。
【０５５７】
ステップＳ６０７において、カバード領域処理部６３２は、領域情報および混合比αを基に、フレームメモリ６２１から供給された、カバードバックグラウンド領域に属する画素の画素値から、前景の成分を抽出する。
【０５５８】
ステップＳ６０８において、合成部６３３は、ステップＳ６０５の処理で抽出されたアンカバードバックグラウンド領域に属する画素の前景の成分と、ステップＳ６０７の処理で抽出されたカバードバックグラウンド領域に属する画素の前景の成分とを合成する。合成された前景の成分は、合成部６０３に供給される。更に、合成部６０３は、スイッチ６０２を介して供給された前景領域に属する画素と、分離部６０１から供給された前景の成分とを合成して、前景成分画像を生成する。
【０５５９】
ステップＳ６０９において、合成部６３４は、ステップＳ６０４の処理で抽出されたアンカバードバックグラウンド領域に属する画素の背景の成分と、ステップＳ６０６の処理で抽出されたカバードバックグラウンド領域に属する画素の背景の成分とを合成する。合成された背景の成分は、合成部６０５に供給される。更に、合成部６０５は、スイッチ６０４を介して供給された背景領域に属する画素と、分離部６０１から供給された背景の成分とを合成して、背景成分画像を生成する。
【０５６０】
ステップＳ６１０において、合成部６０３は、前景成分画像を出力する。ステップＳ６１１において、合成部６０５は、背景成分画像を出力し、処理は終了する。
【０５６１】
このように、前景背景分離部１０５は、領域情報および混合比αを基に、入力画像から前景の成分と、背景の成分とを分離し、前景の成分のみから成る前景成分画像、および背景の成分のみから成る背景成分画像を出力することができる。
【０５６２】
次に、前景成分画像の動きボケの量の調整について説明する。
【０５６３】
図９７は、動きボケ調整部１０６の構成の一例を示すブロック図である。動き検出部１０２から供給された動きベクトルとその位置情報は、処理単位決定部８０１、モデル化部８０２、および演算部８０５に供給される。領域特定部１０３から供給された領域情報は、処理単位決定部８０１に供給される。前景背景分離部１０５から供給された前景成分画像は、足し込み部８０４に供給される。
【０５６４】
処理単位決定部８０１は、動きベクトルとその位置情報、および領域情報を基に、処理単位を生成し、生成した処理単位をモデル化部８０２および足し込み部８０４に供給する。
【０５６５】
処理単位決定部８０１が生成する処理単位は、図９８に例を示すように、前景成分画像のカバードバックグラウンド領域に対応する画素から始まり、アンカバードバックグラウンド領域に対応する画素までの動き方向に並ぶ連続する画素、またはアンカバードバックグラウンド領域に対応する画素から始まり、カバードバックグラウンド領域に対応する画素までの動き方向に並ぶ連続する画素を示す。処理単位は、例えば、左上点（処理単位で指定される画素であって、画像上で最も左または最も上に位置する画素の位置）および右下点の２つのデータから成る。
【０５６６】
モデル化部８０２は、動きベクトルおよび入力された処理単位を基に、モデル化を実行する。より具体的には、例えば、モデル化部８０２は、処理単位に含まれる画素の数、画素値の時間方向の仮想分割数、および画素毎の前景の成分の数に対応する複数のモデルを予め記憶しておき、処理単位、および画素値の時間方向の仮想分割数を基に、図９９に示すような、画素値と前景の成分との対応を指定するモデルを選択する。
【０５６７】
例えば、処理単位に対応する画素の数が１２でありシャッタ時間内の動き量vが５であるときにおいては、モデル化部８０２は、仮想分割数を５とし、最も左に位置する画素が１つの前景の成分を含み、左から２番目の画素が２つの前景の成分を含み、左から３番目の画素が３つの前景の成分を含み、左から４番目の画素が４つの前景の成分を含み、左から５番目の画素が５つの前景の成分を含み、左から６番目の画素が５つの前景の成分を含み、左から７番目の画素が５つの前景の成分を含み、左から８番目の画素が５つの前景の成分を含み、左から９番目の画素が４つの前景の成分を含み、左から１０番目の画素が３つの前景の成分を含み、左から１１番目の画素が２つの前景の成分を含み、左から１２番目の画素が１つの前景の成分を含み、全体として８つの前景の成分から成るモデルを選択する。
【０５６８】
なお、モデル化部８０２は、予め記憶してあるモデルから選択するのではなく、動きベクトル、および処理単位が供給されたとき、動きベクトル、および処理単位を基に、モデルを生成するようにしてもよい。
【０５６９】
モデル化部８０２は、選択したモデルを方程式生成部８０３に供給する。
【０５７０】
方程式生成部８０３は、モデル化部８０２から供給されたモデルを基に、方程式を生成する。図９９に示す前景成分画像のモデルを参照して、前景の成分の数が８であり、処理単位に対応する画素の数が１２であり、動き量vが５であり、仮想分割数が５であるときの、方程式生成部８０３が生成する方程式について説明する。
【０５７１】
前景成分画像に含まれるシャッタ時間/vに対応する前景成分がF01/v乃至F08/vであるとき、F01/v乃至F08/vと画素値C01乃至C12との関係は、式（７８）乃至式（８９）で表される。
【０５７２】
C01=F01/v （７８）
C02=F02/v+F01/v （７９）
C03=F03/v+F02/v+F01/v （８０）
C04=F04/v+F03/v+F02/v+F01/v （８１）
C05=F05/v+F04/v+F03/v+F02/v+F01/v （８２）
C06=F06/v+F05/v+F04/v+F03/v+F02/v （８３）
C07=F07/v+F06/v+F05/v+F04/v+F03/v （８４）
C08=F08/v+F07/v+F06/v+F05/v+F04/v （８５）
C09=F08/v+F07/v+F06/v+F05/v （８６）
C10=F08/v+F07/v+F06/v （８７）
C11=F08/v+F07/v （８８）
C12=F08/v （８９）
【０５７３】
方程式生成部８０３は、生成した方程式を変形して方程式を生成する。方程式生成部８０３が生成する方程式を、式（９０）乃至式（１０１）に示す。
【０５７４】
Figure 0004596227
【０５７５】
式（９０）乃至式（１０１）は、式（１０２）として表すこともできる。
【０５７６】
【数１７】
Figure 0004596227
式（１０２）において、jは、画素の位置を示す。この例において、jは、１乃至１２のいずれか１つの値を有する。また、iは、前景値の位置を示す。この例において、iは、１乃至８のいずれか１つの値を有する。aijは、iおよびjの値に対応して、０または１の値を有する。
【０５７７】
誤差を考慮して表現すると、式（１０２）は、式（１０３）のように表すことができる。
【０５７８】
【数１８】
Figure 0004596227
式（１０３）において、ejは、注目画素Cjに含まれる誤差である。
【０５７９】
式（１０３）は、式（１０４）に書き換えることができる。
【０５８０】
【数１９】
Figure 0004596227
【０５８１】
ここで、最小自乗法を適用するため、誤差の自乗和Eを式（１０５）に示すように定義する。
【０５８２】
【数２０】
Figure 0004596227
【０５８３】
誤差が最小になるためには、誤差の自乗和Eに対する、変数Fkによる偏微分の値が０になればよい。式（１０６）を満たすようにFkを求める。
【０５８４】
【数２１】
Figure 0004596227
【０５８５】
式（１０６）において、動き量vは固定値であるから、式（１０７）を導くことができる。
【０５８６】
【数２２】
Figure 0004596227
【０５８７】
式（１０７）を展開して、移項すると、式（１０８）を得る。
【０５８８】
【数２３】
Figure 0004596227
【０５８９】
式（１０８）のkに１乃至８の整数のいずれか１つを代入して得られる８つの式に展開する。得られた８つの式を、行列により１つの式により表すことができる。この式を正規方程式と呼ぶ。
【０５９０】
このような最小自乗法に基づく、方程式生成部８０３が生成する正規方程式の例を式（１０９）に示す。
【０５９１】
【数２４】
Figure 0004596227
【０５９２】
式（１０９）をA・F=v・Cと表すと、C,A,vが既知であり、Fは未知である。また、A,vは、モデル化の時点で既知だが、Cは、足し込み動作において画素値を入力することで既知となる。
【０５９３】
最小自乗法に基づく正規方程式により前景成分を算出することにより、画素Cに含まれている誤差を分散させることができる。
【０５９４】
方程式生成部８０３は、このように生成された正規方程式を足し込み部８０４に供給する。
【０５９５】
足し込み部８０４は、処理単位決定部８０１から供給された処理単位を基に、前景成分画像に含まれる画素値Cを、方程式生成部８０３から供給された行列の式に設定する。足し込み部８０４は、画素値Cを設定した行列を演算部８０５に供給する。
【０５９６】
演算部８０５は、掃き出し法（Gauss-Jordanの消去法）などの解法に基づく処理により、動きボケが除去された前景成分Fi/vを算出して、動きボケが除去された前景の画素値である、０乃至８の整数のいずれかのiに対応するFiを算出して、図１００に例を示す、動きボケが除去された画素値であるFiから成る、動きボケが除去された前景成分画像を動きボケ付加部８０６および選択部８０７に出力する。
【０５９７】
なお、図１００に示す動きボケが除去された前景成分画像において、C03乃至C10のそれぞれにF01乃至F08のそれぞれが設定されているのは、画面に対する前景成分画像の位置を変化させないためであり、任意の位置に対応させることができる。
【０５９８】
動きボケ付加部８０６は、動き量vとは異なる値の動きボケ調整量v'、例えば、動き量vの半分の値の動きボケ調整量v'や、動き量vと無関係の値の動きボケ調整量v'を与えることで、動きボケの量を調整することができる。例えば、図１０１に示すように、動きボケ付加部８０６は、動きボケが除去された前景の画素値Fiを動きボケ調整量v'で除すことにより、前景成分Fi/v'を算出して、前景成分Fi/v'の和を算出して、動きボケの量が調整された画素値を生成する。例えば、動きボケ調整量v'が３のとき、画素値C02は、（F01）/v'とされ、画素値C03は、（F01+F02）/v'とされ、画素値C04は、（F01+F02+F03）/v'とされ、画素値C05は、（F02+F03+F04）/v'とされる。
【０５９９】
動きボケ付加部８０６は、動きボケの量を調整した前景成分画像を選択部８０７に供給する。
【０６００】
選択部８０７は、例えば使用者の選択に対応した選択信号を基に、演算部８０５から供給された動きボケが除去された前景成分画像、および動きボケ付加部８０６から供給された動きボケの量が調整された前景成分画像のいずれか一方を選択して、選択した前景成分画像を出力する。
【０６０１】
このように、動きボケ調整部１０６は、選択信号および動きボケ調整量v'を基に、動きボケの量を調整することができる。
【０６０２】
また、例えば、図１０２に示すように、処理単位に対応する画素の数が８であり、動き量vが４であるとき、動きボケ調整部１０６は、式（１１０）に示す行列の式を生成する。
【０６０３】
【数２５】
Figure 0004596227
【０６０４】
動きボケ調整部１０６は、このように処理単位の長さに対応した数の式を立てて、動きボケの量が調整された画素値であるFiを算出する。同様に、例えば、処理単位に含まれる画素の数が１００あるとき、１００個の画素に対応する式を生成して、Fiを算出する。
【０６０５】
図１０３は、動きボケ調整部１０６の他の構成を示す図である。図９７に示す場合と同様の部分には同一の番号を付してあり、その説明は省略する。
【０６０６】
選択部８２１は、選択信号を基に、入力された動きベクトルとその位置信号をそのまま処理単位決定部８０１およびモデル化部８０２に供給するか、または動きベクトルの大きさを動きボケ調整量v'に置き換えて、その大きさが動きボケ調整量v'に置き換えられた動きベクトルとその位置信号を処理単位決定部８０１およびモデル化部８０２に供給する。
【０６０７】
このようにすることで、図１０３の動きボケ調整部１０６の処理単位決定部８０１乃至演算部８０５は、動き量vと動きボケ調整量v'との値に対応して、動きボケの量を調整することができる。例えば、動き量vが5であり、動きボケ調整量v'が3であるとき、図１０３の動きボケ調整部１０６の処理単位決定部８０１乃至演算部８０５は、図９９に示す動き量vが5である前景成分画像に対して、3である動きボケ調整量v'対応する図１０１に示すようなモデルに従って、演算を実行し、（動き量v）/（動きボケ調整量v'）＝5/3、すなわちほぼ1.7の動き量vに応じた動きボケを含む画像を算出する。なお、この場合、算出される画像は、3である動き量vに対応した動きボケを含むのではないので、動きボケ付加部８０６の結果とは動き量vと動きボケ調整量v'の関係の意味合いが異なる点に注意が必要である。
【０６０８】
以上のように、動きボケ調整部１０６は、動き量vおよび処理単位に対応して、式を生成し、生成した式に前景成分画像の画素値を設定して、動きボケの量が調整された前景成分画像を算出する。
【０６０９】
次に、図１０４のフローチャートを参照して、動きボケ調整部１０６による前景成分画像に含まれる動きボケの量の調整の処理を説明する。
【０６１０】
ステップＳ８０１において、動きボケ調整部１０６の処理単位決定部８０１は、動きベクトルおよび領域情報を基に、処理単位を生成し、生成した処理単位をモデル化部８０２に供給する。
【０６１１】
ステップＳ８０２において、動きボケ調整部１０６のモデル化部８０２は、動き量vおよび処理単位に対応して、モデルの選択や生成を行う。ステップＳ８０３において、方程式生成部８０３は、選択されたモデルを基に、正規方程式を作成する。
【０６１２】
ステップＳ８０４において、足し込み部８０４は、作成された正規方程式に前景成分画像の画素値を設定する。ステップＳ８０５において、足し込み部８０４は、処理単位に対応する全ての画素の画素値の設定を行ったか否かを判定し、処理単位に対応する全ての画素の画素値の設定を行っていないと判定された場合、ステップＳ８０４に戻り、正規方程式への画素値の設定の処理を繰り返す。
【０６１３】
ステップＳ８０５において、処理単位の全ての画素の画素値の設定を行ったと判定された場合、ステップＳ８０６に進み、演算部８０５は、足し込み部８０４から供給された画素値が設定された正規方程式を基に、動きボケの量を調整した前景の画素値を算出して、処理は終了する。
【０６１４】
このように、動きボケ調整部１０６は、動きベクトルおよび領域情報を基に、動きボケを含む前景画像から動きボケの量を調整することができる。
【０６１５】
すなわち、サンプルデータである画素値に含まれる動きボケの量を調整することができる。
【０６１６】
図１０５は、動きボケ調整部１０６の構成の他の一例を示すブロック図である。動き検出部１０２から供給された動きベクトルとその位置情報は、処理単位決定部９０１および補正部９０５に供給され、領域特定部１０３から供給された領域情報は、処理単位決定部９０１に供給される。前景背景分離部１０５から供給された前景成分画像は、演算部９０４に供給される。
【０６１７】
処理単位決定部９０１は、動きベクトルとその位置情報、および領域情報を基に、処理単位を生成し、動きベクトルと共に、生成した処理単位をモデル化部９０２に供給する。
【０６１８】
モデル化部９０２は、動きベクトルおよび入力された処理単位を基に、モデル化を実行する。より具体的には、例えば、モデル化部９０２は、処理単位に含まれる画素の数、画素値の時間方向の仮想分割数、および画素毎の前景の成分の数に対応する複数のモデルを予め記憶しておき、処理単位、および画素値の時間方向の仮想分割数を基に、図１０６に示すような、画素値と前景の成分との対応を指定するモデルを選択する。
【０６１９】
例えば、処理単位に対応する画素の数が１２であり動き量vが５であるときにおいては、モデル化部９０２は、仮想分割数を５とし、最も左に位置する画素が１つの前景の成分を含み、左から２番目の画素が２つの前景の成分を含み、左から３番目の画素が３つの前景の成分を含み、左から４番目の画素が４つの前景の成分を含み、左から５番目の画素が５つの前景の成分を含み、左から６番目の画素が５つの前景の成分を含み、左から７番目の画素が５つの前景の成分を含み、左から８番目の画素が５つの前景の成分を含み、左から９番目の画素が４つの前景の成分を含み、左から１０番目の画素が３つの前景の成分を含み、左から１１番目の画素が２つの前景の成分を含み、左から１２番目の画素が１つの前景の成分を含み、全体として８つの前景の成分から成るモデルを選択する。
【０６２０】
なお、モデル化部９０２は、予め記憶してあるモデルから選択するのではなく、動きベクトル、および処理単位が供給されたとき、動きベクトル、および処理単位を基に、モデルを生成するようにしてもよい。
【０６２１】
方程式生成部９０３は、モデル化部９０２から供給されたモデルを基に、方程式を生成する。
【０６２２】
図１０６乃至図１０８に示す前景成分画像のモデルを参照して、前景の成分の数が８であり、処理単位に対応する画素の数が１２であり、動き量vが５であるときの、方程式生成部９０３が生成する方程式の例について説明する。
【０６２３】
前景成分画像に含まれるシャッタ時間/vに対応する前景成分がF01/v乃至F08/vであるとき、F01/v乃至F08/vと画素値C01乃至C12との関係は、上述したように、式（７８）乃至式（８９）で表される。
【０６２４】
画素値C12およびC11に注目すると、画素値C12は、式（１１１）に示すように、前景の成分F08/vのみを含み、画素値C11は、前景の成分F08/vおよび前景の成分F07/vの積和から成る。従って、前景の成分F07/vは、式（１１２）で求めることができる。
【０６２５】
F08/v=C12 （１１１）
F07/v=C11-C12 （１１２）
【０６２６】
同様に、画素値C10乃至C01に含まれる前景の成分を考慮すると、前景の成分F06/v乃至F01/vは、式（１１３）乃至式（１１８）により求めることができる。
【０６２７】
F06/v=C10-C11 （１１３）
F05/v=C09-C10 （１１４）
F04/v=C08-C09 （１１５）
F03/v=C07-C08+C12 （１１６）
F02/v=C06-C07+C11-C12 （１１７）
F01/v=C05-C06+C10-C11 （１１８）
【０６２８】
方程式生成部９０３は、式（１１１）乃至式（１１８）に例を示す、画素値の差により前景の成分を算出するための方程式を生成する。方程式生成部９０３は、生成した方程式を演算部９０４に供給する。
【０６２９】
演算部９０４は、方程式生成部９０３から供給された方程式に前景成分画像の画素値を設定して、画素値を設定した方程式を基に、前景の成分を算出する。演算部９０４は、例えば、式（１１１）乃至式（１１８）が方程式生成部９０３から供給されたとき、式（１１１）乃至式（１１８）に画素値C05乃至C12を設定する。
【０６３０】
演算部９０４は、画素値が設定された式に基づき、前景の成分を算出する。例えば、演算部９０４は、画素値C05乃至C12が設定された式（１１１）乃至式（１１８）に基づく演算により、図１０７に示すように、前景の成分F01/v乃至F08/vを算出する。演算部９０４は、前景の成分F01/v乃至F08/vを補正部９０５に供給する。
【０６３１】
補正部９０５は、演算部９０４から供給された前景の成分に、処理単位決定部９０１から供給された動きベクトルに含まれる動き量vを乗じて、動きボケを除去した前景の画素値を算出する。例えば、補正部９０５は、演算部９０４から供給された前景の成分F01/v乃至F08/vが供給されたとき、前景の成分F01/v乃至F08/vのそれぞれに、５である動き量vを乗じることにより、図１０８に示すように、動きボケを除去した前景の画素値F01乃至F08を算出する。
【０６３２】
補正部９０５は、以上のように算出された、動きボケを除去した前景の画素値から成る前景成分画像を動きボケ付加部９０６および選択部９０７に供給する。
【０６３３】
動きボケ付加部９０６は、動き量vとは異なる値の動きボケ調整量v'、例えば、動き量vの半分の値の動きボケ調整量v'、動き量vと無関係の値の動きボケ調整量v'で、動きボケの量を調整することができる。例えば、図１０１に示すように、動きボケ付加部９０６は、動きボケが除去された前景の画素値Fiを動きボケ調整量v'で除すことにより、前景成分Fi/v'を算出して、前景成分Fi/v'の和を算出して、動きボケの量が調整された画素値を生成する。例えば、動きボケ調整量v'が３のとき、画素値C02は、（F01）/v'とされ、画素値C03は、（F01+F02）/v'とされ、画素値C04は、（F01+F02+F03）/v'とされ、画素値C05は、（F02+F03+F04）/v'とされる。
【０６３４】
動きボケ付加部９０６は、動きボケの量を調整した前景成分画像を選択部９０７に供給する。
【０６３５】
選択部９０７は、例えば使用者の選択に対応した選択信号を基に、補正部９０５から供給された動きボケが除去された前景成分画像、および動きボケ付加部９０６から供給された動きボケの量が調整された前景成分画像のいずれか一方を選択して、選択した前景成分画像を出力する。
【０６３６】
このように、動きボケ調整部１０６は、選択信号および動きボケ調整量v'を基に、動きボケの量を調整することができる。
【０６３７】
次に、図１０５に構成を示す動きボケ調整部１０６による前景の動きボケの量の調整の処理を図１０９のフローチャートを参照して説明する。
【０６３８】
ステップＳ９０１において、動きボケ調整部１０６の処理単位決定部９０１は、動きベクトルおよび領域情報を基に、処理単位を生成し、生成した処理単位をモデル化部９０２および補正部９０５に供給する。
【０６３９】
ステップＳ９０２において、動きボケ調整部１０６のモデル化部９０２は、動き量vおよび処理単位に対応して、モデルの選択や生成を行う。ステップＳ９０３において、方程式生成部９０３は、選択または生成されたモデルを基に、前景成分画像の画素値の差により前景の成分を算出するための方程式を生成する。
【０６４０】
ステップＳ９０４において、演算部９０４は、作成された方程式に前景成分画像の画素値を設定し、画素値が設定された方程式を基に、画素値の差分から前景の成分を抽出する。ステップＳ９０５において、演算部９０４は、処理単位に対応する全ての前景の成分を抽出したか否かを判定し、処理単位に対応する全ての前景の成分を抽出していないと判定された場合、ステップＳ９０４に戻り、前景の成分を抽出の処理を繰り返す。
【０６４１】
ステップＳ９０５において、処理単位に対応する全ての前景の成分を抽出したと判定された場合、ステップＳ９０６に進み、補正部９０５は、動き量vを基に、演算部９０４から供給された前景の成分F01/v乃至F08/vのそれぞれを補正して、動きボケを除去した前景の画素値F01乃至F08を算出する。
【０６４２】
ステップＳ９０７において、動きボケ付加部９０６は、動きボケの量を調整した前景の画素値を算出して、選択部９０７は、動きボケが除去された画像または動きボケの量が調整された画像のいずれかを選択して、選択した画像を出力して、処理は終了する。
【０６４３】
このように、図１０５に構成を示す動きボケ調整部１０６は、より簡単な演算で、より迅速に、動きボケを含む前景画像から動きボケを調整することができる。
【０６４４】
ウィナー・フィルタなど従来の動きボケを部分的に除去する手法が、理想状態では効果が認められるが、量子化され、ノイズを含んだ実際の画像に対して十分な効果が得られないのに対し、図１０５に構成を示す動きボケ調整部１０６においても、量子化され、ノイズを含んだ実際の画像に対しても十分な効果が認められ、精度の良い動きボケの除去が可能となる。
【０６４５】
以上のように、図２７に構成を示す分離処理サーバ１１は、入力画像に含まれる動きボケの量を調整することができる。
【０６４６】
図１１０は、分離処理サーバ１１の機能の他の構成を示すブロック図である。
【０６４７】
図２７に示す部分と同様の部分には同一の番号を付してあり、その説明は適宜省略する。
【０６４８】
領域特定部１０３は、領域情報を混合比算出部１０４および合成部１００１に供給する。
【０６４９】
混合比算出部１０４は、混合比αを前景背景分離部１０５および合成部１００１に供給する。
【０６５０】
前景背景分離部１０５は、前景成分画像を合成部１００１に供給する。
【０６５１】
合成部１００１は、混合比算出部１０４から供給された混合比α、領域特定部１０３から供給された領域情報を基に、任意の背景画像と、前景背景分離部１０５から供給された前景成分画像とを合成して、任意の背景画像と前景成分画像とが合成された合成画像を出力する。
【０６５２】
図１１１は、合成部１００１の構成を示す図である。背景成分生成部１０２１は、混合比αおよび任意の背景画像を基に、背景成分画像を生成して、混合領域画像合成部１０２２に供給する。
【０６５３】
混合領域画像合成部１０２２は、背景成分生成部１０２１から供給された背景成分画像と前景成分画像とを合成することにより、混合領域合成画像を生成して、生成した混合領域合成画像を画像合成部１０２３に供給する。
【０６５４】
画像合成部１０２３は、領域情報を基に、前景成分画像、混合領域画像合成部１０２２から供給された混合領域合成画像、および任意の背景画像を合成して、合成画像を生成して出力する。
【０６５５】
このように、合成部１００１は、前景成分画像を、任意の背景画像に合成することができる。
【０６５６】
特徴量である混合比αを基に前景成分画像を任意の背景画像と合成して得られた画像は、単に画素を合成した画像に比較し、より自然なものと成る。
【０６５７】
図１１２は、動きボケの量を調整する分離処理サーバ１１の機能の更に他の構成を示すブロック図である。図２７に示す分離処理サーバ１１が領域特定と混合比αの算出を順番に行うのに対して、図１１２に示す分離処理サーバ１１は、領域特定と混合比αの算出を並行して行う。
【０６５８】
図２７のブロック図に示す機能と同様の部分には同一の番号を付してあり、その説明は省略する。
【０６５９】
入力画像は、混合比算出部１１０１、前景背景分離部１１０２、領域特定部１０３、およびオブジェクト抽出部１０１に供給される。
【０６６０】
混合比算出部１１０１は、入力画像を基に、画素がカバードバックグラウンド領域に属すると仮定した場合における推定混合比、および画素がアンカバードバックグラウンド領域に属すると仮定した場合における推定混合比を、入力画像に含まれる画素のそれぞれに対して算出し、算出した画素がカバードバックグラウンド領域に属すると仮定した場合における推定混合比、および画素がアンカバードバックグラウンド領域に属すると仮定した場合における推定混合比を前景背景分離部１１０２に供給する。
【０６６１】
図１１３は、混合比算出部１１０１の構成の一例を示すブロック図である。
【０６６２】
図１１３に示す推定混合比処理部４０１は、図７２に示す推定混合比処理部４０１と同じである。図１１３に示す推定混合比処理部４０２は、図７２に示す推定混合比処理部４０２と同じである。
【０６６３】
推定混合比処理部４０１は、入力画像を基に、カバードバックグラウンド領域のモデルに対応する演算により、画素毎に推定混合比を算出して、算出した推定混合比を出力する。
【０６６４】
推定混合比処理部４０２は、入力画像を基に、アンカバードバックグラウンド領域のモデルに対応する演算により、画素毎に推定混合比を算出して、算出した推定混合比を出力する。
【０６６５】
前景背景分離部１１０２は、混合比算出部１１０１から供給された、画素がカバードバックグラウンド領域に属すると仮定した場合における推定混合比、および画素がアンカバードバックグラウンド領域に属すると仮定した場合における推定混合比、並びに領域特定部１０３から供給された領域情報を基に、入力画像から前景成分画像を生成し、生成した前景成分画像を動きボケ調整部１０６および選択部１０７に供給する。
【０６６６】
図１１４は、前景背景分離部１１０２の構成の一例を示すブロック図である。
【０６６７】
図８９に示す前景背景分離部１０５と同様の部分には同一の番号を付してあり、その説明は省略する。
【０６６８】
選択部１１２１は、領域特定部１０３から供給された領域情報を基に、混合比算出部１１０１から供給された、画素がカバードバックグラウンド領域に属すると仮定した場合における推定混合比、および画素がアンカバードバックグラウンド領域に属すると仮定した場合における推定混合比のいずれか一方を選択して、選択した推定混合比を混合比αとして分離部６０１に供給する。
【０６６９】
分離部６０１は、選択部１１２１から供給された混合比αおよび領域情報を基に、混合領域に属する画素の画素値から前景の成分および背景の成分を抽出し、抽出した前景の成分を合成部６０３に供給すると共に、背景の成分を合成部６０５に供給する。
【０６７０】
分離部６０１は、図９４に示す構成と同じ構成とすることができる。
【０６７１】
合成部６０３は、前景成分画像を合成して、出力する。合成部６０５は、背景成分画像を合成して出力する。
【０６７２】
図１１２に示す動きボケ調整部１０６は、図２７に示す場合と同様の構成とすることができ、領域情報および動きベクトルを基に、前景背景分離部１１０２から供給された前景成分画像に含まれる動きボケの量を調整して、動きボケの量が調整された前景成分画像を出力する。
【０６７３】
図１１２に示す選択部１０７は、例えば使用者の選択に対応した選択信号を基に、前景背景分離部１１０２から供給された前景成分画像、および動きボケ調整部１０６から供給された動きボケの量が調整された前景成分画像のいずれか一方を選択して、選択した前景成分画像を出力する。
【０６７４】
このように、図１１２に構成を示す分離処理サーバ１１は、入力画像に含まれる前景のオブジェクトに対応する画像に対して、その画像に含まれる動きボケの量を調整して出力することができる。図１１２に構成を示す分離処理サーバ１１は、第１の実施例と同様に、埋もれた情報である混合比αを算出して、算出した混合比αを出力することができる。
【０６７５】
図１１５は、前景成分画像を任意の背景画像と合成する分離処理サーバ１１の機能の他の構成を示すブロック図である。図１１０に示す分離処理サーバ１１が領域特定と混合比αの算出をシリアルに行うのに対して、図１１５に示す分離処理サーバ１１は、領域特定と混合比αの算出をパラレルに行う。
【０６７６】
図１１２のブロック図に示す機能と同様の部分には同一の番号を付してあり、その説明は省略する。
【０６７７】
図１１５に示す混合比算出部１１０１は、入力画像を基に、画素がカバードバックグラウンド領域に属すると仮定した場合における推定混合比、および画素がアンカバードバックグラウンド領域に属すると仮定した場合における推定混合比を、入力画像に含まれる画素のそれぞれに対して算出し、算出した画素がカバードバックグラウンド領域に属すると仮定した場合における推定混合比、および画素がアンカバードバックグラウンド領域に属すると仮定した場合における推定混合比を前景背景分離部１１０２および合成部１２０１に供給する。
【０６７８】
図１１５に示す前景背景分離部１１０２は、混合比算出部１１０１から供給された、画素がカバードバックグラウンド領域に属すると仮定した場合における推定混合比、および画素がアンカバードバックグラウンド領域に属すると仮定した場合における推定混合比、並びに領域特定部１０３から供給された領域情報を基に、入力画像から前景成分画像を生成し、生成した前景成分画像を合成部１２０１に供給する。
【０６７９】
合成部１２０１は、混合比算出部１１０１から供給された、画素がカバードバックグラウンド領域に属すると仮定した場合における推定混合比、および画素がアンカバードバックグラウンド領域に属すると仮定した場合における推定混合比、領域特定部１０３から供給された領域情報を基に、任意の背景画像と、前景背景分離部１１０２から供給された前景成分画像とを合成して、任意の背景画像と前景成分画像とが合成された合成画像を出力する。
【０６８０】
図１１６は、合成部１２０１の構成を示す図である。図１１１のブロック図に示す機能と同様の部分には同一の番号を付してあり、その説明は省略する。
【０６８１】
選択部１２２１は、領域特定部１０３から供給された領域情報を基に、混合比算出部１１０１から供給された、画素がカバードバックグラウンド領域に属すると仮定した場合における推定混合比、および画素がアンカバードバックグラウンド領域に属すると仮定した場合における推定混合比のいずれか一方を選択して、選択した推定混合比を混合比αとして背景成分生成部１０２１に供給する。
【０６８２】
図１１６に示す背景成分生成部１０２１は、選択部１２２１から供給された混合比αおよび任意の背景画像を基に、背景成分画像を生成して、混合領域画像合成部１０２２に供給する。
【０６８３】
図１１６に示す混合領域画像合成部１０２２は、背景成分生成部１０２１から供給された背景成分画像と前景成分画像とを合成することにより、混合領域合成画像を生成して、生成した混合領域合成画像を画像合成部１０２３に供給する。
【０６８４】
画像合成部１０２３は、領域情報を基に、前景成分画像、混合領域画像合成部１０２２から供給された混合領域合成画像、および任意の背景画像を合成して、合成画像を生成して出力する。
【０６８５】
このように、合成部１２０１は、前景成分画像を、任意の背景画像に合成することができる。
【０６８６】
なお、混合比αは、画素値に含まれる背景の成分の割合として説明したが、画素値に含まれる前景の成分の割合としてもよい。
【０６８７】
また、前景となるオブジェクトの動きの方向は左から右として説明したが、その方向に限定されないことは勿論である。
【０６８８】
以上においては、３次元空間と時間軸情報を有する現実空間の画像をビデオカメラを用いて２次元空間と時間軸情報を有する時空間への射影を行った場合を例としたが、本発明は、この例に限らず、より多くの第１の次元の第１の情報を、より少ない第２の次元の第２の情報に射影した場合に、その射影によって発生する歪みを補正したり、有意情報を抽出したり、またはより自然に画像を合成する場合に適応することが可能である。
【０６８９】
なお、センサ７６ａは、CCDに限らす、固体撮像素子である、例えば、BBD（Bucket Brigade Device）、CID（Charge Injection Device）、CPD（Charge Priming Device）、またはCMOS（Complementary Mental Oxide Semiconductor）センサでもよく、また、検出素子がマトリックス状に配置されているセンサに限らず、検出素子が１列に並んでいるセンサでもよい。
【０６９０】
以上のように説明してきた分離処理サーバ１１の各機能は、図１で示したネットワーク１上に構成される各種のサーバに分散処理させることにより実現させることもできる。すなわち、オブジェクト抽出部１０１、および、動き検出部１０２は動き検出サーバ１２に、領域特定部１０３は領域特定サーバ１３に、混合比算出部１０４は混合比算出サーバ１４に、前景背景分離処理部１０５は前景背景分離処理サーバ１５に、動きボケ調整部１０６は動きボケ調整サーバ１６に、それぞれ対応するものとして機能する。従って、図２７で示した分離処理サーバ１１のブロック図は、ハードウェアにより実現されるもの、ソフトウェアにより実現されるもの、または、ネットワーク１により実現されたもののいずれであってもよいものである。また、合成サーバ１９についても同様であり、その構成は合成部１２０１に対応するものであり、ハードウェアにより実現されたもの、ソフトウェアにより実現されたもの、または、ネットワーク１により実現されたもののいずれであってもよいものである。
【０６９１】
尚、以上におけるオブジェクト抽出部１０１、動き検出部１０２、領域特定部１０３、混合比算出部１０４、前景背景分離処理部１０５、および、動きボケ調整部１０６のそれぞれの処理は、動き検出サーバ１２、領域特定サーバ１３、混合比算出サーバ１４、前景背景分離処理サーバ１５、および、動きボケ調整サーバ１６とを置き換えたものと同様であり、その処理についても同様であるので、その説明は省略する。
【０６９２】
また、分離処理サーバ１１は、上述のようにハードウェア、または、ソフトウェアとして実現される場合、図１に記載のネットワーク１上に接続された各種のサーバ、クライアントコンピュータ２７、および、カメラ端末装置２８のそれぞれに分離処理部として組み込まれる構成としてもよい。そこで、以下の説明においては、分離処理サーバ１１が、入力された画像を単に前景成分画像と背景成分画像に分離する機能を有する単一の装置として説明されるとき、分離処理部１１とも称するものとする。
【０６９３】
次に、図１１７のフローチャートを参照して、分離処理サーバ１１による、図１のネットワーク１を介してクライアントコンピュータ２７から入力された画像の分離サービスの処理について説明する。
【０６９４】
ステップＳ１００１において、クライアントコンピュータ２７は、画像を指定する情報を分離処理サーバ１１に出力する。すなわち、使用者が分離したい画像を指定する情報として、具体的な画像であるか、または、画像を指定する画像IDが分離処理サーバ１１に出力される。
【０６９５】
ステップＳ１０１１において、分離処理サーバ１１は、指定された画像を取得する。すなわち、クライアントコンピュータ２７より画像が送信されてきた場合は、その画像を、指定する情報が送信されてきた場合は、その画像IDに対応する画像を、ネットワーク１上から読出し取得する。
【０６９６】
ステップＳ１０１２において、分離処理サーバ１１の課金処理部１１ａは、ネットワーク１を介して課金サーバ２４と共に課金処理を実行する。また、同時にステップＳ１０２１において、課金サーバ２４は、分離処理サーバ１１と共に課金処理を実行する。
【０６９７】
ここで、図１１８のフローチャートを参照して、上述の課金処理を説明する。尚、実際の課金処理は、分離処理サーバ１１と課金サーバ２４により実行されるが各種の処理に必要な情報は、クライアントコンピュータ２７からも出力されているので、ここでは、クライアントコンピュータ２７の処理についても合わせて説明する。
【０６９８】
ステップＳ１１０１において、図１１９で示すように、クライアントコンピュータ２７は、サービスを指定して使用者（画像の分離サービスの提供を受ける使用者）を識別するID情報と認証情報（パスワード等）と共に利用金額をネットワーク１を介して分離処理サーバ１１に送信する。すなわち、今の場合、図１１７のステップＳ１００１の処理で画像を指定する情報を送信する際に、このステップＳ１１０１の処理は、実行されることになる。また、利用金額とは、分離サービスに係る料金である。
【０６９９】
ステップＳ１１１１において、図１１９で示すように、分離処理サーバ１１の課金処理部１１ａは、ID情報と認証情報を受信し、さらに、利用金額と自らのIDを課金サーバ２４に送信する。
【０７００】
ステップＳ１１２１において、図１１９で示すように、課金サーバ２４は、分離処理サーバ１１より送信されてきたIDに基づいて、認証情報、顧客口座ID、および、利用金額を、顧客口座の金融機関が管理する金融サーバ２５に問い合わせる。
【０７０１】
ステップＳ１１３１において、図１１９で示すように、金融サーバ（顧客用）２５は、顧客口座IDと認証情報に基づいて、認証処理を実行し、認証結果と利用の可否の情報を課金サーバ２４に通知する。
【０７０２】
ステップＳ１１２２において、図１１９で示すように、課金サーバ２４は、認証結果と利用可否の情報を分離処理サーバ１１に送信する。尚、以下の説明においては、認証結果が問題なく、その利用が可能であるとの条件の下に説明を進める。また、認証結果に問題があり、その利用が認められないとの情報が受信された場合、その処理は、終了することになる。
【０７０３】
ステップＳ１１１２において、図１１９で示すように、分離処理サーバ１１は、認証結果に問題がなく、金融機関の利用が可能であるとの条件の場合、クライアントコンピュータ２７に対してサービスを提供する。ステップＳ１１０２において、クライアントコンピュータ２７はサービスの提供を受ける。すなわち、今の場合、ステップＳ１１１２において、分離処理サーバ１１は、指定された画像を前景成分画像と背景成分画像に分離してクライアントコンピュータ２７に出力し、ステップＳ１１０２において、クライアントコンピュータ２７は、分離された前景成分画像と背景成分画像を受信する。
【０７０４】
ステップＳ１１１３において、分離処理サーバ１１は、サービスの利用通知を課金サーバ２４に送信する。ステップＳ１１２３において、課金サーバ２４は、顧客口座ID、利用金額、および、提供者口座IDを金融サーバ（顧客用）２５に通知する。
【０７０５】
ステップＳ１１３２において、金融サーバ（顧客用）２５は、顧客口座IDの口座から利用金額を提供者金融サーバ（提供者用）２６に振り込む。
【０７０６】
ここで、図１１７のフローチャートの説明に戻る。
【０７０７】
ステップＳ１０１２，Ｓ１０２１において、分離処理サーバ１１と課金サーバ２４の相互で課金処理が実行された後、ステップＳ１０１３において、分離処理サーバ１１は、画像の分離処理を実行する。すなわち、分離処理サーバ１１の領域特定部１０３は、図５３のフローチャートにより説明した領域特定の処理を、混合比算出部１０４は、図８１のフローチャートを参照して説明した混合比の算出の処理を、前景背景分離部１０５は、図９６のフローチャートを参照して説明した前景と背景との分離の処理を、動きボケ調整部１０６は、図４４のフローチャートにより説明した動きボケ量の調整処理をそれぞれ実行し、指定された画像を分離する。尚、動きボケ量の調整処理、領域特定の処理、混合比の算出の処理、および、前景と背景との分離の処理は、いずれも上述と同様であるので、その説明は省略する。
【０７０８】
ステップＳ１０１４において、分離処理サーバ１１は、分離された前景成分画像、および、背景成分画像にIDを付してクライアントコンピュータ２７に送信する。ステップＳ１００２において、クライアントコンピュータ２７は、分離処理サーバ１１より送信されてきた分離されている前景成分画像と背景成分画像とそのIDを受信し、自らの記憶部４８（図２）に記憶すると共に、必要に応じてプリントアウトする。尚、クライアントコンピュータ２７は、使用者の指令に応じて、分離処理サーバ１１により分離処理された前景成分画像と背景成分画像を、分離処理サーバ１１自身に記憶させたり、または、ネットワーク１を介して蓄積サーバ１８に出力させ記憶（蓄積）させるようにすることもできる。
【０７０９】
以上の説明においては、分離処理に係る料金を課金サーバ２４により金融サーバ２５，２６に対して振り込まれるといった場合の処理について説明してきたが、例えば、プリペイドポイントなどのように、使用者が予め分離サービスの提供者に利用料金を支払ったことを示すポイントを記憶部４８（図２）に記憶させ、分離サービスの提供を受ける度に、そのポイントを減算するようにして、課金処理を実行するようにしてもよい。
【０７１０】
ここで、図１２０のフローチャートを参照して、プリペイドポイントを使用した場合の課金処理について説明する。
【０７１１】
ステップＳ１２０１において、クライアントコンピュータ２７は、サービスを指定して、ID情報、および、認証情報を送信する。すなわち、クライアントコンピュータ２７は、図１１７のステップＳ１１０１における処理と同様の処理を実行する。
【０７１２】
ステップＳ１２１１において、分離処理サーバ１１の課金処理部１１ａは、ID情報、および、認証情報を受信する。ステップＳ１２１２において、課金処理部１１ａは、記憶部４８に記憶されている、予めクライアントコンピュータ２７の使用者より払い込まれている金額に相当するプリペイドポイントから、分離処理に係る利用金額に相当するポイントを減算し、記憶する。ステップＳ１２１３において、分離処理サーバ１１は、サービスを提供する。すなわち、今の場合、分離処理サーバ１１は、入力された画像の分離処理を実行し、分離された前景成分画像と背景成分画像をクライアントコンピュータ２７に送信する。
【０７１３】
ステップＳ１２０２において、クライアントコンピュータ２７は、サービスの提供を受ける。すなわち、今の場合、クライアントコンピュータ２７は、分離処理サーバ１１より送信されてくる前景成分画像と背景成分画像を受信する。
【０７１４】
また、以上においては、分離処理サーバ１１がプリペイドポイントを自らの記憶部４８（図２）に記憶している場合について説明してきたが、例えば、プリペイドポイントが記録されたカード、いわゆる、プリペイドカードを使用する場合についても同様の処理となる。この場合、プリペイドカードに記憶されたプリペイドポイントをステップＳ１２０１でクライアントコンピュータ２７が読取って、送信し、分離処理サーバ１１が、課金処理により受信したポイントから利用料金に相当するポイントを減算して減算結果となるポイントをクライアントコンピュータ２７に送信して、プリペイドカードに上書きする必要がある。
【０７１５】
次に、図１２１のフローチャートを参照して、クライアントコンピュータ２７より指定された画像の動きベクトルと位置情報を求める動き検出サービスの処理について説明する。
【０７１６】
ステップＳ１３０１において、クライアントコンピュータ２７は、画像を指定する情報を動き検出サーバ１２に出力する。すなわち、使用者が動き検出処理したい画像を指定する情報として、具体的な画像であるか、または、画像を指定する画像IDが動き検出サーバ１２に出力される。
【０７１７】
ステップＳ１３１１において、動き検出サーバ１２は、指定された画像を取得する。すなわち、クライアントコンピュータ２７より画像が送信されてきた場合は、その画像を、指定する情報が送信されてきた場合は、その画像IDに対応する画像を、ネットワーク１上から読出し取得する。
【０７１８】
ステップＳ１３１２，Ｓ１３２１において、動き検出サーバ１２の課金処理部１２ｃと課金サーバ２４は、課金処理を実行する。尚、課金処理については、図１１８，図１２０において、分離サービスにおける場合と同様の処理であるので、その説明は省略する。
【０７１９】
ステップＳ１３１３において、動き検出サーバ１２のオブジェクト抽出部１２ａは、取得している指定された画像から、各オブジェクトを抽出し、動き検出部１２ｂが位置情報と動きベクトルを検出し、クライアントコンピュータ２７に送信する。
【０７２０】
ステップＳ１３０２において、クライアントコンピュータ２７は、動き検出サーバ１２より送信されてきたオブジェクトの位置情報と動きベクトルを受信し、記憶する。
【０７２１】
尚、クライアントコンピュータ２７は、使用者の指令に応じて、動き検出サーバ１２により検出された位置情報と動きベクトルを、動き検出サーバ１２自身に記憶させたり、または、ネットワーク１を介して蓄積サーバ１８に出力させ記憶（蓄積）させるようにすることもできる。
【０７２２】
次に、図１２２のフローチャートを参照して、領域特定サーバ１３により実行される、クライアントコンピュータ２７より入力された画像とオブジェクトを指定する情報から領域を特定する領域特定サービスの処理について説明する。
【０７２３】
ステップＳ１４０１において、クライアントコンピュータ２７は、画像とオブジェクトを指定する情報を領域特定サーバ１３に出力する。すなわち、使用者が領域特定したい画像を指定する情報として、具体的な画像であるか、または、画像を指定する画像IDと共にオブジェクトを指定する情報が領域特定サーバ１３に出力される。
【０７２４】
ステップＳ１４１１において、領域特定サーバ１３は、指定された画像を取得する。すなわち、クライアントコンピュータ２７より画像が送信されてきた場合、その画像を、指定する画像IDが送信されてきた場合は、その画像IDに対応する画像を、ネットワーク１上から読出し取得する。
【０７２５】
ステップＳ１４１２，Ｓ１４２１において、領域特定サーバ１３の課金処理部１３ａと課金サーバ２４は、課金処理を実行する。尚、課金処理については、図１１８，図１２０において、分離サービスにおける場合と同様の処理であるので、その説明は省略する。
【０７２６】
ステップＳ１４１３において、領域特定サーバ１３は、オブジェクトを指定する情報に基づいて、領域特定の処理を実行する。尚、領域特定の処理は、図５３のフローチャートを参照して説明した処理と同様であるので、その説明は省略する。
【０７２７】
ステップＳ１４１４において、領域特定サーバ１３は、ステップＳ１４１３の処理で求められた領域情報をクライアントコンピュータ２７に送信する。
【０７２８】
ステップＳ１４０２において、クライアントコンピュータ２７は、領域特定サーバ１３より送信されてきた領域情報を受信し、記憶する。
【０７２９】
尚、クライアントコンピュータ２７は、使用者の指令に応じて、領域特定サーバ１３により求められた領域情報を、領域特定サーバ１３自身に記憶させたり、または、ネットワーク１を介して蓄積サーバ１８に出力させ記憶（蓄積）させるようにすることもできる。
【０７３０】
次に、図１２３のフローチャートを参照して、混合比算出サーバ１４により実行される、クライアントコンピュータ２７より入力された画像とオブジェクトを指定する情報、および、領域情報から混合比を算出するの混合比算出サービスの処理について説明する。
【０７３１】
ステップＳ１５０１において、クライアントコンピュータ２７は、画像とオブジェクトを指定する情報、および、領域情報を混合比算出サーバ１４に出力する。すなわち、使用者が混合比を算出したい画像を指定する情報として、具体的な画像であるか、または、画像を指定する画像ID、オブジェクトを指定する情報、および、領域情報が混合比算出サーバ１４に出力される。
【０７３２】
ステップＳ１５１１において、混合比算出サーバ１４は、指定された画像を取得する。すなわち、クライアントコンピュータ２７より画像が送信されてきた場合、その画像を、指定する画像IDが送信されてきた場合は、その画像IDに対応する画像を、ネットワーク１上から読出し取得する。
【０７３３】
ステップＳ１５１２，Ｓ１５２１において、混合比算出サーバ１４の課金処理部１４ａと課金サーバ２４は、課金処理を実行する。尚、課金処理については、図１１８，図１２０において、分離サービスにおける場合と同様の処理であるので、その説明は省略する。
【０７３４】
ステップＳ１５１３において、混合比算出サーバ１４は、オブジェクトを指定する情報、および、領域情報に基づいて、混合比の算出の処理を実行する。尚、混合比の算出の処理は、図８１のフローチャートを参照して説明した処理と同様であるので、その説明は省略する。
【０７３５】
ステップＳ１５１４において、混合比算出サーバ１４は、ステップＳ１５１３の処理で求められた混合比をクライアントコンピュータ２７に送信する。
【０７３６】
ステップＳ１５０２において、クライアントコンピュータ２７は、混合比算出サーバ１４より送信されてきた混合比を受信し、記憶する。
【０７３７】
尚、クライアントコンピュータ２７は、使用者の指令に応じて、混合比算出サーバ１４により求められた混合比を、混合比算出サーバ１４自身に記憶させたり、または、ネットワーク１を介して蓄積サーバ１８に出力させ記憶（蓄積）させるようにすることもできる。
【０７３８】
次に、図１２４のフローチャートを参照して、前景背景分離サーバ１５により実行される、クライアントコンピュータ２７より入力された画像とオブジェクトを指定する情報、領域情報、および、混合比から前景成分画像と背景成分画像に分離するサービスの処理について説明する。
【０７３９】
ステップＳ１６０１において、クライアントコンピュータ２７は、画像とオブジェクトを指定する情報、領域情報、および、混合比の情報を前景背景分離サーバ１５に出力する。すなわち、使用者が前景背景分離したい画像を指定する情報として、具体的な画像であるか、または、画像を指定する画像ID、オブジェクトを指定する情報、領域情報、および、混合比の情報が前景背景分離サーバ１５に出力される。
【０７４０】
ステップＳ１６１１において、前景背景分離サーバ１５は、指定された画像を取得する。すなわち、クライアントコンピュータ２７より画像が送信されてきた場合、その画像を、指定する画像IDが送信されてきた場合は、その画像IDに対応する画像を、ネットワーク１上から読出し取得する。
【０７４１】
ステップＳ１６１２，Ｓ１６２１において、前景背景分離サーバ１５の課金処理部１５ａと課金サーバ２４は、課金処理を実行する。尚、課金処理については、図１１８，図１２０において、分離サービスにおける場合と同様の処理であるので、その説明は省略する。
【０７４２】
ステップＳ１６１３において、前景背景分離サーバ１５は、オブジェクトを指定する情報、領域情報、および、混合比に基づいて、前景と背景の分離の処理を実行する。尚、前景と背景の分離の処理は、図９６のフローチャートを参照して説明した処理と同様であるので、その説明は省略する。
【０７４３】
ステップＳ１６１４において、前景背景分離サーバ１５は、ステップＳ１６１３の処理で求められた前景成分画像と背景成分画像にIDを付してクライアントコンピュータ２７に送信する。
【０７４４】
ステップＳ１６０２において、クライアントコンピュータ２７は、前景背景分離サーバ１５より送信されてきた前景成分画像と背景成分画像を受信し、記憶する。
【０７４５】
尚、クライアントコンピュータ２７は、使用者の指令に応じて、前景背景分離サーバ１５により送信されてきた前景成分画像と背景成分画像を、前景背景分離サーバ１５自身に記憶させたり、または、ネットワーク１を介して蓄積サーバ１８に出力させ記憶（蓄積）させるようにすることもできる。
【０７４６】
次に、図１２５のフローチャートを参照して、動きボケ調整サーバ１６により実行される、クライアントコンピュータ２７より入力された画像を指定する情報、動きベクトル、および、動きボケ調整量から、指定された画像の動きボケを調整するサービスの処理について説明する。
【０７４７】
ステップＳ１７０１において、クライアントコンピュータ２７は、画像を指定する情報、動きベクトル、および、動きボケ調整量の情報を動きボケ調整サーバ１６に出力する。すなわち、使用者が動きボケ調整したい画像を指定する情報として、具体的な画像であるか、または、画像を指定する画像ID、オブジェクトを指定する情報、動きベクトル、および、動きボケ調整量の情報が動きボケ調整サーバ１６に出力される。
【０７４８】
ステップＳ１７１１において、動きボケ調整サーバ１６は、指定された画像を取得する。すなわち、クライアントコンピュータ２７より画像が送信されてきた場合、その画像を、指定する画像IDが送信されてきた場合、その画像IDに対応する画像を、ネットワーク１上から読出し取得する。
【０７４９】
ステップＳ１７１２，Ｓ１７２１において、動きボケ調整サーバ１６の課金処理部１６ａと課金サーバ２４は、課金処理を実行する。尚、課金処理については、図１１８，図１２０において、分離サービスにおける場合と同様の処理であるので、その説明は省略する。
【０７５０】
ステップＳ１７１３において、動きボケ調整サーバ１６は、動きベクトル、および、動きボケ調整量の情報に基づいて、動きボケの量の調整の処理を実行する。尚、動きボケの量の調整の処理は、図１０４のフローチャートを参照して説明した処理と同様であるので、その説明は省略する。
【０７５１】
ステップＳ１７１４において、動きボケ調整サーバ１６は、ステップＳ１７１３の処理で求められた動きボケ調整画像にIDを付してクライアントコンピュータ２７に送信する。
【０７５２】
ステップＳ１７０２において、クライアントコンピュータ２７は、動きボケ調整サーバ１６より送信されてきた動きボケ調整画像を受信し、記憶する。
【０７５３】
尚、クライアントコンピュータ２７は、使用者の指令に応じて、動きボケ調整サーバ１６により送信されてきた動きボケ調整画像を、動きボケ調整サーバ１６自身に記憶させたり、または、蓄積サーバ１８に出力させ記憶（蓄積）させるようにすることもできる。
【０７５４】
次に、図１２６を参照して、符号化サーバ１７の詳細な構成を説明する。符号化サーバ１７の分離処理部２００２は、入力された画像（画像を指定する画像IDが入力され、対応する画像をネットワーク１を介して、蓄積サーバ１８より読込まれる画像を含む）を前景成分画像と背景成分画像に分離し、混合比、動きベクトル、および、位置情報と共に、符号化部２００１に出力する。分離処理部２００２は、図２７を参照して説明した分離処理サーバ（分離処理部）１１と同様ものであり、混合比、動きベクトル、および、位置情報の取得処理についても同様であるので、その説明は省略する。
【０７５５】
符号化部２００１は、分離処理部２００２より入力される前景成分画像と背景成分画像をネットワーク１を介して蓄積サーバ１８に出力して記憶させると共に、記憶させた蓄積サーバ１８のネットワーク上の位置情報、すなわち、URLなどの情報に変換し、前景成分画像位置情報、および、背景成分画像位置情報として出力する。このとき、符号化部２００１は、前景成分画像と背景成分画像を分離する際に抽出される混合比、動きベクトル、および、位置情報についても出力する。
【０７５６】
符号化部２００１により前景成分画像と背景成分画像が、それぞれ前景成分画像位置情報、および、背景成分画像位置情報に変換されるとき、課金処理部１７ａ（図１６，図１７）が、ネットワーク１を介して課金サーバ２４に対して課金処理を実行する。尚、この課金処理は、後述する合成サーバ１９を使用して、合成画像を生成する合成サービスを受ける使用者が負担するようにしてもよい。また、逆に、符号化サービスを利用した使用者が予め負担することにより、合成サービスを利用する際には、使用者から利用料金の支払を受けずに済むようにすることもできる。
【０７５７】
次に、図１２７のフローチャートを参照して、符号化サーバ１７により実行される、クライアントコンピュータ２７より入力された画像を符号化する符号化サービスの処理について説明する。尚、この説明においては、符号化サービスの利用者が利用料金を負担する場合について説明する。
【０７５８】
ステップＳ１８０１において、クライアントコンピュータ２７は、画像を指定する情報を符号化サーバ１７に出力する。すなわち、使用者が符号化したい画像を指定する情報として、具体的な画像であるか、または、画像を指定する画像ID、オブジェクトを指定する情報が符号化サーバ１７に出力される。
【０７５９】
ステップＳ１８１１において、符号化サーバ１７は、指定された画像を取得する。すなわち、クライアントコンピュータ２７より画像が送信されてきた場合、その画像を、指定する画像IDが送信されてきた場合、その画像IDに対応する画像を、ネットワーク１上から読出し取得する。
【０７６０】
ステップＳ１８１２，Ｓ１８２１において、符号化サーバ１７の課金処理部１７ａと課金サーバ２４は、課金処理を実行する。尚、課金処理については、図１１８，図１２０において、分離サービスにおける場合と同様の処理であるので、その説明は省略する。
【０７６１】
ステップＳ１８１３において、符号化サーバ１７の分離処理部２００２は、画像分離処理を実行する。尚、画像分離処理は、図１１７のフローチャートのステップＳ１０１３の処理と同様であるので、その説明は省略する。
【０７６２】
ステップＳ１８１４において、符号化サーバ１７は、ステップＳ１８１３の処理で求められた前景成分画像と背景成分画像を蓄積サーバ１８に出力し、記憶（蓄積）させる。ステップＳ１８３１において、蓄積サーバ１８は、送信されてきた前景成分画像と背景成分画像を記憶する。
【０７６３】
ステップＳ１８１５において、符号化サーバ１７は、符号化により生成された前景成分画像位置情報と背景成分位置情報に、動きベクトルと位置情報を加えて、クライアントコンピュータ２７に送信する。
【０７６４】
ステップＳ１８０２において、クライアントコンピュータ２７は、符号化サーバ１７より送信されてきた前景成分画像位置情報、背景成分画像位置情報、動きベクトル、および、位置情報を受信し、記憶する。
【０７６５】
尚、符号化部２００１は、入力された画像を分離して符号化する場合、既に符号化した画像と類似の画像を符号化するとき、その差分となるデータのみを、既に符号化されている画像の符号（画像位置情報）に付して出力するようにしてもよい。例えば、図１２８で示すような画像を合成する場合、前景成分画像１、前景成分画像２、および、混合比１の符号化情報からなる第１の画像の符号化情報と、前景成分画像１、前景成分画像３、および、混合比２の符号化情報からなる第２の画像の符号化情報を合成するような場合、前景成分画像１は、いずれの画像の情報にも含まれているため、合成するときには、一方の画像の前景成分画像１の符号化情報を省略しても良く、結果として、単純に合成する場合よりも、前景成分画像１の情報が削除される分だけ圧縮率を向上させることができる。
【０７６６】
結果として、図１２８に示すような第１の画像と第２の画像を蓄積する場合には、先に第１の画像が蓄積されている場合には、第２の画像は、差分となる前景成分画像３と混合比２の符号化情報だけを蓄積すればよいことになる。このため、同一の画像の符号化情報が複数に渡って蓄積されるような場合、蓄積される画像の数が増えれば増えるほど圧縮率が向上されていくことになる。
【０７６７】
また、符号化サーバ１７により符号化される混合比、動きベクトル、および、位置情報については、図１２９で示すように使用者が指定した情報であってもよい。さらに、図１２９で示すように、符号化させる画像は、使用者により指定された画像IDに対応する前景成分画像と背景成分画像を蓄積サーバ１８から読み出し、符号化するようにしてもよい。この場合、符号化サーバ１７には、分離処理部２００２は設けられなくてもよいことになる。
【０７６８】
また、本明細書中で画像を指定する情報として、画像IDを使用してきたが、これに代えて、画像位置情報を使用するようにしてもよい。
【０７６９】
次に、図１３０のフローチャートを参照して、合成サーバ１９により実行される、クライアントコンピュータ２７より入力された画像Ａ，Ｂを指定する情報、動きベクトル、混合比、位置情報、および、動きボケ調整量から、指定された画像Ａ，Ｂを合成するサービスの処理について説明する。
【０７７０】
ステップＳ１９０１において、クライアントコンピュータ２７は、画像Ａ，Ｂを指定する情報、動きベクトル、混合比、位置情報、および、動きボケ調整量の情報を合成サーバ１９に出力する。すなわち、使用者が合成したい画像Ａ，Ｂを指定する情報として、具体的な画像であるか、または、画像Ａ，Ｂを指定する画像Ａ-ID,Ｂ-ID（上述の符号化された画像位置情報でもよい）、動きベクトル、混合比、位置情報、および、動きボケ調整量の情報が合成サーバ１９に出力される。
【０７７１】
ステップＳ１９１１において、合成サーバ１６は、指定された画像を取得する。すなわち、クライアントコンピュータ２７より画像が送信されてきた場合、その画像を指定する画像ID（上述の符号化された画像位置情報でもよい）が送信されてきた場合、その画像IDに対応する画像を、ネットワーク１上から読出し取得する。
【０７７２】
ステップＳ１９１２，Ｓ１９２１において、合成サーバ１９の課金処理部１９ａと課金サーバ２４は、課金処理を実行する。尚、課金処理については、図１１８，図１２０において、分離サービスにおける場合と同様の処理であるので、その説明は省略する。また、この課金処理は、上述の符号化サーバ１６を使用して、符号化サービスを受けた使用者が負担していた場合には、省略するようにすることもできる。逆に、符号化サービスを受けた使用者の代わりに、合成サービスを受けた使用者が負担するようにしてもよい。
【０７７３】
ステップＳ１９１３において、合成サーバ１９は、動きベクトル、混合比、位置情報、および、動きボケ調整量の情報に基づいて、画像Ａ，Ｂの合成の処理を実行する。
【０７７４】
ステップＳ１９１４において、合成サーバ１９は、ステップＳ１９１３の処理で求められた合成画像（Ａ＋Ｂ）にIDを付してクライアントコンピュータ２７に送信する。
【０７７５】
ステップＳ１９０２において、クライアントコンピュータ２７は、合成サーバ１９より送信されてきた合成画像（Ａ＋Ｂ）を受信し、記憶する。
【０７７６】
尚、クライアントコンピュータ２７は、使用者の指令に応じて、合成サーバ１９により送信されてきた合成画像（Ａ＋Ｂ）を、合成サーバ１９自身に記憶させたり、または、ネットワーク１を介して蓄積サーバ１８に出力させ記憶（蓄積）させるようにすることもできる。
【０７７７】
ところで、合成サーバ２０は、以上のように複数の画像を合成することが可能なようになされているが、この際、動きボケ調整量をキーとすることで、合成画像の動きボケを付加して暗号化画像を生成することができる。図１３１は、合成サーバ２０に暗号化画像を生成させるために設けられる暗号用動きボケ付加部２０２１の構成を示している。
【０７７８】
暗号用動きボケ付加部２０２１の入力情報処理部２０３１は、入力された暗号化しようとする被暗号化信号を画像化部２０３２に、暗号キーとなる情報を動きボケ作成部２０３３に、および、被暗号化信号を前景成分画像として合成しようとする画像（背景成分画像）を選択する画像選択情報を合成サーバ２０にそれぞれ出力する。
【０７７９】
画像化部２０３２は、入力情報処理部２０３１より入力された被暗号化信号が画像信号ではない場合、その信号を画像信号に変換して動きボケ付加部２０３３に出力する。すなわち、暗号化処理される信号は、画像信号であることが条件となるので、その処理に対応させるため画像信号ではない信号を画像化する。
【０７８０】
動きボケ作成部２０３３は、入力情報処理部２０３１より入力された速さや方向といった情報に基づいて動きボケ調整量を生成し、画像化部２０３２より入力された画像信号に動きボケ付加処理を施し、合成サーバ２０に出力する。合成サーバ２０は、入力情報処理部２０３１より入力された画像選択情報に基づいて背景成分画像を取得し、さらに、動きボケ付加部２０３３より入力される画像を前景成分画像として、取得した背景成分画像と合成し、合成画像を生成して表示する。このとき、背景成分画像を指定する画像選択情報は、背景成分画像そのものでもよいし、背景成分画像位置情報、または、背景成分画像IDであってもよい。
【０７８１】
次に、図１３２を参照して、合成サーバ２０に設けられた暗号用動きボケ付加部２０２１により暗号化された合成画像を復号して、元の信号に変換する暗号用動きボケ除去部２０４１について説明する。尚、図１３１，図１３２に示す暗号用動きボケ付加部２０２１、および、暗号用動きボケ除去部２０４１は、例えば、クライアントコンピュータ２７に内蔵されるソフトウェアの機能ブロック図として考えてもよいし、ハードウェアのブロック図であるものと考えてもよい。さらに、暗号用動きボケ付加部２０２１、および、暗号用動きボケ除去部２０４１は、ネットワーク１上に専用サーバとして構成するようにしてもよい。
【０７８２】
分離サーバ１１は、暗号化された合成画像を前景成分画像と背景成分画像に分離し、動きボケが付加された前景成分画像を入力情報処理部２０５１に出力する。
【０７８３】
入力情報処理部２０５１は、分離処理サーバ１１より入力された暗号化されている前景成分画像と、その暗号化された前景成分画像を復号するためのキーとして速さと方向の情報が入力されると、動きボケ除去部２０５２に出力する。このキーとなる速さと方向は、画像をｘ方向、ｙ方向の２次元で示すとき、それぞれに設定される。
【０７８４】
動きボケ除去部２０５２は、入力情報処理部２０５１より入力された速さと方向の情報に基づいて、動きボケ量を生成し、暗号化された前景成分画像に、暗号用動きボケ付加部２０２１により施された動きボケ付加処理と逆の動きボケ付加処理を施し、暗号化された前景成分画像を復号して信号変換部２０５３に出力する。信号変換部２０５３は、被暗号化信号が画像ではなかった場合、動きボケ除去部２０５２より入力された画像信号を元の信号に変換して出力する。
【０７８５】
すなわち、上記の動きボケ作成部２０３３（図１３１）と、動きボケ除去部２０５２は、実質的には、図９７の動きボケ付加部８０６と同様の処理を実行するものであり、暗号キーとして動きボケ調整量を使用して、相互に逆の動きボケの付加処理を実行するものである。ただし、後述するｘ方向、または、ｙ方向の動きボケ付加処理のうち、先に実行された動きボケ付加処理に対して、ゲインアップの処理を実行する点が異なる。
【０７８６】
ここで動きボケを付加することにより、画像信号を暗号化する原理について説明する。例えば、図１３３に示すように、被写体が矢印の方向に移動するとき、これをCCDなどからなるセンサ７６ａで撮像すると、移動方向の前後に混合領域（カバードバックグラウンド領域とアンカバードバックグラウンド領域）が、撮像された画像の動きボケとして生じる（詳細は、図３１を参照）。図１３４は、この現象を示す例を示しており、図１３４（Ａ）で示すような被写体を、センサ７６ａで撮像する場合、図中左右方向に被写体が移動しているとき、その速さに応じて、動きボケの領域が広がり、さらに、撮像される色が拡散される様子を示している。すなわち、被写体が左右方向に速さｖで移動しているとき、図１３４（Ｂ）で示すような画像が撮像されるものとする。このとき、被写体が静止しているときに撮像される領域を領域ａ０乃至ａ０'であるとすると、図１３４（Ｂ）の被写体が撮像される領域は領域ａ１乃至ａ１'となり、元の位置ａ０乃至ａ０'の領域の色が薄くなり、動きボケとなる領域ａ１乃至ａ０、および、領域ａ０'乃至ａ１'に色が広がっている。同様にして、被写体が速さ２ｖ（速さｖの２倍）で移動していると、図１３４（Ｃ）で示すように、さらに動きボケとなる領域ａ２乃至ａ０、および、領域ａ０'乃至ａ２'に色が広がることが示されている。さらに、被写体が速さ３ｖで移動すると、図１３４（Ｄ）で示すように、動きボケとなる領域ａ３乃至ａ０、および、領域ａ０'乃至ａ３'に広がり、速さ４ｖで移動すると、図１３４（Ｅ）で示すように、動きボケとなる領域ａ４乃至ａ０、および、領域ａ０'乃至ａ４'に広がり、全体として色が薄くなる。すなわち、センサ７６ａから出力される個々の画素値は、撮像するオブジェクトの空間的に広がりを有するある部分を、シャッタ時間について積分した結果であるので、総じて積分される画素値は変わらない分だけ、被写体の速さが増す毎に、空間的に広がることにより、色が薄く撮像されることになる。従って、色が薄くなり、領域が広がり、動きボケの領域が大きくなるにつれて、被写体の判読が困難になる。ここで、色は、判読の可能性を示しており、濃いほど判読の可能性が大きく、薄いほど判読の可能性が小さくなることを示している。
【０７８７】
動きボケ調整による暗号化は、この性質を利用したものであり、現実世界では起こりえない、２次元方向の動きボケを画像に生じさせることで暗号化させるものである。すなわち、図１３５で示すように、動きのない状態で、黒丸状の被写体が撮像された画像がマトリクスの最左列最上段に示されている。この状態から、例えば、縦方向に動きのある状態の動きボケを付加すると、黒丸状の被写体は、中列最上段に示すように上下方向に動きボケが生じた画像となる。さらに、横方向に動きボケを生じさせると中列中段に示すように、被写体の上下左右方向に動きボケが生じた画像となる。
【０７８８】
この状態で、さらにまた、左右方向の動き（速さ）を大きくして動きボケを付加すると、中列最下段に示すように、さらに、左右方向に動きボケ領域が広がった画像となる。この画像に、さらに、上下方向に動きボケを生じさせると、最右列最下段に示すように、黒丸状の被写体の動きボケ領域が広がり、全体として色が薄くなる。結果として、被写体の判読の可能性が低下するので、画像そのものを暗号化させることが可能となる。
【０７８９】
次に、図１３６のフローチャートを参照して、暗号用動きボケ付加部２０２１の動きボケ調整量を利用した暗号化処理について説明する。尚、以下の説明では、図１３７で示すように、５×５画素からなる被写体が撮像された画像を暗号化する例について説明する。ここで、図１３７においては、５×５画素の各画素の画素値ａ乃至ｙで示すこととし、縦方向をｙ、横方向をｘで示し、時刻軸を時刻ｔとして説明する。
【０７９０】
ステップＳ２００１において、入力情報処理部２０３１は、被暗号化信号が入力されたか否かを判定し、入力されるまでその処理を繰り返し、入力されたと判定された場合、その処理は、ステップＳ２００２に進む。
【０７９１】
ステップＳ２００２において、入力情報処理部２０３１は、入力された被暗号化信号を画像化部２０３２に出力する。ステップＳ２００３において、画像化部２０３２は、入力された被暗号化信号が画像信号であるか否かを判定する。例えば、被暗号化信号が画像信号ではないと判定された場合、ステップＳ２００４において、画像化部２０３２は、被暗号化信号を画像信号に変換して、動きボケ付加部２０３３に出力する。ステップＳ２００３において、被暗号化情報が画像信号であると判定された場合、画像化部２０３２は、入力された被暗号化信号をそのまま動きボケ付加部２０３３に出力する。
【０７９２】
ステップＳ２００５において、入力信号処理部２０３１は、キーとなる速さと方向の情報が入力されたか否かを判定し、入力されるまでその処理を繰り返し、速さと方向のキーが入力されると、その処理は、ステップＳ２００６に進む。
【０７９３】
ステップＳ２００６において、動きボケ付加部２０３３は、入力された画像信号に対してｘ方向について暗号化する（動きボケを付加する）。
【０７９４】
ここで、被写体を動きボケ調整により暗号化するときの具体的な画素値の生成方法を、図１３７乃至図１４９を参照して説明する。
【０７９５】
ここで、図１３７で示すように、最下段の画素ａ乃至ｅを、ｘ方向に動きボケを生じさせて暗号化する方法について説明する。このとき、キーとなる速さを示す動き量vを５（仮想分割数を５）とすると、図１３８で示す最下段の画素は図１３９のように示される。すなわち、各時間方向の画素値が５分割されるので、ａ／５＝ａ０＝ａ１＝ａ２＝ａ３＝ａ４、ｂ／５＝ｂ０＝ｂ１＝ｂ２＝ｂ３＝ｂ４、ｃ／５＝ｃ０＝ｃ１＝ｃ２＝ｃ３＝ｃ４、ｄ／５＝ｄ０＝ｄ１＝ｄ２＝ｄ３＝ｄ４、ｅ／５＝ｅ０＝ｅ１＝ｅ２＝ｅ３＝ｅ４の関係が満たされることになる。ここで、図１３９中上段にある画素ほど前の時刻の画素値である。
【０７９６】
被写体に対してｘ方向の動き（今の場合、図中右方向）が与えられると、画素値の配置は、所定の時間間隔でスライドされることになり、結果として、図１４０で示すような配置になる。すなわち、動き始めのタイミングでは、画素値ａ０乃至ｅ０は元の位置であり、次のタイミングで、画素値ａ１乃至ｅ１は右方向に１画素分スライドし、さらに次のタイミングで、画素値ａ２乃至ｅ２は右方向にさらに１画素分スライドし、さらに次のタイミングで、画素値ａ３乃至ｅ３は右方向にさらに１画素分スライドし、さらに次のタイミングで、画素値ａ４乃至ｅ４は右方向にさらに１画素分スライドするといったように被写体の動きに合わせて画素値が移動した配置となる。
【０７９７】
また、ｘｙ平面上の各画素値は、図１４０で示した画素値を時間方向に加算したものと言うことになる。しかしながら、例えば、最左列、または、最右列は、画素値ａ０，ｅ４だけとなり、画素値としての値が非常に小さなものとなる恐れがあり、また、この後、ｙ方向に対しても同様の処理をする上で、非常に小さな値とならないように、ゲインアップの処理を施す。このゲインアップの処理を施した例が、図１４１に示されている。
【０７９８】
ここで、ａ０＊＝５×ａ０、ｂ０＊＝(５／２)×ｂ０、ａ０＊＝(５／２)×ａ１、ｃ０＊＝(５／３)×ｃ０、ｂ１＊＝(５／３)×ｂ１、ａ２＊＝(５／３)×ａ２、ｄ０＊＝(５／４)×ｄ０、ｃ１＊＝(５／４)×ｃ１、ｂ２＊＝(５／４)×ｂ２、ａ３＊＝(５／４)×ａ３、ｅ１＊＝(５／４)×ｅ１、ｄ２＊＝(５／４)×ｄ２、ｃ３＊＝(５／４)×ｃ３、ｂ４＊＝(５／４)×ｂ４、ｅ２＊＝(５／３)×ｅ２、ｄ３＊＝(５／３)×ｄ３、ｃ４＊＝(５／３)×ｃ４、ｅ３＊＝(５／２)×ｅ３、ｄ４＊＝(５／２)×ｄ４、および、ｅ４＊＝５×ｅ４である。すなわち、各画素の加算値が、１画素分の画素値となるようにゲインを調整している。この結果、図１３８で示した、画素ａ乃至ｅがｘ方向に動き量vが５の条件で、暗号化されると（動きボケ付加されると）、図１４２で示すような画素ａｘ乃至ｄｘ'に変換され（暗号化され）、被写体の水平方向の画素数が５から９に増加することになる。ここで、画素値は、ａｘ＝ａｘ＊、ｂｘ＝（ｂ０＊）＋（ａ１＊）、ｃｘ＝（ｃ０＊）＋（ｂ１＊）＋（ａ２＊）、ｄｘ＝（ｄ０＊）＋（ｃ１＊）＋（ｂ２＊）＋（ａ３＊）、ｅｘ＝（ｅ０）＋（ｄ１）＋（ｃ２）＋（ｂ３）＋（ａ４）、ａｘ'＝（ｅ１＊）＋（ｄ２＊）＋（ｃ３＊）＋（ｂ４＊）、ｂｘ'＝（ｅ２＊）＋（ｄ３＊）＋（ｃ４＊）、ｃｘ'＝（ｅ３＊）＋（ｄ４＊）、および、ｅｘ＝ｅｘ＊である。
【０７９９】
以上のような処理を、図１３７で示した５×５画素の全てのｙに対して、ｘ方向に暗号化すると、図１４３で示すような画素値が求められることになる。すなわち、画素ａｘ乃至ｙｘ、並びに、画素ａｘ'乃至ｄｘ'、ｆｘ'乃至ｉｘ'、ｋｘ'乃至ｎｘ'、ｐｘ'乃至ｓｘ'、および、ｕｘ'乃至ｘｘ'の画素が求められ、ｘ方向に動きボケが生じることによりｘ方向に広がりが生じ、９画素ずつ求められることになる。
【０８００】
ここで、図１３６のフローチャートの説明に戻る。
【０８０１】
ステップＳ２００７において、動きボケ付加部２０３３は、ｘ方向に符号化した画像信号をｙ方向に対して暗号化する。
【０８０２】
ここで、図１４４で示すように、図１４３で示す最右列の画素ａｘ，ｆｘ，ｋｘ，ｐｘ，ｕｘを、ｙ方向に動きボケを生じさせて暗号化する方法について説明する。このとき、キーとなる速さを示す動き量vを５（仮想分割数を５）とすると、図１４３で示す最右列の画素は図１４４のように示される。すなわち、各時間方向の画素値が５分割されるので、ａｘ／５＝ａｘ０＝ａｘ１＝ａｘ２＝ａｘ３＝ａｘ４、ｆｘ／５＝ｆｘ０＝ｆｘ１＝ｆｘ２＝ｆｘ３＝ｆｘ４、ｋｘ／５＝ｋｘ０＝ｋｘ１＝ｋｘ２＝ｋｘ３＝ｋｘ４、ｐｘ／５＝ｐｘ０＝ｐｘ１＝ｐｘ２＝ｐｘ３＝ｐｘ４、ｕｘ／５＝ｕｘ０＝ｕｘ１＝ｕｘ２＝ｕｘ３＝ｕｘ４の関係が満たされることになる。ここで、図１４５中上段にある画素ほど前の時刻の画素値である。
【０８０３】
被写体に対してｙ方向に動きが与えられると、画素値の配置は、所定の時間間隔でスライドされることになり、結果として、図１４６で示すような配置になる。すなわち、動き始めのタイミングでは、画素値ａｘ０，ｆｘ０，ｋｘ０，ｐｘ０，ｕｘ０は元の位置であり、次のタイミングで、画素値ａｘ１，ｆｘ１，ｋｘ１，ｐｘ１，ｕｘ１は右方向に１画素分スライドし、さらに次のタイミングで、画素値ａｘ２，ｆｘ２，ｋｘ２，ｐｘ２，ｕｘ２は右方向に、さらに１画素分スライドし、さらに次のタイミングで、画素値ａｘ３，ｆｘ３，ｋｘ３，ｐｘ３，ｕｘ３は右方向に、さらに１画素分スライドし、さらに次のタイミングで、画素値ａｘ４，ｆｘ４，ｋｘ４，ｐｘ４，ｕｘ４は右方向にさらに１画素分スライドするといったように被写体の動きに合わせて画素値が移動した配置となる。
【０８０４】
ここで、図１３６のフローチャートの説明に戻る。
【０８０５】
ステップＳ２００８において、合成サーバ１９は、合成される背景成分画像を、暗号化した画像（前景成分画像）と合成する。例えば、図１４７で示すようなｙ方向に配列された画素値Ｂ０乃至Ｂ９の画素値からなる背景成分画像（ｘ方向に１段分の画素からなる画像）を合成すると、図１４８で示すような画素値が加算された値が画素値となる。すなわち、ｘｙ方向に暗号化された（動きボケが付加された）画像の画素値が前景成分画像の画素値として、合成される画像の画素値が背景成分画像の画素値として合成される。結果として、図１４９で示すような画素値Ａ，Ｆ，Ｋ，Ｐ，Ｕ，Ａｙ'，Ｆｙ'，Ｋｙ'，Ｐｙ'が求められることになり、各画素値は、画素値Ａ＝ａｘ０＋Ｂ０×４／５、画素値Ｆ＝ｆｘ０＋ａｘ０＋Ｂ１×３／５、画素値Ｋ＝ｋｘ０＋ｆｘ１＋ａｘ２＋Ｂ２×２／５、画素値Ｐ＝ｐｘ０＋ｋｘ１＋ｆｘ２＋ａｘ３＋Ｂ３×１／５、画素値Ｕ＝ｕｘ０＋ｐｘ１＋ｋｘ２＋ｆｘ３＋ａｘ４、画素値Ａｙ'＝Ｂ５×１／５＋ｕｘ１＋ｐｘ２＋ｋｘ３＋ｆｘ４、画素値Ｆｙ'＝Ｂ６×２／５＋ｕｘ２＋ｐｘ３＋ｋｘ４、画素値Ｋｙ'＝Ｂ７×３／５＋ｕｘ３＋ｐｘ４、および、画素値Ｐｙ'＝Ｂ８×４／５＋ｕｘ４となる。
【０８０６】
これらの処理を全てのｙ方向に対して実行することにより、図１５０で示すような暗号化された前景成分画像を背景成分画像とする合成画像が生成される。すなわち、入力された５×５画素の画像は、９×９画素（画素Ａ乃至Ｙ、画素Ａｘ乃至Ｄｘ、画素Ｆｘ乃至Ｉｘ、画素Ｋｘ乃至Ｎｘ、画素Ｐｘ乃至Ｓｘ、画素Ｕｘ乃至Ｘｘ、画素Ａｙ'乃至Ｔｙ'、画素Ａｘ'乃至Ｄｘ'、画素Ｆｘ'乃至Ｉｘ'、画素Ｋｘ'乃至Ｎｘ'、および、画素Ｐｘ'乃至Ｓｘ'）の画像に変換される。
【０８０７】
尚、復号の処理については、暗号用動きボケ除去部２０４１において、暗号用動きボケ付加部２０２１の処理と全く逆の、動きボケ付加処理を実行することになるので、その説明は省略する。
【０８０８】
また、上述のステップＳ２００６の処理において、ｘ方向に暗号化する際、ゲインアップ処理を施したのち、ｙ方向の暗号化を行っている。従って、復号は、ｙ方向に復号した後、ゲインをダウンさせてからｘ方向に復号する必要がある。また、ｙ方向とｘ方向の暗号化処理の順序は入れ替えてもよいが、先に暗号化する方向に対して、ゲインアップの処理がなされるため、復号も暗号化された順序に対応させる必要がある。
【０８０９】
次に、図１５１のフローチャートを参照して、図１３１で示した暗号化用動きボケ付加部２０２１が備えられた合成サーバ１９による暗号化サービスについて説明する。尚、この処理は、ネットワーク１上に接続されたクライアントコンピュータ２７−１が合成サーバ１９に対して被暗号化信号を送信し、これを暗号化させて、クライアントコンピュータ２７−２に送信させる場合の処理である。また、クライアントコンピュータ２７には、暗号用動きボケ除去部２０４１を有する分離処理サーバ１１の画像の分離処理機能を備えたハードウェアが設けられているか、または、ソフトウェアがインストールされているものとする。
【０８１０】
ステップＳ２１０１において、クライアントコンピュータ２７−１は、暗号化しようとする情報（被暗号化信号）、暗号キーとなる速さと方向の情報、および、画像選択情報（背景成分画像を選択する情報）を合成サーバ１９に送信する。
【０８１１】
ステップＳ２１１１において、合成サーバ１９の暗号用動きボケ付加部２０２１は、クライアントコンピュータ２７−１より入力された、暗号キーに基づいて、暗号化しようとする情報（被暗号化信号）を暗号化し、選択された背景成分画像を合成する暗号化処理を実行する。尚、暗号化処理については、図１３６のフローチャートを参照して説明したので省略する。
【０８１２】
ステップＳ２１１２において、合成サーバ１９は、動きボケを付加することにより暗号化して合成した画像をクライアントコンピュータ２７−１に送信する。
【０８１３】
ステップＳ２１０２において、クライアントコンピュータ２７−１は、合成サーバ１９より受信した合成画像を表示して、使用者が所望とする画像であるか否かを判定し、所望の画像であると判定された場合、ステップＳ２１０３において、所望の画像であったことを合成サーバ１９に通知する。ステップＳ２１１３において、合成サーバ１９は、所望の画像であったか否かを判定し、例えば、今の場合、ステップＳ２１０３において、所望の画像であるとの通知を受けているので、その処理は、ステップＳ２１１４に進む。
【０８１４】
ステップＳ２１１４において、合成サーバ１９の課金処理部１９ａは、課金サーバ２４と共に課金処理を実行する。尚、課金処理については、図１１８，図１２０において、分離サービスにおける場合と同様の処理であるので、その説明は省略する。
【０８１５】
ステップＳ２１１５において、合成サーバ１９は、暗号化した合成画像をクライアントコンピュータ２７−１に送信する。ステップＳ２１０４において、クライアントコンピュータ２７−１は、暗号化された合成画像を受信し、そのまま、クライアントコンピュータ２７−２に送信する。
【０８１６】
ステップＳ２１４１において、クライアントコンピュータ２７−２は、暗号化された合成画像を受信する。ステップＳ２１４２において、クライアントコンピュータ２７−２は、キーが入力されたか否かを判定し、暗号キーが入力されるまでその処理を繰り返す。ステップＳ２１４２において、暗号キーとして、速さと方向の情報が入力されると、ステップＳ２１４３において、入力された速さと方向に基づいて、動きボケ除去処理部２０４１が動きボケ処理を実行する。ステップＳ２１４４において、動きボケが除去された画像が表示される。
【０８１７】
ステップＳ２１０２において、所望の画像ではないと判定された場合、ステップＳ２０１５において、所望の画像ではないことを合成サーバ１９に通知すると共に、その処理は、ステップＳ２１０１に戻る。また、この処理により、ステップＳ２１１４において、所望の画像ではないと判定されることになるので、合成サーバ１９の処理は、ステップＳ２１１１の処理に戻る。
【０８１８】
すなわち、この処理により、クライアントコンピュータ２７−２の使用者がクライアントコンピュータ２７−１の使用者により指定された速さと方向のキーを正しく入力されたとき、暗号化された画像が正しく復号された画像が表示される。また、上述の暗号化サービスと同様のシステムにより、復号サービスを提供することもできる。
【０８１９】
次に、図１５２を参照して、修正サーバ２０について説明する。
【０８２０】
修正サーバ２０の分離処理部１１は、入力された画像（画像IDでもよく、画像IDで指定された画像の場合、ネットワーク１上より対応する画像を読み出した画像）を前景成分画像と背景成分画像に分離して、前景成分画像を動きボケ調整部２１０１に、背景成分画像を合成部に出力する。動きボケ調整部２１０１は、入力された前景成分画像を指定された（修正の程度を調整する）動きボケ量で動きボケ調整し、合成部２１０１に出力する。合成部２１０１は、動きボケ調整された前景成分画像と、入力された背景成分画像とを合成し、修正画像として出力する。
【０８２１】
例えば、図１５３（Ａ）で示すような画像が、修正サーバ２０に入力されるものとする。すなわち、図１５３（Ａ）右部に示すように、前景が背景上を矢印方向に移動するとき、前景の進行方向と、その逆方向に対して動きボケが生じる。この動きボケの部分は、混合領域であり、図１５３（Ａ）左部に示すように、移動方向の前方部分に生じる混合領域がＣＢ（Covered Background）であり、移動方向の後方部分に生じる混合領域がＵＢ（Uncovered Background）である。尚、図１５３（Ａ）左部の図では縦方向に時間軸ｔを設定しているので移動と共に、画素上の画素値の蓄積状態と時間の経過の関係が示されている。分離処理部１１は、この入力画像を図１５３（Ｂ）で示すように前景と背景に分離する。このとき、入力された画像の混合領域も同時に抽出される。
【０８２２】
動きボケ調整部２１０１は、図１５３（Ｂ）で示すような前景成分画像の動きボケを調整して、例えば、図１５３（Ｃ）のような前景成分画像を生成する。すなわち、今の場合、動きボケが小さくされている（ＣＢ、ＵＢの部分を小さくしている）。尚、動きボケを調整するための動きボケ調整量は、使用者が数回操作を繰り返しながら入力するようにしてもよいし、動きボケ調整部２１０１が所定の値に調整するようにしてもよい。
【０８２３】
合成部２１０２は、図１５３で示したように調整した前景成分画像と、入力された背景成分画像を合成して、図１５３（Ｄ）で示したような、動きボケ調整済みの前景成分画像を、背景成分画像と合成して、出力する。
【０８２４】
尚、背景成分画像を入力された画像のものと異なる他の背景成分画像に変更させたい場合、分離した背景成分画像を合成部２１０２には出力せず、変更させたい背景成分画像を合成部２１０２に入力する。また、修正サーバ２０は、分離処理部１１、動きボケ調整部２１０１、および、合成部２１０２を、ネットワーク１上の分離処理サーバ１１、動きボケ調整サーバ１６、および、合成サーバ１９に置き換えて構成するようにしてもよい。
【０８２５】
次に、図１５４のフローチャートを参照して、修正サーバ２０により実行される、クライアントコンピュータ２７より入力された画像を修正する修正サービスの処理について説明する。
【０８２６】
ステップＳ２２０１において、クライアントコンピュータ２７は、画像を指定する情報を修正サーバ２０に出力する。すなわち、使用者が修正したい画像を指定する情報として、具体的な画像であるか、または、画像を指定する画像IDが修正サーバ２０に出力される。
【０８２７】
ステップＳ２２１１において、修正サーバ２０は、指定された修正しようとする画像と背景成分画像を取得し、分離処理部１１は、修正しようとする画像を前景成分画像と背景成分画像に分離する。すなわち、クライアントコンピュータ２７より画像が送信されてきた場合、その画像を、指定する画像IDが送信されてきた場合は、その画像IDに対応する画像を、ネットワーク１上から読出し取得する。さらに、分離処理部１１は、取得した画像を前景成分画像と背景成分画像に分離する。
【０８２８】
ステップＳ２２１２，Ｓ２２２１において、修正サーバ２０の課金処理部２０ａと課金サーバ２４は、課金処理を実行する。尚、課金処理については、図１１８，図１２０において、分離サービスにおける場合と同様の処理であるので、その説明は省略する。
【０８２９】
ステップＳ２２１３において、修正サーバ２０の動きボケ調整部２１０１は、前景成分画像の動きボケの調整処理を実行する。尚、動きボケの調整処理は、図１０４のフローチャートを参照して説明した処理と同様であるので、その説明は省略する。
【０８３０】
ステップＳ２２１４において、合成部２１０２は、動きボケ調整された前景成分画像と指定された背景成分画像を合成する。ステップＳ２２１５において、修正サーバ２０は、ステップＳ２２１４の処理で求められた合成画像、すなわち、修正画像をクライアントコンピュータ２７に送信する。
【０８３１】
ステップＳ２２０２において、クライアントコンピュータ２７は、修正サーバ２０より送信されてきた修正画像を受信し、記憶する。
【０８３２】
尚、クライアントコンピュータ２７は、使用者の指令に応じて、修正サーバ２０により修正された画像を、修正サーバ２０自身に記憶させたり、または、ネットワークを介して蓄積サーバ１８に出力させ記憶（蓄積）させるようにすることもできる。
【０８３３】
次に、図１５５のフローチャートを参照して、購入サーバ２１により実行される、クライアントコンピュータ２７より指定された画像を購入する画像の購入サービスの処理について説明する。
【０８３４】
ステップＳ２３０１において、クライアントコンピュータ２７は、購入を希望する画像を指定する情報を購入サーバ２１に出力する。すなわち、使用者が購入したい画像を指定する情報として画像を指定する画像IDが購入サーバ２１に出力される。
【０８３５】
ステップＳ２３１１において、購入サーバ２１は、購入を希望する画像を取得する。すなわち、クライアントコンピュータ２７より送信されてきた画像IDに対応する画像を、ネットワーク１上から読出し取得する。
【０８３６】
ステップＳ２３１２，Ｓ２３２１において、購入サーバ２１の課金処理部２１ａと課金サーバ２４は、課金処理を実行する。尚、課金処理については、図１１８，図１２０において、分離サービスにおける場合と同様の処理であるので、その説明は省略する。
【０８３７】
ステップＳ２３１３において、購入サーバ２１は、ステップＳ２３１１の処理で取得した画像をクライアントコンピュータ２７に送信する。
【０８３８】
ステップＳ２３０２において、クライアントコンピュータ２７は、購入サーバ２１より送信されてきた画像を受信し、記憶する。
【０８３９】
尚、クライアントコンピュータ２７は、使用者の指令に応じて、購入サーバ２１により購入した画像を、購入サーバ２１自身に記憶させたり、または、蓄積サーバ１８に出力させ記憶（蓄積）させるようにすることもできる。また、他のクライアントコンピュータ２７に送信できるようにすることで、例えば、画像をプレゼントするようなこともできる。さらに、他の使用者が、上述のように分離処理サービス、合成サービス、または、修正サービスにより、それぞれ分離された前景成分画像、背景成分画像、合成された合成画像、または、修正された修正画像なども購入することが可能となる。
【０８４０】
次に、図１５６のフローチャートを参照して、売却サーバ２２により実行される、クライアントコンピュータ２７より指定された画像を売却する画像の売却サービスの処理について説明する。
【０８４１】
ステップＳ２４０１において、クライアントコンピュータ２７は、売却を希望する画像を指定する情報を購入サーバ２１に出力する。すなわち、使用者が売却したい画像が売却サーバ２２に出力される。
【０８４２】
ステップＳ２４１１において、売却サーバ２２は、売却を希望する画像を取得する。すなわち、クライアントコンピュータ２７より送信されてきた画像を取得する。
【０８４３】
ステップＳ２４２２において、売却サーバ２２は、売却が希望されている画像に対して適当な価格を設定する。価格の設定は、例えば、予め使用者により設定されるものであってもよいし、ネットワーク１上でオークション形式で設定するようにしてもよいし、さらには、人物が撮像された画像である場合、撮像されている人物が、例えば、所定の著名人であるか否かにより設定するような方法でもよい。
【０８４４】
ステップＳ２４１３，Ｓ２４３１において、売却サーバ２２の課金処理部２２ａと課金サーバ２４は、売却課金処理を実行する。
【０８４５】
ここで、図１５７のフローチャートを参照して、売却課金処理について説明する。尚、実際の売却課金処理は、売却サーバ２２と課金サーバ２４により実行されるが各種の処理に必要な情報は、クライアントコンピュータ２７からも出力されているので、ここでは、クライアントコンピュータ２７の処理についても合わせて説明する。
【０８４６】
ステップＳ２５０１において、使用者（画像の売却を依頼する使用者）を識別するID情報をネットワーク１を介して売却サーバ２２に送信する。
【０８４７】
ステップＳ２５１１において、売却サーバ２２は、クライアントコンピュータ２７より送信されてきたID情報に基づいて、売却金額、および、売却サーバ２２を識別するIDを課金サーバ２４に送信する。
【０８４８】
ステップＳ２５２１において、課金サーバ２４は、送信されてきた売却サーバ２２を識別するIDに基づいて、提供者口座を持つ金融サーバ２６に対して、購入金額をID情報に対応する顧客口座の金融サーバ２５への振り込みの依頼をする。
【０８４９】
ステップＳ２５３１において、提供者用の金融サーバ２６は、提供者の口座から、顧客の口座が開設されている顧客用の金融サーバ２５に売却金額に相当する金額の振込みを行う。
【０８５０】
ここで、図１５６のフローチャートの説明に戻る。
【０８５１】
ステップＳ２４２４において、売却サーバ２２は、売却が完了したことをクライアントコンピュータ２７に通知する。ステップＳ２４０２において、クライアントコンピュータ２７は、売却完了の通知を受信する。
【０８５２】
尚、売却サーバ２２は、使用者により売却された画像を、売却サーバ２１自身に記憶してもよいし、または、蓄積サーバ１８に出力させ記憶（蓄積）させるようにすることもできる。さらに、上述のようにオークション形式で価格を設定するような場合、落札者のクライアントコンピュータ２７に送信するようにしても良い。
【０８５３】
次に、図１５８を参照して、検索サーバ２３について説明する。
【０８５４】
検索サーバ２３は、クライアントコンピュータ２７などから入力される検索条件（画像要求信号）に基づいて、ネットワーク１上に接続されたカメラ端末装置１上で撮像されている画像を検索し、要求画像を出力するものである。検索条件としては、時刻、季節、天候、地域、場所、または、被写体などである。
【０８５５】
検索サーバ２３の制御部２１６１は、検索サーバ２３の全体の動作を制御する。データベース２１６２には、ネットワーク１に接続された、検索サーバ２３自身が認識している各カメラ端末装置２８毎のカメラIDに対応して、各カメラ端末装置２８の位置データ（カメラ端末装置２８備えられたGPS７６ｂにより取得される）、気象データ、および、撮像している被写体のデータなどのデータ２１６２ｂがデータベースとして記憶されている。このデータベース２１６２の内容は、制御部２１６１が、所定の時間間隔で、通信部２１６５を制御してネットワーク１を介して各カメラ端末装置２８から取得し、更新されている。
【０８５６】
記憶部２１６３は、通信部２１６５からネットワーク１上のカメラ端末装置２８より取得した画像を記憶したり、または、各種の画像の処理に必要な情報を記憶する。
【０８５７】
要求情報生成部２１６４は、ネットワーク１上のクライアントコンピュータ２７などから入力された検索条件を整理して、実際にデータベース２１６２上で検索できる条件を生成する。すなわち、例えば、検索条件として季節が入力された場合、各カメラ端末装置２８の位置データと時刻演算部２１６６により演算される時刻情報により季節を特定することができることになる。そこで、要求情報生成部２１６４は、例えば、「春」といった検索条件が入力された場合、今現在の時刻から季節が「春」となっている、地球上の緯度経度の位置データを生成する。制御部２１６１は、通信部２１６５を制御して、この位置データに対応するカメラIDのカメラ端末装置２８の撮像画像をネットワーク１上から読み出すことにより、「春」に対応する画像を取得する。
【０８５８】
分離処理部２１６７は、読込んだ画像に含まれる、検索目的の画像を分離処理により取得する。尚、分離処理部２１６７は、分離処理部１１と同様の機能を持つものである。
【０８５９】
次に、図１５９のフローチャートを参照して、検索サーバ２３により実行される、クライアントコンピュータ２７より入力された検索条件に基づいて画像を検索する検索サービスの処理について説明する。
【０８６０】
ステップＳ２６０１において、クライアントコンピュータ２７は、検索条件を検索サーバ２３に出力する。ステップＳ２６１１において、検索サーバ２３は、通信部２１６５により検索条件を受信する。
【０８６１】
ステップＳ２６１２，Ｓ２６３１において、検索サーバ２３の課金処理部２３ａと課金サーバ２４は、課金処理を実行する。尚、課金処理については、図１１８，図１２０において、分離サービスにおける場合と同様の処理であるので、その説明は省略する。また、ステップＳ２６１２，Ｓ２６３１の処理における課金処理は、検索を実行することに対しての料金に関する課金処理である。
【０８６２】
ステップＳ２６１３において、検索サーバ２３は、検索条件に対応した画像を検索し、ステップＳ２６１４において対応する画像を対応する画像を呼び出す。ステップＳ２６４１において、カメラ端末装置２８は、現在撮像している画像を検索サーバ２３に送信する。
【０８６３】
すなわち、例えば、図１６０で示すように、ネットワーク１に対してクライアントコンピュータ２７−１乃至２７−５、検索サーバ２３、および、カメラ端末装置２８−１乃至２８−５が接続されていたとする。このとき、クライアントコンピュータ２７−２が、使用者により操作されて、検索条件として、「人間」、「車」、および、「ビル」を、ステップＳ２６１１の処理で送信してくると、検索サーバ２３は、ステップＳ２６１３において、データベース２１６２で検索条件として、「人間」、「車」、および、「ビル」の被写体を検索する。すなわち、図１６０の場合、検索サーバ２３は、車２１７２がカメラID＝１のカメラ端末装置２８−１、人間２１８３がカメラID＝２のカメラ端末装置２８−２、および、ビル２２１１がカメラID＝５のカメラ端末装置２８−５で撮像されていることを検索し、ステップＳ２６１４において、それぞれのカメラ端末装置２８より画像を取得する。
【０８６４】
ステップＳ２５１５において、検索サーバ２３は、呼び出した画像が分離されているか、すなわち、所望の条件以外の画像（オブジェクト）が含まれているか否かを判定する。
【０８６５】
図１６０の場合、カメラ端末装置２８−１より送信されてくる画像には、検索条件以外の雲２１７２が含まれており、カメラ端末装置２８−２より送信されてくる画像には、検索条件以外の家２１８１が含まれているので、これらの画像は、検索条件に対応する画像が分離されていないことになるので、その処理は、ステップＳ２６１６に進む。
【０８６６】
ステップＳ２６１６において、分離処理部２１６７は、分離処理を実行する。尚、分離処理は、図１１７のフローチャートのステップＳ１０１３の処理と同様であるので、その説明は省略する。
【０８６７】
ステップＳ２６１７において、呼び出した画像を合成して、クライアントコンピュータ２７に送信する。ステップＳ２６０２において、クライアントコンピュータ２７は検索サーバ２３より送信されてきた画像を取得する。ステップＳ２６０３において、クライアントコンピュータ２７は、受信された画像が所望の画像であったか否かを判定する。図１６０で示すように、ディスプレイ２７ａ−１に表示された画像の場合、検索条件としての「人間」、「車」、および、「ビル」は、人間２１８２、車２１７２、および、ビル２２１１として画像に含まれているので、所望の画像であるので、ステップＳ２６０４において、所望の画像であったことを、検索サーバに通知する。
【０８６８】
ステップＳ２６１８において、検索サーバ２３は、クライアントコンピュータ２７より送信されてきた通知が所望の画像であったか否かを判定する。図１６０の場合、所望の画像であったので、その処理は、ステップＳ２６１９に進む。
【０８６９】
ステップＳ２６１９，Ｓ２６３２において、検索サーバ２３の課金処理部２３ａと課金サーバ２４は、課金処理を実行する。尚、課金処理については、図１１８，図１２０において、分離サービスにおける場合と同様の処理であるので、その説明は省略する。また、ステップＳ２６１９，Ｓ２６３２の処理における課金処理は、検索された画像を送信したことに対しての料金に関する課金処理である。また、ステップＳ２５１５において、全て検索条件の画像だけであった場合、ステップＳ２６１６の処理は、スキップされることになる。
【０８７０】
ステップＳ２６０３において、例えば、クライアントコンピュータ２７−４より、検索条件として「家」、「雲」、および、「顔」が指定されていたにも関わらず、ディスプレイ２７ａ−４に表示された画像のように、家２１８１、および、雲２０７１のみが表示され、顔２２０１が表示されていないとき、所望の画像ではないことになるので、その処理は、ステップＳ２６０５に進み、所望の画像ではないことを検索サーバ２３に送信して、その処理は終了する。
【０８７１】
このとき、検索サーバ２３は、ステップＳ２６１８において、所望の画像ではなかったことが通知されるので、その処理は終了する。
【０８７２】
この場合、検索処理に係る料金は支払うことになるが、検索された画像を送信したことに対して支払われないことになる。
【０８７３】
以上によれば、ネットワークの複数のサーバで分散して、画像の加工処理を実行することにより、その処理速度を向上させることが可能になると共に、分散して処理することにより、使用者により必要とされる処理だけを実行できるようにすることで、そのサービスに係るコストを低減させることが可能となる。
【０８７４】
本発明の信号処理を行うプログラムを記録した記録媒体は、図２，３に示すように、コンピュータとは別に、使用者にプログラムを提供するために配布される、プログラムが記録されている磁気ディスク６１，９１（フレキシブルディスクを含む）、光ディスク６２，９２（CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む）、光磁気ディスク６３，９３（ＭＤ（Mini-Disc）（商標）を含む）、もしくは半導体メモリ６４，９４などよりなるパッケージメディアにより構成されるだけでなく、コンピュータに予め組み込まれた状態で使用者に提供される、プログラムが記録されているROM４２，７２や、記憶部４８，７８に含まれるハードディスクなどで構成される。
【０８７５】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【０８７６】
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
【０８８２】
【発明の効果】
本発明によれば、画像の加工速度を向上させることが可能になると共に、分散して処理することにより、必要とされる処理だけを実行させることにより、そのサービスに係るコストを低減させることが可能となる。
【図面の簡単な説明】
【図１】本発明を適用した画像処理システムの一実施の形態の構成を示す図である。
【図２】図１の分離処理サーバの構成を示す図である。
【図３】図１のカメラ端末装置の構成を示す図である。
【図４】図１の分離処理サーバの機能を示す図である。
【図５】図１の分離処理サーバの機能を示す図である。
【図６】図１の動き検出サーバの機能を示す図である。
【図７】図１の動き検出サーバの機能を示す図である。
【図８】図１の領域特定サーバの機能を示す図である。
【図９】図１の領域特定サーバの機能を示す図である。
【図１０】図１の混合比算出サーバの機能を示す図である。
【図１１】図１の混合比算出サーバの機能を示す図である。
【図１２】図１の前景背景分離処理サーバの機能を示す図である。
【図１３】図１の前景背景分離処理サーバの機能を示す図である。
【図１４】図１の動きボケ調整サーバの機能を示す図である。
【図１５】図１の動きボケ調整サーバの機能を示す図である。
【図１６】図１の符号化サーバの機能を示す図である。
【図１７】図１の符号化サーバの機能を示す図である。
【図１８】図１の蓄積サーバの機能を示す図である。
【図１９】図１の蓄積サーバの機能を示す図である。
【図２０】図１の合成サーバの機能を示す図である。
【図２１】図１の合成サーバの機能を示す図である。
【図２２】図１の修正サーバの機能を示す図である。
【図２３】図１の修正サーバの機能を示す図である。
【図２４】図１の購入サーバの機能を示す図である。
【図２５】図１の売却サーバの機能を示す図である。
【図２６】図１の検索サーバの機能を示す図である。
【図２７】分離処理サーバを示すブロック図である。
【図２８】センサによる撮像を説明する図である。
【図２９】画素の配置を説明する図である。
【図３０】検出素子の動作を説明する図である。
【図３１】動いている前景に対応するオブジェクトと、静止している背景に対応するオブジェクトとを撮像して得られる画像を説明する図である。
【図３２】背景領域、前景領域、混合領域、カバードバックグラウンド領域、およびアンカバードバックグラウンド領域を説明する図である。
【図３３】静止している前景に対応するオブジェクトおよび静止している背景に対応するオブジェクトを撮像した画像における、隣接して１列に並んでいる画素の画素値を時間方向に展開したモデル図である。
【図３４】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図３５】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図３６】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図３７】前景領域、背景領域、および混合領域の画素を抽出した例を示す図である。
【図３８】画素と画素値を時間方向に展開したモデルとの対応を示す図である。
【図３９】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４０】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４１】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４２】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４３】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４４】動きボケの量の調整の処理を説明するフローチャートである。
【図４５】領域特定部１０３の構成の一例を示すブロック図である。
【図４６】前景に対応するオブジェクトが移動しているときの画像を説明する図である。
【図４７】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４８】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４９】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図５０】領域判定の条件を説明する図である。
【図５１】領域特定部１０３の領域の特定の結果の例を示す図である。
【図５２】領域特定部１０３の領域の特定の結果の例を示す図である。
【図５３】領域特定の処理を説明するフローチャートである。
【図５４】領域特定部１０３の構成の他の一例を示すブロック図である。
【図５５】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図５６】背景画像の例を示す図である。
【図５７】２値オブジェクト画像抽出部３０２の構成を示すブロック図である。
【図５８】相関値の算出を説明する図である。
【図５９】相関値の算出を説明する図である。
【図６０】２値オブジェクト画像の例を示す図である。
【図６１】時間変化検出部３０３の構成を示すブロック図である。
【図６２】領域判定部３４２の判定を説明する図である。
【図６３】時間変化検出部３０３の判定の例を示す図である。
【図６４】領域判定部１０３の領域特定の処理を説明するフローチャートである。
【図６５】領域判定の処理の詳細を説明するフローチャートである。
【図６６】領域特定部１０３のさらに他の構成を示すブロック図である。
【図６７】ロバスト化部３６１の構成を説明するブロック図である。
【図６８】動き補償部３８１の動き補償を説明する図である。
【図６９】動き補償部３８１の動き補償を説明する図である。
【図７０】領域特定の処理を説明するフローチャートである。
【図７１】ロバスト化の処理の詳細を説明するフローチャートである。
【図７２】混合比算出部１０４の構成の一例を示すブロック図である。
【図７３】理想的な混合比αの例を示す図である。
【図７４】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図７５】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図７６】前景の成分の相関を利用した近似を説明する図である。
【図７７】C，N、およびPの関係を説明する図である。
【図７８】推定混合比処理部４０１の構成を示すブロック図である。
【図７９】推定混合比の例を示す図である。
【図８０】混合比算出部１０４の他の構成を示すブロック図である。
【図８１】混合比の算出の処理を説明するフローチャートである。
【図８２】推定混合比の演算の処理を説明するフローチャートである。
【図８３】混合比αを近似する直線を説明する図である。
【図８４】混合比αを近似する平面を説明する図である。
【図８５】混合比αを算出するときの複数のフレームの画素の対応を説明する図である。
【図８６】混合比推定処理部４０１の他の構成を示すブロック図である。
【図８７】推定混合比の例を示す図である。
【図８８】カバードバックグラウンド領域に対応するモデルによる混合比推定の処理を説明するフローチャートである。
【図８９】前景背景分離部１０５の構成の一例を示すブロック図である。
【図９０】入力画像、前景成分画像、および背景成分画像を示す図である。
【図９１】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図９２】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図９３】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図９４】分離部６０１の構成の一例を示すブロック図である。
【図９５】分離された前景成分画像、および背景成分画像の例を示す図である。
【図９６】前景と背景との分離の処理を説明するフローチャートである。
【図９７】動きボケ調整部１０６の構成の一例を示すブロック図である。
【図９８】処理単位を説明する図である。
【図９９】前景成分画像の画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図１００】前景成分画像の画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図１０１】前景成分画像の画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図１０２】前景成分画像の画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図１０３】動きボケ調整部１０６の他の構成を示す図である。
【図１０４】動きボケ調整部１０６による前景成分画像に含まれる動きボケの量の調整の処理を説明するフローチャートである。
【図１０５】動きボケ調整部１０６の構成の他の一例を示すブロック図である。
【図１０６】画素値と前景の成分のとの対応を指定するモデルの例を示す図である。
【図１０７】前景の成分の算出を説明する図である。
【図１０８】前景の成分の算出を説明する図である。
【図１０９】前景の動きボケの除去の処理を説明するフローチャートである。
【図１１０】分離処理サーバの機能の他の構成を示すブロック図である。
【図１１１】合成部１００１の構成を示す図である。
【図１１２】分離処理サーバの機能のさらに他の構成を示すブロック図である。
【図１１３】混合比算出部１１０１の構成を示すブロック図である。
【図１１４】前景背景分離部１１０２の構成を示すブロック図である。
【図１１５】分離処理サーバの機能のさらに他の構成を示すブロック図である。
【図１１６】合成部１２０１の構成を示す図である。
【図１１７】分離サービスを説明するフローチャートである。
【図１１８】課金処理を説明するフローチャートである。
【図１１９】課金処理を説明する図である。
【図１２０】課金処理のその他の例を説明するフローチャートである。
【図１２１】動き検出サービスを説明するフローチャートである。
【図１２２】領域特定サービスを説明するフローチャートである。
【図１２３】混合比算出サービスを説明するフローチャートである。
【図１２４】前景背景分離サービスを説明するフローチャートである。
【図１２５】動きボケ調整サービスを説明するフローチャートである。
【図１２６】符号化サーバを説明する図である。
【図１２７】符号化サービスを説明するフローチャートである。
【図１２８】符号化処理による圧縮時の圧縮能力を説明する図である。
【図１２９】符号化サーバのその他の例を説明する図である。
【図１３０】合成サービスを説明するフローチャートである。
【図１３１】暗号用動きボケ付加部を説明する図である。
【図１３２】暗号用動きボケ除去部を説明する図である。
【図１３３】暗号用動きボケを付加する処理を説明する図である。
【図１３４】暗号用動きボケを付加する処理を説明する図である。
【図１３５】暗号用動きボケを付加する処理を説明する図である。
【図１３６】暗号化処理を説明するフローチャートである。
【図１３７】暗号用動きボケを付加する処理を説明する図である。
【図１３８】暗号用動きボケを付加する処理を説明する図である。
【図１３９】暗号用動きボケを付加する処理を説明する図である。
【図１４０】暗号用動きボケを付加する処理を説明する図である。
【図１４１】暗号用動きボケを付加する処理を説明する図である。
【図１４２】暗号用動きボケを付加する処理を説明する図である。
【図１４３】暗号用動きボケを付加する処理を説明する図である。
【図１４４】暗号用動きボケを付加する処理を説明する図である。
【図１４５】暗号用動きボケを付加する処理を説明する図である。
【図１４６】暗号用動きボケを付加する処理を説明する図である。
【図１４７】暗号用動きボケを付加する処理を説明する図である。
【図１４８】暗号用動きボケを付加する処理を説明する図である。
【図１４９】暗号用動きボケを付加する処理を説明する図である。
【図１５０】暗号用動きボケを付加する処理を説明する図である。
【図１５１】暗号用サービスを説明するフローチャートである。
【図１５２】修正サーバを説明する図である。
【図１５３】修正処理を説明する図である。
【図１５４】修正サービスを説明するフローチャートである。
【図１５５】購入サービスを説明するフローチャートである。
【図１５６】売却サービスを説明するフローチャートである。
【図１５７】売却課金処理を説明するフローチャートである。
【図１５８】検索サーバを説明する図である。
【図１５９】検索サービスを説明するフローチャートである。
【図１６０】検索サービスを説明する図である。
【符号の説明】
１１ 分離処理サーバ， １２ 動き検出サーバ， １３ 領域特定サーバ，１４ 混合比算出サーバ， １５ 前景背景分離サーバ， １６ 動きボケ調整サーバ， １７ 符号化サーバ， １８ 蓄積サーバ， １９ 合成サーバ，２０ 修正サーバ， ２１ 購入サーバ， ２２ 売却サーバ， ２３ 検索サーバ， ２４ 課金サーバ， ２５，２６ 金融サーバ， ２７ クライアントコンピュータ， ２８ カメラ端末装置， ４１ CPU， ４２ ROM， ４３ RAM， ４６ 入力部， ４７ 出力部， ４８ 記憶部， ４９ 通信部，７１ CPU， ７２ ROM， ７３ RAM， ７６ 入力部， ７６ａ センサ， ７６ｂ GPS， ７７ 出力部， ７８ 記憶部， ７９ 通信部， ９１磁気ディスク， ９２ 光ディスク， ９３ 光磁気ディスク， ９４ 半導体メモリ， １０１ オブジェクト抽出部， １０２ 動き検出部， １０３ 領域特定部， １０４ 混合比算出部， １０５ 前景背景分離部， １０６ 動きボケ調整部， １０７ 選択部， ２０１ フレームメモリ， ２０２−１乃至２０２−４ 静動判定部， ２０３−１乃至２０３−３ 領域判定部， ２０４ 判定フラグ格納フレームメモリ， ２０５ 合成部， ２０６ 判定フラグ格納フレームメモリ， ３０１ 背景画像生成部， ３０２ ２値オブジェクト画像抽出部， ３０３ 時間変化検出部， ３２１ 相関値演算部， ３２２しきい値処理部， ３４１ フレームメモリ， ３４２ 領域判定部， ３６１ ロバスト化部， ３８１ 動き補償部， ３８２ スイッチ， ３８３−１乃至３８３−Ｎ フレームメモリ、 ３８４−１乃至３８４−Ｎ 重み付け部，３８５ 積算部， ４０１ 推定混合比処理部， ４０２ 推定混合比処理部， ４０３ 混合比決定部， ４２１ フレームメモリ， ４２２ フレームメモリ， ４２３ 混合比演算部， ４４１ 選択部， ４４２ 推定混合比処理部， ４４３ 推定混合比処理部， ４４４ 選択部， ５０１ 遅延回路， ５０２ 足し込み部， ５０３ 演算部， ６０１ 分離部， ６０２ スイッチ， ６０３ 合成部， ６０４ スイッチ， ６０５ 合成部， ６２１ フレームメモリ， ６２２ 分離処理ブロック， ６２３ フレームメモリ， ６３１ アンカバード領域処理部， ６３２ カバード領域処理部， ６３３ 合成部， ６３４ 合成部， ８０１ 処理単位決定部， ８０２ モデル化部，８０３ 方程式生成部， ８０４ 足し込み部， ８０５ 演算部， ８０６動きボケ付加部， ８０７ 選択部， ８２１ 選択部， ９０１ 処理単位決定部， ９０２ モデル化部， ９０３ 方程式生成部， ９０４ 演算部，９０５ 補正部， ９０６ 動きボケ付加部， ９０７ 選択部， １００１合成部， １０２１ 背景成分生成部， １０２２ 混合領域画像合成部， １０２３ 画像合成部， １１０１ 混合比算出部， １１０２ 前景背景分離部， １１２１ 選択部， １２０１ 合成部， １２２１ 選択部， ２００１ 符号化部，２００２ 分離処理部， ２０２１ 暗号用動きボケ付加部， ２０３１ 入力情報処理部， ２０３２ 画像化部，２０３３ 動きボケ付加部， ２０４１ 暗号用動きボケ除去部， ２０５１ 入力情報処理部， ２０５２ 動きボケ除去部， ２０５３ 信号変換部， ２１０１ 動きボケ調整部，２１０２ 合成部， ２１６１ 制御部， ２１６２ データベース， ２１６３ 記憶部， ２１６４ 要求情報生成部， ２１６５ 通信部， ２１６６ 時刻演算部， ２１６７ 分離処理部

Claims (8)

  1. 画素毎に、かつ、時間的に積分された画像を構成する光の量に応じて決定される画素値からなる画像データの各画素値を時間方向に展開するモデルに基づいて、前記画像データの前景オブジェクトを構成する前景オブジェクト成分からなる前景領域、前記画像データの背景オブジェクトを構成する背景オブジェクト成分からなる背景領域、または、前記前景領域と前記背景領域が混合された混合領域のいずれかを識別する領域情報を生成する領域情報生成手段と、
    前記画像データの各画素値を時間方向に展開するモデルに基づいて、前記混合領域の画素毎の前記前景領域と前記背景領域が混合された比率を示す混合比を生成する混合比生成手段と、
    前記領域情報、および前記混合比に基づいて、前記画像データを前景オブジェクトを構成する前景オブジェクト成分からなる前景成分画像と、背景オブジェクトを構成する背景オブジェクト成分からなる背景成分画像に分離する分離手段と、
    所定の画像データ、または前記所定の画像データを識別する識別子と、前記所定の画像データを前記前景成分画像、および前記背景成分画像に分離されるとき生成される、前記領域情報、前記混合比、前記前景成分画像、および前記背景成分画像を含む前記所定の画像データの符号化データの全て、またはいずれかを要求する、使用者の要求情報とを入力する要求情報入力手段と、
    前記要求情報入力手段により入力された前記要求情報に基づいて、前記分離手段により前記所定の画像データ、または、前記識別子に対応する前記所定の画像データが前記前景成分画像と前記背景成分画像に分離されるとき生成される、前記符号化データのうち、前記要求情報に対応する情報を出力する符号化データ出力手段と、
    前記要求情報に応じて、課金サーバに対して課金処理を実行する課金手段とを備え、
    前記符号化データ出力手段は、前記要求情報入力手段により入力された前記要求情報と、前記画像データ、または前記画像データを識別する識別子に基づいて、前記分離手段により前記画像データ、または、前記識別子に対応する画像データが前記前景成分画像と前記背景成分画像に分離されるとき、生成される前記符号化データに含まれる情報のうち、前記要求情報で要求される情報を、前記課金手段により課金処理が完了した後、前記使用者にのみ取得可能な方法で出力する
    ことを特徴とする通信装置。
  2. 前記画像データの各画素における動きベクトルと、その位置を検出する動きベクトル検出手段を更に含み、
    前記符号化データは、前記領域情報、前記混合比、前記前景成分画像、および前記背景成分画像を含む前記所定の画像データに加えて、前記画像データが蓄積されているネットワーク上の位置情報、および前記動きベクトルと、その位置情報とをさらに含む
    ことを特徴とする請求項１に記載の通信装置。
  3. 前記課金手段は、前記要求情報に応じて前記使用者の識別子、前記通信装置の識別子、および、前記要求情報に対応する金額情報を含む課金情報を生成し、前記課金情報に基づいて、前記使用者の金融口座に対して課金処理を実行する
    ことを特徴とする請求項１に記載の通信装置。
  4. 前記課金処理に使用される使用者毎のポイントを記憶するポイント記憶手段をさらに備え、
    前記課金手段は、前記要求情報に応じて前記使用者の識別子、前記通信装置の識別子、および、前記符号化データに対応する金額情報を含む課金情報を生成し、前記ポイント記憶手段に記憶されたポイント数を前記金額情報に対応する分だけ減算することにより課金処理を実行する
    ことを特徴とする請求項３に記載の通信装置。
  5. 画素毎に、かつ、時間的に積分された画像を構成する光の量に応じて決定される画素値からなる画像データの各画素値を時間方向に展開するモデルに基づいて、前記画像データの前景オブジェクトを構成する前景オブジェクト成分からなる前景領域、前記画像データの背景オブジェクトを構成する背景オブジェクト成分からなる背景領域、または、前記前景領域と前記背景領域が混合された混合領域のいずれかを識別する領域情報を生成する領域情報生成ステップと、
    前記画像データの各画素値を時間方向に展開するモデルに基づいて、前記混合領域の画素毎の前記前景領域と前記背景領域が混合された比率を示す混合比を生成する混合比生成ステップと、
    前記領域情報、および前記混合比に基づいて、前記画像データを、前景オブジェクトを構成する前景オブジェクト成分からなる前景成分画像と、背景オブジェクトを構成する背景オブジェクト成分からなる背景成分画像に分離する分離ステップと、
    所定の画像データ、または前記所定の画像データを識別する識別子と、前記所定の画像データを前記前景成分画像、および前記背景成分画像に分離されるとき生成される、前記領域情報、前記混合比、前記前景成分画像、および前記背景成分画像を含む前記所定の画像データの符号化データの全て、またはいずれかを要求する、使用者の要求情報とを入力する要求情報入力ステップと、
    要求情報入力ステップの処理で入力された前記要求情報に基づいて、前記分離ステップの処理により前記所定の画像データ、または、前記識別子に対応する前記所定の画像データが前記前景成分画像と前記背景成分画像に分離されるとき生成される、前記符号化データのうち、前記要求情報に対応する情報を出力する符号化データ出力ステップと、
    前記要求情報に応じて、課金サーバに対して課金処理を実行する課金ステップとを含み、
    前記符号化データ出力ステップの処理は、前記要求情報入力ステップの処理により入力された前記要求情報と、前記画像データ、または前記画像データを識別する識別子に基づいて、前記分離ステップの処理により前記画像データ、または、前記識別子に対応する画像データが前記前景成分画像と前記背景成分画像に分離されるとき、生成される前記符号化データに含まれる情報のうち、前記要求情報で要求される情報を、前記課金ステップの処理により課金処理が完了した後、前記使用者にのみ取得可能な方法で出力する
    ことを特徴とする通信方法。
  6. 画素毎に、かつ、時間的に積分された画像を構成する光の量に応じて決定される画素値からなる画像データの各画素値を時間方向に展開するモデルに基づいて、前記画像データの前景オブジェクトを構成する前景オブジェクト成分からなる前景領域、前記画像データの背景オブジェクトを構成する背景オブジェクト成分からなる背景領域、または、前記前景領域と前記背景領域が混合された混合領域のいずれかを識別する領域情報の生成を制御する領域情報生成制御ステップと、
    前記画像データの各画素値を時間方向に展開するモデルに基づいて、前記混合領域の画素毎の前記前景領域と前記背景領域が混合された比率を示す混合比の生成を制御する混合比生成制御ステップと、
    前記領域情報、および前記混合比に基づいて、前記画像データの、前景オブジェクトを構成する前景オブジェクト成分からなる前景成分画像と、背景オブジェクトを構成する背景オブジェクト成分からなる背景成分画像との分離を制御する分離制御ステップと、
    所定の画像データ、または前記所定の画像データを識別する識別子と、前記所定の画像データを前記前景成分画像、および前記背景成分画像に分離されるとき生成される、前記領域情報、前記混合比、前記前景成分画像、および前記背景成分画像を含む前記所定の画像データの符号化データの全て、またはいずれかを要求する、使用者の要求情報との入力を制御する要求情報入力制御ステップと、
    要求情報入力制御ステップの処理で入力された前記要求情報に基づいて、前記分離制御ステップの処理により前記所定の画像データ、または、前記識別子に対応する前記所定の画像データが前記前景成分画像と前記背景成分画像に分離されるとき生成される、前記符号化データのうち、前記要求情報に対応する情報の出力を制御する符号化データ出力制御ステップと、
    前記要求情報に応じて、課金サーバに対して課金処理の実行を制御する課金制御ステップとを含む処理をコンピュータに実行させ、
    前記符号化データ出力制御ステップの処理は、前記要求情報入力制御ステップの処理により入力された前記要求情報と、前記画像データ、または前記画像データを識別する識別子に基づいて、前記分離制御ステップの処理により前記画像データ、または、前記識別子に対応する画像データが前記前景成分画像と前記背景成分画像に分離されるとき、生成される前記符号化データに含まれる情報のうち、前記要求情報で要求される情報を、前記課金制御ステップの処理により課金処理が完了した後、前記使用者にのみ取得可能な方法で出力する
    ためのプログラムを記録したコンピュータが読み取り可能な記録媒体。
  7. 使用者の要求情報の入力を制御する要求情報入力制御ステップと、
    画素毎に、かつ、時間的に積分された画像を構成する光の量に応じて決定される画素値からなる画像データの各画素値を時間方向に展開するモデルに基づいて、前記画像データの前景オブジェクトを構成する前景オブジェクト成分からなる前景領域、前記画像データの背景オブジェクトを構成する背景オブジェクト成分からなる背景領域、または、前記前景領域と前記背景領域が混合された混合領域のいずれかを識別する領域情報の生成を制御する領域情報生成制御ステップと、
    前記画像データの各画素値を時間方向に展開するモデルに基づいて、前記混合領域の画素毎の前記前景領域と前記背景領域が混合された比率を示す混合比を生成する混合比生成ステップと、
    前記領域情報、および前記混合比に基づいて、前記画像データの、前景オブジェクトを構成する前景オブジェクト成分からなる前景成分画像と、背景オブジェクトを構成する背景オブジェクト成分からなる背景成分画像との分離を制御する分離制御ステップと、
    所定の画像データ、または前記所定の画像データを識別する識別子と、前記所定の画像データを前記前景成分画像、および前記背景成分画像に分離されるとき生成される、前記領域情報、前記混合比、前記前景成分画像、および前記背景成分画像を含む前記所定の画像データの符号化データの全て、またはいずれかを要求する、使用者の要求情報との入力を制御する要求情報入力制御ステップと、
    要求情報入力制御ステップの処理で入力された前記要求情報に基づいて、前記分離制御ステップの処理により前記所定の画像データ、または、前記識別子に対応する前記所定の画像データが前記前景成分画像と前記背景成分画像に分離されるとき生成される符号化データのうち、前記要求情報に対応する情報の出力を制御する符号化データ出力制御ステップと、
    前記要求情報に応じて、課金サーバに対して課金処理の実行を制御する課金制御ステップとを含む処理をコンピュータに実行させ、
    前記符号化データ出力制御ステップの処理は、前記要求情報入力制御ステップの処理により入力された前記要求情報と、前記画像データ、または前記画像データを識別する識別子に基づいて、前記分離制御ステップの処理により前記画像データ、または、前記識別子に対応する画像データが前記前景成分画像と前記背景成分画像に分離されるとき、生成される前記符号化データに含まれる情報のうち、前記要求情報で要求される情報を、前記課金制御ステップの処理により課金処理が完了した後、前記使用者にのみ取得可能な方法で出力する
    プログラム。
  8. ネットワークを介して接続された第１の通信装置と第２の通信装置からなる通信システムにおいて、
    前記第１の通信装置は、
    画素毎に、かつ、時間的に積分された画像を構成する光の量に応じて決定される画素値からなる画像データの各画素値を時間方向に展開するモデルに基づいて、前記画像データの前景オブジェクトを構成する前景オブジェクト成分からなる前景領域、前記画像データの背景オブジェクトを構成する背景オブジェクト成分からなる背景領域、または、前記前景領域と前記背景領域が混合された混合領域のいずれかを識別する領域情報を生成する領域情報生成手段と、
    前記画像データの各画素値を時間方向に展開するモデルに基づいて、前記混合領域の画素毎の前記前景領域と前記背景領域が混合された比率を示す混合比を生成する混合比生成手段と、
    前記領域情報、および前記混合比に基づいて、前記画像データを前景オブジェクトを構成する前景オブジェクト成分からなる前景成分画像と、背景オブジェクトを構成する背景オブジェクト成分からなる背景成分画像に分離する分離手段と、
    所定の画像データ、または前記所定の画像データを識別する識別子と、前記所定の画像データを前記前景成分画像、および前記背景成分画像に分離されるとき生成される、前記領域情報、前記混合比、前記前景成分画像、および前記背景成分画像を含む前記所定の画像データの符号化データの全て、またはいずれかを要求する、使用者の要求情報とを受信する要求情報受信手段と、
    前記要求情報受信手段により受信された前記要求情報に基づいて、前記分離手段により前記所定の画像データ、または、前記識別子に対応する前記所定の画像データが前記前景成分画像と前記背景成分画像に分離されるとき生成される、前記符号化データのうち、前記要求情報に対応する情報を前記第２の通信装置に送信する符号化データ送信手段と、
    前記要求情報に応じて、課金サーバに対して課金処理を実行する課金手段とを備え、
    前記符号化データ送信手段は、前記要求情報受信手段により受信された前記要求情報と、前記画像データ、または前記画像データを識別する識別子に基づいて、前記分離手段により前記画像データ、または、前記識別子に対応する画像データが前記前景成分画像と前記背景成分画像に分離されるとき、生成される前記符号化データに含まれる情報のうち、前記要求情報で要求される情報を、前記課金手段により課金処理が完了した後、前記使用者にのみ取得可能な方法で送信し、
    前記第２の通信装置は、
    前記要求情報、並びに、前記画像データ、または前記識別子を入力する要求情報入力手段と、
    前記要求情報入力手段により入力された前記要求情報、並びに、前記画像データ、または前記識別子を前記第１の通信装置に送信する要求情報送信手段と、
    前記第１の通信装置より送信されてくる、前記要求情報に対応する、前記画像データに基づいて生成される符号化データを受信する符号化データ受信手段とを備える
    ことを特徴とする通信システム。
JP2001195592A 2001-06-27 2001-06-27 通信装置および方法、通信システム、記録媒体、並びにプログラム Expired - Fee Related JP4596227B2 (ja)

Priority Applications (16)

Application Number Priority Date Filing Date Title
JP2001195592A JP4596227B2 (ja) 2001-06-27 2001-06-27 通信装置および方法、通信システム、記録媒体、並びにプログラム
CNB2005100990680A CN100366060C (zh) 2001-06-27 2002-06-26 图像处理装置
EP02743725A EP1400927B1 (en) 2001-06-27 2002-06-26 Communication apparatus and method
DE60236703T DE60236703D1 (de) 2001-06-27 2002-06-26 Kommunikationssystem und -verfahren
KR1020037002821A KR100886618B1 (ko) 2001-06-27 2002-06-26 통신 장치 및 방법
CA2420029A CA2420029C (en) 2001-06-27 2002-06-26 Communication apparatus and method
PCT/JP2002/006386 WO2003003308A1 (en) 2001-06-27 2002-06-26 Communication apparatus and method
MXPA03001701A MXPA03001701A (es) 2001-06-27 2002-06-26 Sistema y metodo de comunicaciones.
DE60235730T DE60235730D1 (de) 2001-06-27 2002-06-26 Kommunikationssystem und -verfahren
EP20070016437 EP1865720B1 (en) 2001-06-27 2002-06-26 Communication system and method thereof
US10/362,725 US7619655B2 (en) 2001-06-27 2002-06-26 Communication apparatus and method
DE60234030T DE60234030D1 (de) 2001-06-27 2002-06-26 Kommunikationsvorrichtung und -verfahren
EP20080019438 EP2026579B1 (en) 2001-06-27 2002-06-26 Communication system and method thereof
CNB028027213A CN1251149C (zh) 2001-06-27 2002-06-26 通信装置和方法
SG200600162-2A SG135971A1 (en) 2001-06-27 2002-06-26 Communication apparatus and method
US12/544,717 US8164638B2 (en) 2001-06-27 2009-08-20 Communication system and method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001195592A JP4596227B2 (ja) 2001-06-27 2001-06-27 通信装置および方法、通信システム、記録媒体、並びにプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2008065930A Division JP4811421B2 (ja) 2008-03-14 2008-03-14 画像処理装置および方法、記録媒体、並びにプログラム

Publications (3)

Publication Number Publication Date
JP2003016455A JP2003016455A (ja) 2003-01-17
JP2003016455A5 JP2003016455A5 (ja) 2008-04-24
JP4596227B2 true JP4596227B2 (ja) 2010-12-08

Family

ID=19033541

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001195592A Expired - Fee Related JP4596227B2 (ja) 2001-06-27 2001-06-27 通信装置および方法、通信システム、記録媒体、並びにプログラム

Country Status (10)

Country Link
US (2) US7619655B2 (ja)
EP (3) EP2026579B1 (ja)
JP (1) JP4596227B2 (ja)
KR (1) KR100886618B1 (ja)
CN (2) CN100366060C (ja)
CA (1) CA2420029C (ja)
DE (3) DE60234030D1 (ja)
MX (1) MXPA03001701A (ja)
SG (1) SG135971A1 (ja)
WO (1) WO2003003308A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8164638B2 (en) 2001-06-27 2012-04-24 Sony Corporation Communication system and method thereof

Families Citing this family (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4432274B2 (ja) * 2001-04-12 2010-03-17 ソニー株式会社 画像処理装置および方法、記録媒体、並びにプログラム
GB2379299B (en) * 2001-09-04 2006-02-08 Imagination Tech Ltd A texturing system
US20030105707A1 (en) * 2001-11-30 2003-06-05 Yves Audebert Financial risk management system and method
US20040012811A1 (en) * 2002-07-22 2004-01-22 Toshiba Tec Kabushiki Kaisha System and method for taking, storing and printing digital pictures
US7463338B2 (en) 2003-07-08 2008-12-09 Hoya Corporation Container for housing a mask blank, method of housing a mask blank, and mask blank package
JP4497096B2 (ja) * 2004-02-13 2010-07-07 ソニー株式会社 画像処理装置と画像処理方法およびプログラム
CN100423557C (zh) * 2004-02-13 2008-10-01 索尼株式会社 图像处理装置以及图像处理方法
KR101092287B1 (ko) 2004-02-13 2011-12-13 소니 주식회사 화상 처리 장치 및 화상 처리 방법
US8331723B2 (en) 2004-03-25 2012-12-11 Ozluturk Fatih M Method and apparatus to correct digital image blur due to motion of subject or imaging device
JP2006148578A (ja) * 2004-11-19 2006-06-08 Sharp Corp 画像処理装置、画像読取装置、及び画像記録装置
JP4872672B2 (ja) * 2004-12-21 2012-02-08 ソニー株式会社 学習装置と学習方法および学習プログラム
US8094814B2 (en) * 2005-04-05 2012-01-10 Broadcom Corporation Method and apparatus for using counter-mode encryption to protect image data in frame buffer of a video compression system
CN100369412C (zh) * 2005-05-17 2008-02-13 上海大学 远程图像处理网络服务系统及其网络服务模式
JP4839128B2 (ja) * 2006-05-10 2011-12-21 矢崎総業株式会社 グラフィックメータ表示装置
JP4839131B2 (ja) * 2006-05-17 2011-12-21 矢崎総業株式会社 グラフィックメータ表示装置
US20080165278A1 (en) * 2007-01-04 2008-07-10 Sony Corporation Human visual system based motion detection/estimation for video deinterlacing
US8553758B2 (en) * 2007-03-02 2013-10-08 Sony Corporation Motion parameter engine for true motion
US20080212687A1 (en) * 2007-03-02 2008-09-04 Sony Corporation And Sony Electronics Inc. High accurate subspace extension of phase correlation for global motion estimation
US7916177B2 (en) * 2007-08-03 2011-03-29 Panasonic Corporation Image-capturing apparatus, image-capturing method and program for detecting and correcting image blur
WO2009040872A1 (ja) * 2007-09-25 2009-04-02 Fujitsu Limited 画像合成装置及び方法
US8144766B2 (en) * 2008-07-16 2012-03-27 Sony Corporation Simple next search position selection for motion estimation iterative search
US8094714B2 (en) * 2008-07-16 2012-01-10 Sony Corporation Speculative start point selection for motion estimation iterative search
US8385404B2 (en) * 2008-09-11 2013-02-26 Google Inc. System and method for video encoding using constructed reference frame
KR200453861Y1 (ko) * 2009-02-23 2011-05-30 이양운 컴퓨터가 내장된 책상
US20110055023A1 (en) * 2009-08-28 2011-03-03 Yahoo! Inc. Above the fold
WO2011033572A1 (ja) * 2009-09-18 2011-03-24 株式会社 東芝 中継装置
KR101630444B1 (ko) * 2009-12-22 2016-06-14 톰슨 라이센싱 스테레오스코픽 디지털 영화에서의 최적화된 모션 재생을 위한 방법과 장치
US8823739B2 (en) * 2010-08-25 2014-09-02 International Business Machines Corporation Background replacement for videoconferencing
EP3659491A1 (en) 2011-12-13 2020-06-03 EndoChoice Innovation Center Ltd. Removable tip endoscope
US20150036008A1 (en) * 2012-03-26 2015-02-05 Nokia Corporation Method, Apparatus and Computer Program Product for Image Stabilization
US20150106195A1 (en) * 2013-10-10 2015-04-16 Elwha Llc Methods, systems, and devices for handling inserted data into captured images
US9799036B2 (en) 2013-10-10 2017-10-24 Elwha Llc Devices, methods, and systems for managing representations of entities through use of privacy indicators
US20150104004A1 (en) 2013-10-10 2015-04-16 Elwha Llc Methods, systems, and devices for delivering image data from captured images to devices
US10346624B2 (en) 2013-10-10 2019-07-09 Elwha Llc Methods, systems, and devices for obscuring entities depicted in captured images
US10185841B2 (en) 2013-10-10 2019-01-22 Elwha Llc Devices, methods, and systems for managing representations of entities through use of privacy beacons
US20150106628A1 (en) * 2013-10-10 2015-04-16 Elwha Llc Devices, methods, and systems for analyzing captured image data and privacy data
US10013564B2 (en) 2013-10-10 2018-07-03 Elwha Llc Methods, systems, and devices for handling image capture devices and captured images
US10262421B2 (en) * 2014-08-04 2019-04-16 Nec Corporation Image processing system for detecting stationary state of moving object from image, image processing method, and recording medium
JP6055948B1 (ja) * 2016-04-20 2016-12-27 株式会社岩崎電機製作所 データベース構築装置、データベース構築方法、および、データベース構築プログラム
JP7447417B2 (ja) * 2019-09-27 2024-03-12 ソニーグループ株式会社 画像処理装置、画像処理方法、プログラム

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0362692A (ja) * 1989-04-27 1991-03-18 Sony Corp 動き補償映像信号フォーマット変換装置
JPH05153493A (ja) * 1991-11-27 1993-06-18 Matsushita Electric Ind Co Ltd 映像信号合成装置
JPH06113338A (ja) * 1992-09-30 1994-04-22 Fujitsu Ltd 多眼式立体映像の動き補償予測方法
JPH06319130A (ja) * 1993-05-08 1994-11-15 Fujitsu General Ltd 画像伝送システム
JPH07336688A (ja) * 1994-06-06 1995-12-22 Nippon Hoso Kyokai <Nhk> アンカバー領域の検出方法
JPH10124651A (ja) * 1996-10-25 1998-05-15 Toppan Printing Co Ltd 画像サービスシステム
JPH10164436A (ja) * 1996-12-04 1998-06-19 Sony Corp 輪郭抽出装置、輪郭抽出方法、キー信号生成装置及びキー信号生成方法
JPH10290463A (ja) * 1997-02-14 1998-10-27 Nippon Telegr & Teleph Corp <Ntt> 動画像の予測符号化方法および復号方法、動画像予測符号化または復号プログラムを記録した記録媒体、および、動画像予測符号化データを記録した記録媒体
JP2000030040A (ja) * 1998-07-14 2000-01-28 Canon Inc 画像処理装置及びコンピュータ読み取り可能な記憶媒体
JP2001250119A (ja) * 1999-12-28 2001-09-14 Sony Corp 信号処理装置および方法、並びに記録媒体
JP2002190015A (ja) * 2000-12-21 2002-07-05 Sony Corp 画像処理装置および方法、並びに記録媒体
JP2002190028A (ja) * 2000-12-21 2002-07-05 Sony Corp 信号処理装置および方法、並びに記録媒体
JP2002190016A (ja) * 2000-12-21 2002-07-05 Sony Corp 信号処理装置および方法、並びに記録媒体

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5262871A (en) * 1989-11-13 1993-11-16 Rutgers, The State University Multiple resolution image sensor
JP3372289B2 (ja) * 1993-04-28 2003-01-27 富士写真フイルム株式会社 ディジタルカメラ
US5886743A (en) * 1994-12-28 1999-03-23 Hyundai Electronics Industries Co. Ltd. Object-by information coding apparatus and method thereof for MPEG-4 picture instrument
JP3086396B2 (ja) * 1995-03-10 2000-09-11 シャープ株式会社 画像符号化装置及び画像復号装置
KR100423379B1 (ko) * 1995-05-12 2004-07-23 소니 가부시끼 가이샤 키신호생성장치및화상합성장치와,키신호생성방법및화상합성방법
JP3804836B2 (ja) 1995-05-12 2006-08-02 ソニー株式会社 キー信号生成装置および画像合成装置、並びにキー信号生成方法および画像合成方法
US5915044A (en) * 1995-09-29 1999-06-22 Intel Corporation Encoding video images using foreground/background segmentation
JPH09245091A (ja) 1996-03-12 1997-09-19 Nippon Telegr & Teleph Corp <Ntt> 映像素材分割課金設定方法及びシステム
KR100501902B1 (ko) 1996-09-25 2005-10-10 주식회사 팬택앤큐리텔 영상정보부호화/복호화장치및방법
US6075875A (en) 1996-09-30 2000-06-13 Microsoft Corporation Segmentation of image features using hierarchical analysis of multi-valued image data and weighted averaging of segmentation results
EP0976089A4 (en) 1996-11-15 2001-11-14 Sarnoff Corp METHOD AND APPARATUS FOR EFFICIENTLY REPRESENTING, STORING AND ACCESSING VIDEO INFORMATION
JP3610423B2 (ja) 1997-03-19 2005-01-12 独立行政法人産業技術総合研究所 映像表示システムおよびその臨場感向上方法
US6249613B1 (en) * 1997-03-31 2001-06-19 Sharp Laboratories Of America, Inc. Mosaic generation and sprite-based coding with automatic foreground and background separation
JP3728884B2 (ja) 1997-08-01 2005-12-21 ソニー株式会社 画像処理装置及び方法、画像合成装置、並びに記録媒体
JP4214425B2 (ja) 1997-09-30 2009-01-28 ソニー株式会社 画像抜き出し装置および画像抜き出し方法、画像符号化装置および画像符号化方法、画像復号装置および画像復号方法、画像記録装置および画像記録方法、画像再生装置および画像再生方法、並びに記録媒体
JPH11224285A (ja) 1997-12-05 1999-08-17 Tokyo Electron Ltd コンテンツ保護方法及びシステム、コンテンツ処理システム、管理システム及び記録媒体
JP3612227B2 (ja) 1998-01-07 2005-01-19 株式会社東芝 物体抽出装置
US6404901B1 (en) * 1998-01-29 2002-06-11 Canon Kabushiki Kaisha Image information processing apparatus and its method
JP2000059758A (ja) 1998-08-05 2000-02-25 Matsushita Electric Ind Co Ltd 監視カメラ装置、監視装置、及びこれらを用いた遠隔監視システム
JP4161426B2 (ja) 1998-09-28 2008-10-08 ソニー株式会社 画像印刷装置及び画像印刷方法
JP2000168187A (ja) 1998-12-07 2000-06-20 Dainippon Printing Co Ltd 街頭端末を利用した画像加工システム
JP4306850B2 (ja) 1998-12-08 2009-08-05 キヤノン株式会社 放送受信装置およびその方法
JP3603629B2 (ja) 1998-12-24 2004-12-22 カシオ計算機株式会社 画像処理装置及び画像処理方法
JP3369994B2 (ja) 1998-12-28 2003-01-20 株式会社オリエントコーポレーション カード作成支援装置及び方法並びにカード作成支援用ソフトウェアを記録した記録媒体
JP2000278633A (ja) 1999-03-26 2000-10-06 Victor Co Of Japan Ltd デジタル映像記録装置、デジタル映像記録再生装置およびデジタル映像記録方法
CA2307352A1 (en) 1999-06-30 2000-12-30 International Business Machines Corporation System and method for displaying a three-dimensional object using motion vectors to generate object blur
US6822760B1 (en) * 2000-04-05 2004-11-23 Eastman Kodak Company Method of processing and paying for an extended color gamut digital image
US6839463B1 (en) * 2000-12-22 2005-01-04 Microsoft Corporation System and method providing subpixel-edge-offset-based determination of opacity
JP4596227B2 (ja) 2001-06-27 2010-12-08 ソニー株式会社 通信装置および方法、通信システム、記録媒体、並びにプログラム

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0362692A (ja) * 1989-04-27 1991-03-18 Sony Corp 動き補償映像信号フォーマット変換装置
JPH05153493A (ja) * 1991-11-27 1993-06-18 Matsushita Electric Ind Co Ltd 映像信号合成装置
JPH06113338A (ja) * 1992-09-30 1994-04-22 Fujitsu Ltd 多眼式立体映像の動き補償予測方法
JPH06319130A (ja) * 1993-05-08 1994-11-15 Fujitsu General Ltd 画像伝送システム
JPH07336688A (ja) * 1994-06-06 1995-12-22 Nippon Hoso Kyokai <Nhk> アンカバー領域の検出方法
JPH10124651A (ja) * 1996-10-25 1998-05-15 Toppan Printing Co Ltd 画像サービスシステム
JPH10164436A (ja) * 1996-12-04 1998-06-19 Sony Corp 輪郭抽出装置、輪郭抽出方法、キー信号生成装置及びキー信号生成方法
JPH10290463A (ja) * 1997-02-14 1998-10-27 Nippon Telegr & Teleph Corp <Ntt> 動画像の予測符号化方法および復号方法、動画像予測符号化または復号プログラムを記録した記録媒体、および、動画像予測符号化データを記録した記録媒体
JP2000030040A (ja) * 1998-07-14 2000-01-28 Canon Inc 画像処理装置及びコンピュータ読み取り可能な記憶媒体
JP2001250119A (ja) * 1999-12-28 2001-09-14 Sony Corp 信号処理装置および方法、並びに記録媒体
JP2002190015A (ja) * 2000-12-21 2002-07-05 Sony Corp 画像処理装置および方法、並びに記録媒体
JP2002190028A (ja) * 2000-12-21 2002-07-05 Sony Corp 信号処理装置および方法、並びに記録媒体
JP2002190016A (ja) * 2000-12-21 2002-07-05 Sony Corp 信号処理装置および方法、並びに記録媒体

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8164638B2 (en) 2001-06-27 2012-04-24 Sony Corporation Communication system and method thereof

Also Published As

Publication number Publication date
EP1400927A1 (en) 2004-03-24
US20100073505A1 (en) 2010-03-25
KR100886618B1 (ko) 2009-03-05
EP2026579B1 (en) 2010-06-09
SG135971A1 (en) 2007-10-29
WO2003003308A1 (en) 2003-01-09
DE60235730D1 (de) 2010-04-29
CA2420029A1 (en) 2003-02-18
EP1865720A1 (en) 2007-12-12
CN1468416A (zh) 2004-01-14
CN1738369A (zh) 2006-02-22
US20040075749A1 (en) 2004-04-22
US7619655B2 (en) 2009-11-17
DE60236703D1 (de) 2010-07-22
DE60234030D1 (de) 2009-11-26
MXPA03001701A (es) 2004-04-02
CN100366060C (zh) 2008-01-30
JP2003016455A (ja) 2003-01-17
US8164638B2 (en) 2012-04-24
EP2026579A1 (en) 2009-02-18
EP1400927A4 (en) 2007-05-23
CA2420029C (en) 2011-08-23
KR20040014956A (ko) 2004-02-18
EP1400927B1 (en) 2009-10-14
CN1251149C (zh) 2006-04-12
EP1865720B1 (en) 2010-03-17

Similar Documents

Publication Publication Date Title
JP4596227B2 (ja) 通信装置および方法、通信システム、記録媒体、並びにプログラム
JP4729812B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP4596226B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP4596202B2 (ja) 画像処理装置および方法、並びに記録媒体
JP4596216B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP4596220B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP4596221B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP4106874B2 (ja) 画像処理装置および方法、並びに記録媒体
JP2002245463A (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP4596219B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP4811421B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP4650654B2 (ja) 通信装置および方法、通信システム、記録媒体、並びにプログラム
JP4701547B2 (ja) 通信装置および方法、通信システム、記録媒体、並びにプログラム
JP4650655B2 (ja) 通信装置および方法、通信システム、記録媒体、並びにプログラム
JP2003018578A (ja) 通信装置および方法、通信システム、記録媒体、並びにプログラム
JP2003016457A (ja) 通信装置および方法、通信システム、記録媒体、並びにプログラム
JP2002366949A (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP4596225B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
EP1403820A1 (en) Image processing apparatus and method, and image pickup apparatus

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080311

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080311

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100527

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100720

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100826

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100908

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131001

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees