CN110365974A - 用于视频编码和解码的自适应传递函数 - Google Patents

用于视频编码和解码的自适应传递函数 Download PDF

Info

Publication number
CN110365974A
CN110365974A CN201910771191.4A CN201910771191A CN110365974A CN 110365974 A CN110365974 A CN 110365974A CN 201910771191 A CN201910771191 A CN 201910771191A CN 110365974 A CN110365974 A CN 110365974A
Authority
CN
China
Prior art keywords
video data
dynamic range
video
transmission function
inputting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910771191.4A
Other languages
English (en)
Inventor
A·托拉皮斯
D·辛格
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Apple Inc
Original Assignee
Apple Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Apple Inc filed Critical Apple Inc
Publication of CN110365974A publication Critical patent/CN110365974A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/2007Display of intermediate tones
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • G09G5/005Adapting incoming signals to the display format of the display terminal
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/10Intensity circuits
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6058Reduction of colour to a range of reproducible colours, e.g. to ink- reproducible colour gamut
    • H04N1/6063Reduction of colour to a range of reproducible colours, e.g. to ink- reproducible colour gamut dependent on the contents of the image to be reproduced
    • H04N1/6066Reduction of colour to a range of reproducible colours, e.g. to ink- reproducible colour gamut dependent on the contents of the image to be reproduced dependent on the gamut of the image to be reproduced
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/64Systems for the transmission or the storage of the colour picture signal; Details therefor, e.g. coding or decoding means therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/177Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a group of pictures [GOP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/188Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a video data packet, e.g. a network abstraction layer [NAL] unit
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/33Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the spatial domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/517Processing of motion vectors by encoding
    • H04N19/52Processing of motion vectors by encoding by predictive encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/98Adaptive-dynamic-range coding [ADRC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42202Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS] environmental sensors, e.g. for detecting temperature, luminosity, pressure, earthquakes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4318Generation of visual interfaces for content selection or interaction; Content or additional data rendering by altering the content in the rendering process, e.g. blanking, blurring or masking an image region
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/85Camera processing pipelines; Components thereof for processing colour signals for matrixing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/50Tuning indicators; Automatic tuning control
    • H04N5/505Invisible or silent tuning
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/641Multi-purpose receivers, e.g. for auxiliary information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/67Circuits for processing colour signals for matrixing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0261Improving the quality of display appearance in the context of movement of objects on the screen or movement of the observer relative to the screen
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0271Adjustment of the gradation levels within the range of the gradation scale, e.g. by redistribution or clipping
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0613The adjustment depending on the type of the information to be displayed
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0613The adjustment depending on the type of the information to be displayed
    • G09G2320/062Adjustment of illumination source parameters
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0626Adjustment of display parameters for control of overall brightness
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/066Adjustment of display parameters for control of contrast
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0666Adjustment of display parameters for control of colour parameters, e.g. colour temperature
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0673Adjustment of display parameters for control of gamma adjustment, e.g. selecting another gamma curve
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0686Adjustment of display parameters with two or more screen areas displaying information with different brightness or colours
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0693Calibration of display systems
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/08Arrangements within a display terminal for setting, manually or automatically, display parameters of the display terminal
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/10Special adaptations of display systems for operation with variable images
    • G09G2320/103Detection of image changes, e.g. determination of an index representative of the image change
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/02Handling of images in compressed format, e.g. JPEG, MPEG
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00Aspects of the architecture of display systems
    • G09G2360/14Detecting light within display terminals, e.g. using a single or a plurality of photosensors
    • G09G2360/144Detecting light within display terminals, e.g. using a single or a plurality of photosensors the light being ambient light
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/04Exchange of auxiliary data, i.e. other than image data, between monitor and graphics controller
    • G09G2370/042Exchange of auxiliary data, i.e. other than image data, between monitor and graphics controller for monitor identification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • H04N19/463Embedding additional information in the video signal during the compression process by compressing encoding parameters before transmission
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213Monitoring of end-user related data
    • H04N21/44218Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/485End-user interface for client configuration
    • H04N21/4854End-user interface for client configuration for modifying image parameters, e.g. image brightness, contrast

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Remote Sensing (AREA)
  • Business, Economics & Management (AREA)
  • Environmental Sciences (AREA)
  • Emergency Management (AREA)
  • Ecology (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Environmental & Geological Engineering (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本公开涉及用于视频编码和解码的自适应传递函数。本发明提供了一种视频编码和解码系统,该视频编码和解码系统在编解码器内实施自适应传递函数方法以用于信号表示。可针对输入视频的每个场景、序列、帧、或区域来动态确定用于表示人类视觉系统的有效动态范围的聚焦动态范围。可根据用于在编解码器内进行编码的传递函数来将视频数据裁剪并量化到编解码器的位深度中。该传递函数可与输入视频数据的传递函数相同,或者可以是编解码器内部的传递函数。该经编码的视频数据可被解码并扩展到一个或多个显示器的动态范围中。该自适应传递函数方法可使得编解码器能够针对信号的内部表示而使用更少的位,而在输出中仍表示信号的整个动态范围。

Description

用于视频编码和解码的自适应传递函数
本申请是申请日为2015年2月25日的、名称为“用于视频编码和解码的自适应传递函数”的发明专利申请No.201580010095.8的分案申请。
技术领域
本公开整体涉及数字视频或图像处理和显示。
背景技术
包括但不限于个人计算机系统、台式计算机系统、膝上型电脑和笔记本式计算机、平板电脑或平板设备、数码相机、数字视频录像机、和移动电话或智能电话的各种设备可包括可实施一种或多种视频处理方法的软件和/或硬件。例如,设备可包括可根据一个或多个视频处理方法接收和处理来自一个或多个源的数字视频输入并输出经处理的视频帧的装置(例如集成电路(IC),诸如片上系统(SOC)、或IC的子系统)。又如,可在设备上实施可根据一个或多个视频处理方法接收和处理来自一个或多个源的数字视频输入并将经处理的视频帧输出至一个或多个目的地的软件程序。
例如,视频编码器可被实施为其中数字视频输入根据视频编码方法被编码或转换为另一种格式例如压缩视频格式(诸如H.264/高级视频编码(AVC)格式或H.265高效视频编码(HEVC)格式)的装置或另选的软件程序。又如,视频解码器可被实施为其中压缩视频格式(诸如AVC或HEVC)的视频被接收并根据视频解码方法被解码或转换为另一(解压缩)格式例如显示设备所使用的显示格式的装置或另选的软件程序。H.264/AVC标准被ITU-T公布于标题为“ITU-T Recommendation H.264:Advanced video coding for generic audiovisualservices”的文档中。H.265/HEVC标准由ITU-T公布于标题为“ITU-T RecommendationH.265:High Efficiency Video Coding”的文档中。
在许多系统中,装置或软件程序可实现视频编码器部件和视频解码器部件两者;诸如装置或程序通常被称为编解码器。需注意,编解码器可对视频流中的视觉/图像数据和音频/声音数据两者进行编码/解码。
通常定义的动态范围为信号诸如像声音和光中的可改变量的最大可能值和最小可能值之间的比率。在数字图像和视频处理中,扩展动态范围或高动态范围(HDR)成像是指在电子图像(例如,如在显示屏或显示设备上所显示的)中产生比使用标准数字成像技术(被称为标准动态范围或SDR成像)时获得的亮度范围更宽的亮度范围的技术。
电光传递函数(EOTF)可将数字代码值映射到光值,例如映射到亮度值。通常被称为光电传递函数(OETF)的逆向过程将光值映射到电子/数字值。EOTF和OETF可被统称为传递函数。亮度的SI单位为坎每平方米(cd/m2)。该单位的非SI术语为“NIT”。在标准动态范围(SDR)成像系统中,为了简化编码/解码系统或编解码器中的编码过程和解码过程,通常将固定的传递函数例如固定的幂律伽马传递函数用于视频图像内容的内部表示。随着高动态范围(HDR)成像技术、系统和显示器的出现,对于更加灵活的传递函数的需求也随之产生。
发明内容
本发明描述了视频编码和解码系统和方法的实施方案,这些实施方案实施自适应传递函数以用于视频编码和解码系统或编解码器内的视频图像内容内部表示。这些实施方案可基于图像数据的一个或多个特征(例如亮度、纹理等)在输入视频中动态地确定当前场景、序列、帧或帧的区域的聚焦动态范围,将输入视频动态范围裁剪成聚焦范围,然后根据用于在编解码器中表示视频数据的传递函数来将裁剪范围内的值从输入视频的位深度适当地映射(例如,量化)到编解码器的位深度。
在实施方案中,可使用各种传递函数来表示编解码器中的输入视频数据和聚焦范围视频数据。在一些实施方案中,用于表示编解码器中的视频数据的传递函数可与用于表示输入视频数据的传递函数相同。在一些实施方案中,可使用与用于表示输入视频数据的传递函数(被称为一级传递函数)不同的传递函数(被称为内部传递函数或二级传递函数)来表示编解码器中的视频数据。
在实施方案中,由编码器使用以用于场景、序列、帧、
或区域的聚焦范围、传递函数、量化参数和其他格式的信息可例如由嵌入在输出位流中的元数据来发信号通知解码器部件。在解码器中,可根据场景、序列、帧、或视频区域的一个或多个被发信号通知的聚焦范围来对编码位流进行解码并将其动态地扩展到目标设备(例如,支持高动态范围(HDR)的显示器)的全动态范围。
通过使传递函数动态地适应输入视频数据,实施方案可允许利用比用于表示输入视频数据时更少的位数在编解码器中表示视频数据,同时还允许编解码器输出视频数据,以使其扩展并填充HDR设备诸如支持HDR的显示器的动态范围。自适应传递函数方法的实施方案可例如使得视频编码和解码系统针对编解码器内的视频数据的内部表示和处理使用10位或更少的位,而当将视频输出到HDR设备诸如支持HDR的显示器时,例如使用12位或更多位来表示视频数据的扩展动态范围或高动态范围。因而,视频编码和解码系统的自适应传递函数方法的实施方案可简化HDR技术的具体实施,并因此简化其采用,在消费空间中尤其如此。
附图说明
图1示出了实施自适应传递函数的实施方案的示例性编解码器或视频编码和解码系统。
图2示出了根据一些实施方案的将自适应传递函数方法应用于视频输入数据并生成经编码的视频数据的示例性编码器。
图3示出了根据一些实施方案的根据自适应传递函数方法来对经编码的视频数据进行解码并扩展京解码的视频数据以生成显示格式视频数据的示例性解码器。
图4示出了根据一些实施方案的输入视频数据的示例性全范围,并示出了视频数据的示例性聚焦范围。
图5示出了根据一些实施方案的在聚焦范围内映射N位输入视频数据以生成C位视频数据的示例。
图6以图形方式示出了根据一些实施方案的将C位经解码的视频扩展到支持HDR的设备的全动态范围内以生成该设备的D位视频数据的示例。
图7A至图7C以图形方式示出了根据自适应传递函数方法的实施方案的将不同的聚焦范围应用于视频序列或视频帧的不同部分。
图8为根据一些实施方案的将自适应传递函数方法应用于视频输入数据并生成经编码的视频数据的视频编码方法的流程图。
图9为根据一些实施方案的视频解码方法的流程图,该方法根据自适应传递函数方法对经编码的视频数据进行解码并扩展经解码的视频数据以生成显示格式视频数据。
图10是片上系统(SOC)的一个实施方案的框图,该SOC可被配置为实现本文所述的系统和方法的各个方面。
图11为可包括一个或多个SOC的系统的一个实施方案的框图。
图12示出了根据一些实施方案的示例性计算机系统,该计算机系统可被配置为实现本文所述的系统和方法的各个方面。
图13示出了根据一些实施方案的便携式多功能设备的框图。
图14描绘了根据一些实施方案的便携式多功能设备。
尽管本发明易受各种修改形式和替代形式的影响,但其具体实施方案在附图中以举例方式示出并将在本文中详细描述。然而,应当理解,附图及其详细描述并非旨在将本发明限制为所公开的具体形式,恰恰相反,本发明旨在涵盖落入本发明的实质和范围的所有修改形式、等同形式和替代形式。如在本申请中通篇所使用的那样,以允许的意义(即,意味着具有可能性)而非强制的意义(即,意味着必须)使用字词“可能”。类似地,字词“包括”(“include”“including”he“includes”)意味着“包括但不限于”。
各种单元、电路或其他部件可被描述为“被配置为”执行一项或多项任务。在此类上下文中,“被配置为”是通常意味着“具有”在操作期间执行一项或多项任务的“电路”的结构的宽泛表述。如此,即使在单元/电路/部件当前未接通时,单元/电路/部件也可被配置为执行该任务。通常,形成与“被配置为”对应的结构的电路可包括硬件电路。类似地,为了方便描述,可将各种单元/电路/部件描述为执行一项或多项任务。此类描述应当被解释成包括短语“被配置为”。详述被配置为执行一项或多项任务的单元/电路/部件意在明确地不援引35U.S.C.§112,第六段对该单元/电路/部件的解释。
具体实施方式
本发明描述了视频编码和解码系统和方法的实施方案,这些实施方案实施自适应传递函数,以用于视频编码和解码系统或编解码器内的视频图像内容内部表示。这些实施方案可允许在编码与解码处理过程期间使输入视频数据的动态范围适应于编解码器。在实施方案中,传递函数可动态地适应于至编解码器的各个场景、序列或输入视频的帧。在一些实施方案中,可在帧的区域内使传递函数被动态地适应。这些实施方案可使传递函数动态地适应于输入视频数据,仅保留在动态确定的人类视觉系统有效动态范围(在本文中被称为聚焦动态范围或仅被称为聚焦范围)内的信息,并且根据用于在编解码器内进行处理的传递函数来将聚焦范围内的数据从输入视频的位深度映射到编解码器的位深度。可扩展编解码器的输出以填充输出设备或目标设备的动态范围,该输出设备或目标设备包括但不限于扩展动态范围设备或高动态范围(HDR)设备,诸如支持HDR的显示器。图1至图3示出了在其中可实施自适应传递函数方法的实施方案的示例性视频编码和解码系统或编解码器。
人类视觉系统整体上覆盖明显的动态范围。然而,人类视觉系统趋于基于当前场景或正在观看的图像适应并限制动态范围,例如根据场景或图像的亮度(照度)和纹理特征。因此,尽管人类视觉系统的总动态范围相当大,但视频的给定场景、序列、帧或区域的有效动态范围可根据图像特征而相当小,该图像特征包括但不限于亮度和纹理。本文所述的视频编码和解码系统和方法的实施方案可利用人类视觉的这一特征,以根据当前场景、序列、帧或区域的特征采用相似的策略,以用于动态地限制编解码器内的范围。在实施方案中,根据当前正在处理的场景、序列、帧或区域的一个或多个特征(例如,亮度、纹理等),编码器部件或过程可将输入视频场景、序列、帧或区域的范围(例如,亮度)动态地限制在人类视觉系统有效动态范围内和编解码器的要求范围(例如,位深度)内。这可例如通过依据样本值动态地确定输入视频中的当前场景、序列、帧或区域内的面积并将编解码器的位深度(例如,10位)聚焦到该范围中来完成。在一些实施方案中,可在编码器中通过将输入视频动态范围裁剪成该面积来执行聚焦,并且然后根据用于在编解码器中表示视频数据的传递函数来将裁剪范围(被称为聚焦动态范围或聚焦范围)中的值从输入视频的位深度适当地映射(例如,量化)到编解码器的位深度。图4和图5以图形方式示出了根据一些实施方案的针对输入视频数据所确定的示例性聚焦范围并且根据传递函数来将N位输入视频数据映射到编解码器的位深度。如本文所用,N位是指输入视频的位深度,C位是指用于表示编解码器内的视频数据的位深度,并且D位是指解码视频的目标设备(例如,显示设备)的位深度。
在实施方案中,可使用各种传递函数来表示编解码器中的输入视频数据和聚焦范围视频数据。可用于在实施方案中表示视频数据的传递函数的示例可包括但不限于:基于伽马的幂律传递函数、基于对数的传递函数、以及基于人类视觉感知的传递函数,诸如由Dolby Laboratories,Inc提出的感知量化器(PQ)传递函数。在一些实施方案中,用于在编解码器中表示视频数据的传递函数可与用于表示输入视频数据的传递函数相同。然而,在其他实施方案中,可使用与用于表示输入视频数据的传递函数(被称为一级传递函数)不同的传递函数(被称为内部或二级传递函数)来表示编解码器中的视频数据。相较于可使用一级传递函数来完成,这样可例如允许在编解码器内以更高的精度来表示视频数据(也可被称为视频信号)。
在实施方案中,编码器用于场景、序列、帧或区域的聚焦范围、传递函数、量化参数和其他格式的信息可例如由嵌入在输出位流中的元数据来发信号通知解码器部件。在解码器处,可根据场景、序列、帧、或视频区域的一个或多个被发信号通知的聚焦范围来对编码位流进行解码并将其动态地扩展到目标设备诸如HDR设备(例如,支持HDR的显示器)的全动态范围。图6以图形方式示出了根据一些实施方案将经解码的视频数据扩展到HDR设备的全动态范围中。
通过使传递函数动态地适应输入视频数据,实施方案可允许利用比用于表示输入视频数据时更少的位数在编解码器中表示视频数据,同时还允许编解码器输出视频数据,以使其扩展并填充HDR设备诸如支持HDR的显示器的动态范围。自适应传递函数方法的实施方案可例如使得视频编码和解码系统针对编解码器内的视频数据的内部表示和处理使用10位或更少的位,而当将视频输出到HDR设备诸如支持HDR的显示器时,例如使用12位或更多位来表示视频数据的扩展动态范围或高动态范围。因而,视频编码和解码系统的自适应传递函数方法的实施方案可简化HDR技术的具体实施,并因此简化其采用,在消费空间中尤其如此。
本文所述的自适应传递函数方法可被应用于视频信号的所有颜色分量,或者另选地可分别被应用于视频信号的亮度分量和色度分量中的一者或两者。
图1示出了实施自适应传递函数的实施方案的示例性视频编码和解码系统或编解码器100。在实施方案中,根据自适应传递函数方法,编解码器100的自适应传递函数110分量或模块可将N位(例如,12位、14位、16位等)视频输入数据102转换成C位(例如,10位或更少位)视频输入数据112,并转换到编解码器100的编码器120部件或模块。在一些实施方案中,为了将N位视频输入数据102转换成C位视频输入数据112,自适应传递函数110可在N位视频输入数据102中的当前场景、序列、帧或区域内依据样本值来动态地确定面积并将C位聚焦到该面积中。在一些实施方案中,可在自适应传递函数110中通过将N位视频输入数据102裁剪成确定的聚焦范围来进行该聚焦,然后根据用于在编码器120中表示视频数据从而为编码器120生成C位视频输入数据112的传递函数来将聚焦范围中的N位值适当地映射(例如,量化)到编解码器的位深度。
在一些实施方案中,自适应传递函数110也可生成格式元数据114作为到编码器120的输出。格式元数据114可将自适应传递函数方法描述为被应用于输入视频数据102。例如,格式元数据114可指示确定的聚焦范围、用于将视频数据映射到编码器位深度的参数,并且还可包含有关被应用于聚焦范围的传递函数的信息。
在一些实施方案中,编码器120然后可对C位视频输入数据112进行编码,以生成编码流122作为输出。在一些实施方案中,编码器120可根据压缩视频格式诸如H.264/高级视频编码(AVC)格式或H.265/高效视频编码(HEVC)格式来对C位视频输入数据112进行编码。然而,也可使用其他编码格式。在一些实施方案中,编码器120可例如将格式元数据114嵌入到输出流122中,使得可将格式元数据114提供给解码器130部件。输出编码流122可被存储到存储器,或者另选地可直接被发送到编解码器100的解码器130部件或模块。图2更详细地示出了视频编码和解码系统或编解码器100的示例性编码器部件。
解码器130可读取或接收编码流122并对该编码流122进行解码,以生成C位解码流132作为到编解码器100的逆向自适应传递函数140部件或模块的输出。在一些实施方案中,将自适应传递函数方法描述为被自适应传递函数110应用于输入视频数据102的格式元数据134可从输入流122中被提取并被传递到逆向自适应传递函数140。该逆向自适应传递函数140可根据格式元数据134和显示信息144来转换C位解码流132,以向一个或多个显示器190或其他设备生成D位(例如,12位、14位、16位等)HDR输出142。图3更详细地示出了视频编码和解码系统或编解码器100的示例性解码器部件。
如本文所述的实施自适应传递函数方法的视频编码和解码系统或编解码器100的实施方案可例如在包括一个或多个图像捕获设备和/或一个或多个显示设备的设备或系统中实现。图像捕获设备可以是包括能够捕获数字图像或视频的光学传感器或光传感器的任何设备。图像捕获设备可包括但不限于视频摄像机和静态图像相机、以及可捕获视频和单幅图像两者的图像捕获设备。图像捕获设备可以是独立的设备或可以是被集成到其他设备中的相机,该其他设备包括但不限于智能电话、移动电话、PDA、平板电脑或平板设备、多功能设备、计算设备、膝上型计算机、笔记本式计算机、上网本计算机、台式计算机等等。需注意,图像捕获设备可包括适用于小型设备诸如移动电话、PDA和平板设备的小外形相机。显示器或显示设备可包括被集成到其他设备中的显示屏或面板,所述其他设备包括但不限于智能电话、移动电话、PDA、平板电脑或平板设备、多功能设备、计算设备、膝上型计算机、笔记本式计算机、上网本计算机、台式计算机等等。显示设备还可包括视频监视器、投影仪、或者一般来讲可显示或投映数字图像和/或数字视频的任何设备。显示器或显示设备可使用LCD(液晶显示器)技术、LPD(发光聚合物显示器)技术或LED(发光二极管)技术,尽管也可使用其他显示技术。
图10至图14示出了可在其中实现实施方案的设备的非限制性示例。包括图像捕获设备和/或显示设备的设备或系统可包括用于实现如本文所述的用于处理视频数据的功能中的至少一些功能的硬件和/或软件。在一些实施方案中,如本文所述的功能的一部分可在一个设备上实现,而另一部分可在另一个设备上实现。例如,在一些实施方案中,包括图像捕获设备的设备可实现传感器流水线,该传感器流水线处理并压缩(即,编码)经由光传感器捕获的图像或视频,而包括显示面板或显示屏的另一个设备可实现显示器流水线,该显示器流水线接收并处理经压缩的图像(即,解码),以用于对显示或屏幕的显示。在一些实施方案中,如本文所述的功能中的至少一些功能可由可用于设备的片上系统(SOC)的一个或多个部件或模块实现,该设备包括但不限于多功能设备、智能电话、平板电脑或平板设备、以及其他便携式计算设备,诸如膝上型计算机、笔记本式计算机和上网本计算机。图10示出了示例性SOC,并且图11示出了实现SOC的示例性设备。图12示出了可实现本文所述的方法和装置的示例性计算机系统。图13和图14示出了可实现本文所述的方法和装置的示例性多功能设备。
实施方案现在本文中通常被描述作为处理视频。然而,作为处理视频帧或视频序列的替代或补充,实施方案还可被应用于处理单幅图像或静态图像。因此,应当理解,在本文中使用“视频”、“视频帧”、“帧”等时,这些术语一般可指捕获的数字图像。
图2示出了根据一些实施方案将自适应传递函数方法应用于视频输入数据202并生成经编码的视频数据232作为输出的示例性编码器200。如图1所示,编码器200可例如为编解码器100的部件或模块。在实施方案中,编码器200的自适应传递函数部件或模块210可根据传递函数方法来将N位(例如,12位、14位、16位等)视频输入数据202转换成C位(例如,10位或更少位)数据212,并将C位数据212输出到编码器200的处理流水线220部件。在一些实施方案中,为了将N位视频输入数据202转换为C位视频数据212,自适应传递函数模块210可在N位视频输入数据202中的当前场景、序列、帧或区域内依据样本值来动态地确定面积并将C位聚焦到该面积中。在一些实施方案中,可在自适应传递函数模块210中通过将N位视频输入数据202的动态范围裁剪成确定的聚焦范围来进行该聚焦,然后根据用于在编码器200中表示视频数据的传递函数来将聚焦范围中的N位值适当地映射(例如,量化)到C位。在一些实施方案中,自适应传递函数模块210也可生成格式元数据214作为到编码器220的输出。格式元数据214可将自适应传递函数方法描述为被应用于输入视频数据202。例如,格式元数据214可指示用于将视频数据映射到编码器位深度的所确定的聚焦范围参数,并且还可包含有关被应用于聚焦范围的传递函数的信息。
在一些实施方案中,编码器200然后可对由自适应传递函数模块210生成的C位视频输入数据212进行编码,以生成编码流232作为输出。在一些实施方案中,编码器120可根据压缩视频格式诸如H.264/高级视频编码(AVC)格式或H.265/高效视频编码(HEVC)格式来对C位视频输入数据112进行编码。然而,也可使用其他编码格式。
在一些实施方案中,根据图片元素块(称为像素或图元)来将输入视频帧细分到编码器200中并在其中进行处理。例如,被称为宏块的16×16像素块可被用于H.264编码。HEVC编码使用可在16×16像素到64×64像素块的范围内变化的被称为编码树单元(CTU)的块。CTU可被划分成编码单元(CU),并且可被进一步细分为可在从64×64像素降低到4×4像素块的尺寸内变化的预测单元(PU)。在一些实施方案中,视频输入数据212可被分为亮度和色度分量,并且所述亮度与色度分量可在编码器的一个或多个部件或阶段分别进行处理。
在图2所示的示例性编码器200中,该编码器200包括处理流水线220部件和熵编码230部件。该处理流水线220可包括处理视频输入数据212的多个部件或阶段。该处理流水线220可例如实施帧内和帧间估计222、模式决定224、运动补偿和重建226操作作为一个或多个阶段或部件。
下文描述了示例性处理流水线220在高水平下的操作,而并非旨在进行限制。在一些实施方案中,帧内和帧间估计222可确定要在对输入到流水线的块进行编码的过程中使用的先前编码的像素块。在一些视频编码技术诸如H.264编码中,每个输入块可使用当前帧内已编码的像素块来进行编码。确定这些块的过程可被称为帧内估计或被简称为内估计。在一些视频编码技术诸如H.264和H.265编码中,也可使用来自一个或多个先前重建的帧(被称为参考帧,在图2中被示出为参考数据240)的像素块来对块进行编码。在一些实施方案中,由编码器流水线输出的经重建和编码的帧可被解码并存储到参考数据240以用作参考帧。在一些实施方案中,被存储在用于重建当前帧的参考数据240中的参考帧可包括在正被处理的视频中在时间上先于当前帧发生的一个或多个重建帧、和/或在正被处理的视频中在时间上晚于当前帧发生的一个或多个重建帧。寻找参考帧中的匹配像素块的过程可被称为帧间估计,或更一般地被称为运动估计。在一些实施方案中,模式决定224可接收来自帧间和帧内估计222的针对给定块的输出,并确定最佳预测模式(例如,帧间预测模式或帧内预测模式)和块的对应运动矢量。该信息被传递到运动补偿和重建226。
运动补偿和重建226的操作可取决于从模式决定224接收的最佳模式。如果最佳模式是帧间预测,则运动补偿部件获得与运动矢量对应的参考帧块,并将这些块组合成预测块。然后,运动补偿部件向预测块应用加权预测,以生成将被传递至重建部件的最终块预测。在加权预测中,可根据一个或多个加权参数对来自参考数据的值进行加权,并以偏移值移位以生成将用于对当前块进行编码的预测数据。如果最佳模式是帧内预测,则使用一个或多个相邻块进行帧内预测,以生成在流水线的该阶段处正被处理的当前块的预测块。
重建部件根据运动补偿输出来执行当前块的块(例如,宏块)重建操作。该重建操作可例如包括正向变换和量化(FTQ)操作。运动补偿与重建226可将经变换和量化的数据输出至编码器200的熵编码230部件。
熵编码230部件可例如应用熵编码技术来压缩由流水线220输出的经变换和量化的数据,从而生成经编码的输出流232。可被使用的示例性熵编码技术可包括但不限于霍夫曼编码技术、CAVLC(上下文自适应可变长编码)和CABAC(上下文自适应二进制算术编码)。在一些实施方案中,编码器200可将格式元数据214嵌入到经编码的输出流232中,使得可将格式元数据214提供给解码器。该输出编码流232可被存储到存储器,或者另选地可直接被发送到解码器部件。
参考数据240也可由流水线220输出并被存储到存储器。参考数据240可包括但不限于可例如在流水线220的运动估计以及运动补偿和重建操作中进行访问的一个或多个先前编码的帧(被称为参考帧)。
在一些实施方案中,编码器200可包括可被配置为在处理当前帧时将从参考数据240获得的参考帧数据重新格式化以由流水线220部件使用的重新格式化250部件。重新格式化250可例如涉及将参考帧数据从用于编码参考帧的聚焦范围/传递函数转换到将用于对当前帧进行编码的聚焦范围/传递函数。例如,参考帧亮度的聚焦范围/传递函数映射可从以C(例如,10)位表示的0.05cd/m2到1000cd/m2。对于当前帧,聚焦范围可由于较亮的图像内容而被扩展;例如,聚焦范围可被扩展或增大至2000cd/m2。因此,当前帧亮度的聚焦范围/传递函数映射可为0.05cd/m2至2000cd/m2。为了在流水线220中(例如,在运动估计操作中)使用参考帧数据,可根据由重新格式化250部件用于编码当前帧的聚焦范围/传递函数来将参考帧数据重新格式化。
在给定示例中,重新格式化250部件可将参考帧数据从0.05cd/m2转换至1000cd/m2范围,在该范围内将其从0.05cd/m2范围重建至用于当前帧的2000cd/m2范围。在该示例中,由于参考帧仅包含从0.05cd/m2到1000cd/m2的数据,因此在重新格式化的参考帧数据的C位表示中的一些代码字词(例如,表示大于1000cd/m2的值的代码字词)可能不会用于重新格式化的参考数据中。然而,多个值被映射到当前聚焦范围以用于预测或其他操作。
如从参考数据240返回到自适应传递函数模块210的箭头所示的,在一些实施方案中,自适应传递函数模块210可使用来自一个或多个先前处理的帧的自适应传递函数信息来确定在流水线220中将要处理的当前帧的聚焦范围/传递函数。
图3示出了根据一些实施方案的根据自适应传递函数方法来对经编码的视频数据302进行解码并扩展经解码的视频数据322以生成显示格式视频数据332的示例性解码器300。如图1所示,解码器300可例如为编解码器100的部件或模块。在图3所示的示例性解码器300中,解码器300包括熵解码310部件、逆向量化和变换320部件、以及逆向自适应传递函数模块330。熵解码310部件可例如应用熵解码技术来解压由编码器(例如,图2所示的编码器200)输出的编码流302。逆向量化和变换320部件对由熵解码310输出的数据进行逆向量化和变换操作,以生成C位解码流322作为到解码器300的逆向自适应传递函数模块330的输出。在一些实施方案中,将自适应传递函数方法描述为应用于当前场景、序列、帧或区域的格式元数据324可从输入流302中被提取并被传递到逆向自适应传递函数模块330。逆向自适应传递函数模块330可根据格式元数据324和显示信息392来扩展C位解码流322,以向一个或多个显示器390或其他设备生成D位(例如,12位、14位、16位等)HDR输出332。
图4至图6以图形方式示出了根据一些实施方案的确定N位输入视频数据的示例性聚焦范围,根据传递函数来将输入视频数据映射到在编解码器内可用的C位,并且将经解码的视频扩展到HDR设备的全动态范围以生成该设备的D位视频数据。
图4示出了根据一些实施方案的N位输入视频数据的示例性全动态范围,并示出了针对输入视频数据确定的示例性聚焦范围。在图4中,纵轴表示输入视频数据中的N位(例如,12位、14位、16位等)代码值。横轴表示输入视频数据中的亮度的动态范围,在该示例中为0cd/m2-10000cd/m2,其中cd/m2(坎每平方米)为亮度的SI单位。该单位的非SI术语为“NIT”。该曲线表示输入视频数据的示例性传递函数。聚焦范围(在该示例中为2000cd/m2-4000cd/m2)表示根据相应视频数据的一个或多个特征(例如,亮度、纹理等)而确定的当前场景、序列、帧或区域的人类视觉系统有效动态范围。正如可看出的那样,在该示例中,聚焦范围由N位代码值的比率(约1/8)来表示。需注意,针对视频流内的不同场景、序列、帧或区域可确定不同的聚焦范围,如图7A至图7C所示的。
图5示出了根据一些实施方案的在所确定的聚焦范围内映射N位输入视频数据以在编解码器内生成C位视频数据的示例。在图5中,纵轴表示在编解码器中可用的C位(例如,12位、10位、8位等)代码值。横轴示出了将要被映射到C位代码值的亮度值的聚焦范围(在该示例中为2000cd/m2-4000cd/m2)。曲线表示用于表示编码内的聚焦范围数据的示例性传递函数。在一些实施方案中,用于表示编解码器中的视频数据的传递函数可与用于表示输入视频数据的传递函数相同。然而,在其他实施方案中,可使用与用于表示输入视频数据的传递函数(被称为一级传递函数)不同的传递函数(被称为内部或二级传递函数)来表示编解码器中的视频数据。相较于使用一级传递函数,这样可例如允许在编解码器内以更高的精度来表示视频信号的聚焦范围。
图6示出了根据一些实施方案的将C位解码视频扩展到支持HDR的设备的动态范围中以生成该设备的D位视频数据的示例。在图6中,纵轴表示从解码器(例如,图3所示的解码器300)输出的视频数据中的D位(例如,12位、14位、16位等)代码值。横轴表示由解码器向其输出D位视频数据的显示设备所支持的亮度的动态范围;在该示例中,所示出的动态范围为0cd/m2-10000cd/m2。曲线表示显示设备的示例性传递函数。编码视频信号被解码器解码之后,用于编解码器中的信号内部表示的聚焦范围从C位表示重新映射到更宽的动态范围以及显示设备的D位表示。需注意,针对视频流内的不同的场景、序列、帧或区域可编码不同的聚焦范围,如图7A至图7C所示。在一些实施方案中,可将格式元数据提供给编码视频流中的或与该编码视频流一起的解码器,该编码视频流指示用于对每个场景、序列、帧或区域进行编码的聚焦范围。在一些实施方案中,该元数据还可包括用于将视频数据映射到编解码器的位深度的一个或多个参数。在一些实施方案中,该元数据还可包括有关用于在编解码器中表示聚焦范围数据的内部传递函数的信息。该元数据可被解码器用于将聚焦范围数据从C位表示重新映射到更宽的动态范围以及显示设备的D位表示。
图7A至图7C以图形方式示出了根据自适应传递函数方法的实施方案的将不同的聚焦范围应用于视频序列或视频帧的不同部分。
图7A以图形方式示出了根据自适应传递函数方法的一些实施方案来将不同的聚焦范围应用于输入视频的不同场景或序列。在该示例中,动态地确定聚焦范围710A并将其用于编码帧700A-700E,并且动态地确定聚焦范围710B并将其用于编码帧700F-700G。帧700A-700E和帧700F-700H可例如表示视频内的不同场景,或者可表示视频中的多个场景内的或跨多个场景的帧的不同序列。
图7B以图形方式示出了根据自适应传递函数方法的一些实施方案来将不同的聚焦范围应用于输入视频的每个帧。在该示例中,动态地确定聚焦范围710C并将其用于编码帧700I,动态地确定聚焦范围710D并将其用于编码帧700J,并且动态地确定聚焦范围710E并将其用于编码帧700K。
图7C以图形方式示出了根据自适应传递函数方法的一些实施方案来将不同的聚焦范围应用于视频帧的不同区域。如图7A和图7B所示,在一些实施方案中,可将自适应传递函数方法应用于帧、场景或序列。然而,在一些实施方案中,除此之外或作为替代,自适应传递函数方法可被应用于帧内的两个或更多个区域702,如图7C所示。在该示例中,动态地确定聚焦范围710F并将其用于对帧700L的区域702A进行编码,动态地确定聚焦范围710G并将其用于对帧700L的区域702B进行编码,并且动态地确定聚焦范围710H并将其用于对帧700L的区域702C进行编码。在各种实施方案中,将要根据自适应传递函数方法进行编码的区域702可为矩形或者可具有其他形状,包括但不限于随意确定的不规则形状。在一些实施方案中,每个帧中可存在将要根据自适应传递函数方法进行编码的固定数量的区域702。在一些实施方案中,可针对每个帧、场景或序列来确定将要根据自适应传递函数方法进行编码的区域702的数量和/或区域702的形状。在一些实施方案中,由编码器生成并被传递到解码器的格式元数据可指示聚焦范围、量化参数、以及用于对一个或多个帧700中的每个区域702进行编码的其他信息。在其中在编解码器内使用二级传递函数或内部传递函数的实施方案中,该格式元数据可包含用于从二级传递函数转换到一级传递函数的信息。在区域702的数量可变化的实施方案中,对区域702的实际数量的指示可被包含在被传递到解码器的元数据中。在一些实施方案中,区域702的坐标和形状信息还可被包含在被传递到解码器的元数据中。
在视频内容中,在正被处理的输入视频中从一个区域或帧到下一个区域或帧时,在自适应传递函数方法中所使用的各种参数(例如,聚焦范围、量化参数等)可以是相似的,在场景内尤其如此。因此,在一些实施方案中,自适应传递函数方法可例如通过利用编解码器诸如AVC编解码器和HEVC编解码器中的加权预测过程来在编码器中提供对这些自适应传递函数参数中的一个或多个自适应传递函数参数的帧内(空间)预测和/或帧间(时间)预测。在帧间(时间)预测中,来自一个或多个在时间上过去的或未来的帧的先前处理的参考数据可用于针对当前帧中的内容来预测一个或多个参数。在帧内(空间)预测中,来自帧内的一个或多个相邻块或区域的数据可用于针对当前块或区域中的内容来预测一个或多个参数。
图8为根据一些实施方案将自适应传递函数方法应用于视频输入数据并生成经编码的视频数据的视频编码方法的高水平流程图。如图8的800处所指出的那样,可接收N位(例如,12位、14位、16位等)视频数据以用于编码。在一些实施方案中,视频流的帧由编码器顺序处理。在一些实施方案中,根据像素块(例如宏块、CU、PU或CTU)来将输入视频帧细分到编码器中并由其进行处理。
如图8的802处所指出的那样,可确定输入视频数据的聚焦范围。在一些实施方案中,可动态地确定被输入到编码器的视频的每个场景、序列或帧的聚焦范围。在一些实施方案中,可动态地确定帧内两个或更多个区域中的每个区域的聚焦范围。在一些实施方案中,可根据正被处理的当前场景、序列、帧或区域的一个或多个特征(例如,亮度、纹理等)来确定聚焦范围。聚焦范围表示针对当前场景、序列、帧或区域中的图像数据(例如,亮度)的人类视觉系统的有效动态范围。例如,如果输入视频数据中的亮度动态范围为0cd/m2-10000cd/m2,则基于各种场景、序列、帧或区域的特定特征的示例性聚焦范围可为2000cd/m2-4000cd/m2、0cd/m2-1000cd/m2、1000cd/m2-2500cd/m2等等。图4以图形方式示出了根据一些实施方案的针对N位输入视频数据所确定的示例性聚焦范围。
如图8的804处所指出的那样,可根据传递函数来将聚焦范围内的N位视频数据映射到C位视频数据。在一些实施方案中,可根据所确定的聚焦范围来对输入视频数据进行裁剪,然后可根据用于在编码器中表示视频数据的传递函数来将裁剪的数据值适当地映射(例如,量化)到编码器中可用的C位。图5根据一些实施方案以图形方式示出了根据传递函数的示例性聚焦范围内的N位输入视频数据到编码器中可用的C位的示例性映射。在实施方案中,可使用各种传递函数来表示编码器中的N位输入视频数据和C位视频数据。可用于在实施方案中表示视频数据的传递函数的示例可包括但不限于基于伽马的幂律传递函数、基于对数的传递函数、基于人类视觉感知的传递函数诸如PQ传递函数。在一些实施方案中,用于表示编码器中的C位视频数据的传递函数可与用于表示N位输入视频数据的传递函数相同。然而,在其他实施方案中,可根据一级传递函数来表示输入视频数据,并且可使用不同的(二级)传递函数来表示编码器中的视频数据。相较于使用一级传递函数时可能具有的精度,该二级传递函数可例如在编码器内以更高的精度来表示视频信号。
如图8的元素806所示,只要还有待处理的N位输入视频数据(例如,场景、序列、帧或区域),在元素800至元素804处执行的自适应传递函数处理便将迭代进行。如图8的810处所指出的那样,在元素800至元素804处通过自适应传递函数方法输出的每单位C位视频数据(例如,场景、序列、帧或区域)被输入到编码器并由其进行处理。如先前所提及,在一些实施方案中,N位输入视频数据可细分到自适应传递函数模块或部件中并由其进行处理,然后根据像素块(例如,宏块、CU、PU或CTU)作为C位视频数据传递给编码器。
如图8的810处所指出的那样,编码器的一个或多个部件可处理C位视频数据,以生成经编码的(和经压缩的)视频数据输出(例如,CAVLC输出或CABAC输出)。在一些实施方案中,该编码器可根据压缩视频格式诸如H.264/AVC格式或H.265/HEVC格式来对C位视频输入数据进行编码。然而,也可使用其他编码格式。在一些实施方案中,用于对每个场景、序列、帧或区域进行编码的聚焦范围、传递函数、量化参数和其他格式信息可作为元数据嵌入编码的输出流,或可通过其他方式发信号通知一个或多个解码器。图2的编码器200示出了用于处理C位视频数据以生成经编码的输出流的示例性编码器。在一些具体实施中,包括元数据的经编码的输出流可例如经由直接存储器访问(DMA)被写入存储器。在一些具体实施中,作为将输出流和元数据写入存储器的替代或补充,可将经编码的输出流和元数据直接发送到至少一个解码器。可在与实施编码器的设备和装置相同的或不同的设备和装置上实施解码器。
图9为根据一些实施方案的视频解码方法的高水平流程图,该方法根据自适应传递函数方法来对经编码的视频数据进行解码并扩展该经解码的视频数据,以生成显示格式视频数据。如图9的900处所指出的那样,解码器可获得经编码的数据(例如,经CAVLC或CABAC编码并压缩的数据)。可例如从存储器读取、从编码器接收、或以其他方式来获取经编码的数据。如图9的902处所指出的那样,解码器可对经编码的数据进行解码以生成经解码的C位视频数据和格式元数据。在一些实施方案中,解码器可根据压缩视频格式诸如H.264/AVC格式或H.265/HEVC格式来对经编码的数据进行解码。然而,也可使用其他编码/解码格式。从经编码的数据中提取的格式元数据可例如包括聚焦范围、传递函数、量化参数和用于对每个场景、序列、帧或区域进行编码的其他格式信息。
如图9的元素904所示,只要存在经编码的数据,则在900和902处执行的解码便可继续进行。如图9的910处所指出的那样,可根据逆向自适应传递函数方法输出并处理由解码器解码的每个单位解码数据(例如,每个场景、序列、帧或区域)。从经编码的数据中提取的格式元数据的至少一部分还可被输出至逆向自适应传递函数方法。
如图9的910处所指出的那样,逆向自适应传递函数方法可从聚焦范围动态地扩展经解码的C位视频数据,以生成全动态范围的D位视频数据,以用于输出到目标设备诸如支持HDR的显示设备。对于给定的场景、序列、帧或区域,可根据由解码器从经编码的数据中提取的相应格式元数据来动态地进行扩展。图6以图形方式示出了根据一些实施方案将经解码的视频数据扩展到HDR设备的全动态范围中
一级传递函数和二级传递函数
可用于在如本文所述的自适应传递函数方法的实施方案中表示视频数据的传递函数的示例可包括但不限于基于伽马的幂律传递函数、对数(基于对数的)传递函数、以及基于人类视觉感知的传递函数,诸如由Dolby Laboratories,Inc提出的感知量化器(PQ)传递函数。
在一些实施方案中,用于表示编解码器中的视频数据的传递函数可与用于表示输入视频数据的传递函数(称为一级传递函数)相同。在这些实施方案中,可根据针对场景、序列、帧或区域确定的聚焦范围来对输入视频数据进行裁剪,然后根据一级传递函数来将其映射(例如,量化)到编解码器的可用位中。可向解码器发信号通知聚焦范围、裁剪和映射(例如,量化)参数例如作为输出编码流中的元数据,使得在解码器上可执行逆向自适应传递函数方法,以生成设备(例如,支持HDR的显示器)的全范围视频数据。
然而,在一些实施方案中,可使用不同于一级传递函数的传递函数(被称为内部传递函数或二级传递函数)来表示编解码器内的视频数据。在这些实施方案中,可将输入视频数据裁剪为针对场景、序列、帧或区域所确定的聚焦范围,然后根据二级传递函数来将其映射、缩放或量化到编解码器的可用位中。相较于使用一级传递函数时可能具有的精度,二级传递函数可例如允许在编解码器内以更高的精度来表示视频信号。在这些实施方案中,除了聚焦范围、裁剪和映射(例如,量化)参数,还可向解码器发信号通知有关如何将视频数据从二级传递函数转换到一级传递函数的信息,例如作为输出流中的元数据。该信息可包含但不限于二级传递函数的类型(例如,幂律伽马传递函数、对数传递函数、PQ传递函数等)和传递函数的一个或多个控制参数。在一些实施方案中,也可发信号通知用于描述一级传递函数的信息。
在自适应传递函数方法的一些实施方案中,在编解码器内使用的内部传递函数或二级传递函数可为不连续传递函数表示,其中可保留内部表示的原传递函数或一级传递函数的一个或多个部分,而内部表示的其余部分采用不同的传递函数。在这些实施方案中,可例如使用表格表示在输出流中精确描述并发信号通知所保留的一级传递函数的一个或多个区域。也可发信号通知有关不同传递函数的信息。
如图7A至图7C所示,可在帧内在帧水平或区域水平上执行自适应传递函数方法的实施方案。因此,帧内相邻或邻近的编码和解码的视频帧或区域可具有明显不同的传递函数表示,其可例如对编码具有负面影响(例如,运动估计、运动补偿和重建),因为正在进行编码的当前帧或区域的传递函数表示可与可用于编码过程的相邻帧或区域的传递函数表示明显不同。然而,在一些实施方案中,可在使用编码格式诸如高级视频编码(AVC)和高效率视频编(HEVC)格式的编解码器中提供的加权预测可用于大幅提高编码效率。在这些实施方案中,可为可用于加权预测过程以调整传递函数表示中的差异的帧或区域提供加权参数。该加权参数可被发信号通知,例如通过在帧或块元数据中包含该参数。例如,在AVC或HEVC编码器中,可在切片标头元数据中发信号通知加权参数,并可通过改变AVC中宏块内的参考索引或HEVC中预测单元(PU)内的参考索引来选择该加权参数。在一些实施方案中,加权信息可根据块明确地发信号通知,这与切片标头部分相关或不相关。例如,在一些实施方案中,可在切片标头中发信号通知一级权重或主权重,并具有可用于调整在块水平下发信号通知的一级权重的δ或差异。在一些实施方案中,加权参数还可包含颜色加权信息。在一些实施方案中,这些加权参数可用于帧内预测以及帧间预测。例如,在帧内预测中,作为原样使用先前处理的相邻或邻近数据(例如,像素或像素块)的替代或补充,可提供可用于根据相邻或邻近样本的可能不同的传递函数特征来调整预测的附加加权参数和偏移参数。
在内部传递函数或二级传递函数被用于表示编解码器内的数据的一些实施方案中,除了加权参数,在编解码器中还可发信号通知有关二级传递函数的信息以用于传递函数预测。在一些实施方案中,例如可在使用传递函数表的切片标头中发信号通知二级传递函数信息,使得每个参考数据索引与一个或多个传递函数调整参数相关联。在一些实施方案中,作为替代或补充,可在块水平上发信号通知二级传递函数信息。在使用不连续传递函数表示的实施方案中,可在切片标头中和/或在块水平上发信号通知多个加权参数(例如,对不同的亮度值或水平具有不同影响的参数)。
在使用内部或二级传递函数并对其进行调整以表示编解码器内的数据的一些实施方案中,可动态地确定用于场景、序列、帧或区域的内部传递函数和调整。在一些实施方案中,可基于当前视频帧或帧的一个或多个区域的一个或多个特征来确定内部传递函数。该特征可包括但不限于最低亮度和峰值亮度、运动、纹理、颜色、直方图模式、百分比浓度等。在一些实施方案中,确定当前帧的内部传递函数还可利用在时间上过去的和/或未来的帧作为参考帧。在一些实施方案中,例如确定内部传递函数可利用在视频或视频序列中在当前帧之前和/或之后出现的一个、两个或更多个参考帧的窗口。使用基于窗口的信息来确定内部传递函数可导致每个帧的特征改变,并可帮助避免或平滑内部传递函数调整中过于明显的跳跃或不连续性,否则可对编码产生不利影响。平滑的、基于窗口的自适应传递函数方法可提供更好的传递函数选择,以用于编码目的并且用于在全传递函数范围/所需传递函数范围处的最终信号重建。在一些实施方案中,基于窗口的自适应传递函数方法可包括估计窗口内帧的峰值亮度和最低亮度,以确定内部传递函数。在一些实施方案中,可通过用于确定内部传递函数的基于窗口的方法来估计亮度直方图、直方图模式、值的集中度以及如何对其进行调整、和窗口内面积或区域的划分。在一些实施方案中,可在该选择中利用有关人类视觉系统的信息来实现改善的性能。
在一些实施方案中,在基于窗口的自适应传递函数方法中使用的决定窗口可不重叠,并且对每个帧或区域单独进行决定。在一些实施方案中,在窗口边界处可能存在重叠,同时在估计中考虑当前窗口之外的边界帧,但对其自身不进行调节。在一些实施方案中,多个窗口可通过自适应过程例如基于窗口距离的内部传递函数信息的加权平均来影响边界帧,这可有助于确保相邻窗口之间的平滑过渡。在一些实施方案中,内部传递函数的基于窗口的决定过程可基于“运行窗口”方法,其中根据帧本身的特征和一个或多个在时间上过去的和/或未来的帧和/或窗口的特征来确定每个帧的内部传递函数。在一些实施方案中,还可利用咱过去的和/或未来的帧和/或窗口的内部传递函数来确定当前帧的内部传递函数。在一些实施方案中,可实施多通道方法,其中考虑了在先前的通道中预先选择的内部传递函数的行为和性能,以调谐后续的内部传递函数,从而实现更高的编码效率和给定最终传递函数目标的更好呈现。
在一些实施方案中,可基于正在进行编码的视频数据的特征来确定并调整内部传递函数(例如,范围、类型、位深度等)。在一些实施方案中,在选择和/或调整内部传递函数时还可考虑所关注的信号的特定传递函数的压缩能力或特征。在一些实施方案中,除此之外或作为替代,可基于一个或多个目标显示器和它们的特征或限制来确定并调整内部传递函数。例如,如果已知当前的目标显示器与由一级传递函数支持的动态范围相比具有有限的动态范围,则在编码的压缩信号中包含除目标显示器范围之外的值可能毫无意义。相反,可确定可将信号提供到显示器的动态范围的最佳拟合的内部传递函数表示,这可允许针对该特定显示器能力来实现信号的更好的压缩表示。在一些实施方案中,如果将由编解码器支持多个显示器,则可为显示器选择动态范围,并且可确定提供对选定动态范围的最佳拟合的内部传递函数表示。例如,可选择能力最佳的显示器(例如,具有最高动态范围),并且可将其动态范围用于调整内部传递函数来为所有显示器生成视频输出。又如,可基于定价模式来选择动态范围,在该定价模式中可对显示器的一个或多个特征(例如,动态范围)进行加权(例如,基于显示器的根据重要性或其他因素而确定的或指示的排序)。
如本文所述的用于视频编码和解码系统或编解码器的自适应传递函数方法的实施方案可提供发信号通知(从编码器)和支持(从编码器和解码器)扩展动态范围或高动态范围的功能,同时将编解码器的复杂性(例如,位深度)保持在合理范围内。这可通过在区域、帧、场景或序列水平上动态地确定聚焦范围、将输入数据裁剪到聚焦范围、并将经剪裁的数据从输入视频的位深度映射到编解码器的位深度来实现,同时在区域、帧、场景或序列水平上从编码器向解码器发信号通知适当的参数(例如,聚焦范围、量化参数等),使得动态范围可被扩展到支持HDR的显示器的全范围。另外,在一些实施方案中,当使用不同的传递函数表示来对不同帧进行编码时,可发信号通知用于执行加权参数的适当参数(例如,权重等)。
示例性设备和装置
图10至图14示出了设备和装置的非限制性示例,在这些设备和装置中或利用这些设备和装置,可实现如本文所述的各种数字视频或图像处理和显示方法及装置的实施方案或部件。图10示出了示例性SOC,并且图11示出了实现SOC的示例性设备。图12示出了可实现本文所述的方法和装置的示例性计算机系统。图13和图14示出了可实现本文所述的方法和装置的示例性多功能设备。
示例性片上系统(SOC)
现在参见图10,其示出了可在实施方案中使用的片上系统(SOC)8000的一个实施方案的框图。SOC 8000被图示为耦接到存储器8800。正如其名称所暗示的,SOC 8000的部件可被集成到单个半导体基板上作为集成电路“芯片”。在一些实施方案中,这些部件可在系统中的两个或更多个分立芯片上实现。然而,SOC 8000在本文中将用作示例。在例示的实施方案中,SOC 8000的部件包括中央处理单元(CPU)复合体8020、片上外围部件8040A-8040C(更简洁地称为“外围设备”)、存储器控制器(MC)8030和通信结构8010。部件8020,8030,8040A-8040C可全部耦接到通信结构8010。存储器控制器8030可在使用期间耦接到存储器8800,并且外围设备8040B可在使用期间耦接到外部接口8900。在例示的实施方案中,CPU复合体8020包括一个或多个处理器(P)8024和二级(L2)高速缓存8022。
外围设备8040A-8040B可以是被包括在SOC 8000中的附加硬件功能的任何集合。例如,该外围设备8040A-8040B可包括视频外围设备,诸如被配置为处理来自相机或其他图像传感器的图像捕捉数据的图像信号处理器、被配置为在一个或多个显示设备上显示视频数据的显示控制器、图形处理单元(GPU)、视频编码器/解码器或编解码器、缩放器、旋转器、混合器等。该外围设备可包括音频外围设备,诸如麦克风、扬声器、至麦克风和扬声器的接口、音频处理器、数字信号处理器、混合器等。该外围设备可包括用于SOC 8000外部的各种接口8900的外围设备接口控制器(例如外围设备8040B),这些接口包括接口诸如通用串行总线(USB)端口、外围部件互连(PCI)端口(包括PCI高速(PCIe)端口)、串行端口、并行端口等。该外围设备可包括联网外围设备诸如媒体访问控制器(MAC)。可包括硬件的任何集合。
CPU复合体8020可包括用作SOC 8000的CPU的一个或多个CPU处理器8024。该系统的CPU包括执行系统主要控制软件诸如操作系统的一个或多个处理器。通常,由CPU在使用期间执行的软件可控制系统的其他部件,以实现系统的所期望的功能。该处理器8024还可执行其他软件诸如应用程序。该应用程序可为用户提供功能,并且可依赖于操作系统以用于更低级的设备控制。因此,该处理器8024也可被称为应用处理器。CPU复合体8020可进一步包括其他硬件,诸如L2高速缓存8022和/或至系统的其他部件的接口(例如至通信结构8010的接口)。通常,处理器可包括被配置为执行在由处理器实施的指令集架构中定义的指令的任何电路和/或微码。响应于执行指令而由处理器操作的指令和数据通常可被存储在存储器8800中,尽管某些指令可被定义为也对外围设备进行直接处理器访问。处理器可涵盖在具有作为片上系统(SOC 8000)或其他集成水平的集成电路的其他部件上实施的处理器内核。处理器可进一步包括分立的微处理器、处理器内核和/或集成到多芯片模块具体实施中的微处理器、被实施为多个集成电路的处理器等。
该存储器控制器8030通常可包括用于接收来自SOC 8000的其他部件的存储器操作并用于访问存储器8800以完成存储器操作的电路。该存储器控制器8030可被配置为访问任何类型的存储器8800。例如,该存储器8800可以是静态随机存取存储器(SRAM)、动态RAM(DRAM),诸如包括双倍数据速率(DDR、DDR2、DDR3等)DRAM的同步DRAM(SDRAM)。可支持DDRDRAM的低功率/移动版本(例如,LPDDR、mDDR等)。该存储器控制器8030可包括存储器操作队列,以用于对这些操作进行排序(并且可能重新排序),并将这些操作呈现至存储器8800。该存储器控制器8030还可包括用于存储等待写到存储器的写数据和等待返回至存储器操作的源的读数据的数据缓冲器。在一些实施方案中,该存储器控制器8030可包括用于存储最近访问的存储器数据的存储器高速缓存。例如,在SOC具体实施中,该存储器高速缓存可通过在预期很快要再次访问的情况下避免从存储器8800重新访问数据来降低SOC中的功率消耗。在一些情况下,该存储器高速缓存也可被称为系统高速缓存,其与私有高速缓存(诸如L2高速缓存8022或处理器8024中的高速缓存)不同,该私有高速缓存仅服务于某些部件。此外,在一些实施方案中,系统高速缓存不需要位于存储器控制器8030内。
在一个实施方案中,该存储器8800可以芯片上芯片配置或封装上封装配置来与SOC 8000一起被封装。也可使用SOC 8000和存储器8800的多芯片模块配置。此类配置可比向系统中其他部件(例如向端点16A-16B)的传输相对更安全(在数据可观测性方面)。因此,受保护的数据可未经加密地驻留在存储器8800中,而受保护的数据可被加密以在SOC 8000与外部端点之间进行交换。
通信结构8010可以是用于在SOC 8000的部件间进行通信的任何通信互连器和协议。该通信结构8010可为基于总线的,包括共享总线配置、交叉开关配置、和具有桥的分层总线。该通信结构8010也可为基于分组的,并且可以是具有桥的分层、交叉开关、点到点、或其他互连器。
需注意,SOC 8000的部件的数量(以及图10所示(诸如CPU复合体8020内)的那些部件的子部件的数量)在不同实施方案中可能是不同的。可存在比图10所示的数量更多或更少的每种部件/子部件。
图11是系统9000的一个实施方案的框图,该系统包括耦接到外部存储器8800和一个或多个外部外围设备9020的SOC 8000的至少一个实例。提供向SOC 8000供应供电电压以及向存储器8800和/或外围设备9020供应一个或多个供电电压的功率管理单元(PMU)9010。在一些实施方案中,可包括SOC 8000的多于一个实例(也可包括多于一个存储器8800)。
根据系统9000的类型,该外围设备9020可包括任何期望的电路。例如,在一个实施方案中,该系统9000可以是移动设备(例如个人数字助理(PDA)、智能电话等),并且该外围设备9020可包括用于各种类型的无线通信的设备,诸如wifi、蓝牙、蜂窝、全球定位系统等。该外围设备9020还可包括附加存储装置,该附加存储装置包括RAM存储装置、固态存储装置或磁盘存储装置。该外围设备9020可包括用户界面设备(诸如包括触摸显示屏或多点触摸显示屏的显示屏)、键盘或其他输入设备、麦克风、扬声器等。在其他实施方案中,该系统9000可以是任何类型的计算系统(例如台式个人计算机、膝上型电脑、工作站、网络机顶盒等)。
该外部储存器8800可包括任何类型的存储器。例如,该外部存储器8800可以是SRAM、动态RAM(DRAM)(诸如同步DRAM(SDRAM))、双倍数据速率(DDR、DDR2、DDR3等)SDRAM、RAMBUS DRAM、低功率版本的DDRDRAM(例如LPDDR、mDDR等)等等。该外部存储器8800可包括存储器设备可被安装到的一个或多个存储器模块,诸如单列存储器模块(SIMM)、双列存储器模块(DIMM)等。另选地,该外部存储器8800可包括以芯片上芯片配置或封装上封装具体实施被安装在SOC 8000上的一个或多个存储器设备。
多功能设备示例
图13示出了根据一些实施方案的便携式多功能设备的框图。在一些实施方案中,该设备是还包含其他功能诸如PDA、相机、视频捕获和/或回放、以及/或者音乐播放器功能的便携式通信设备诸如移动电话。该便携式多功能设备的示例性实施方案包括但不限于来自Apple Inc.(Cupertino,California)的设备、iPod设备和设备。也可使用其他便携式电子设备,诸如具有触敏表面(例如,触摸屏显示器和/或触摸板)的膝上型电脑、移动电话、智能电话、平板电脑或平板计算机。还应当理解,在一些实施方案中,该设备并非便携式通信设备,而是具有触敏表面(例如,触摸屏显示器和/或触摸板)的台式计算机。在一些实施方案中,设备是具有取向传感器(例如游戏控制器中的取向传感器)的游戏计算机。在其他实施方案中,该设备不是便携式通信设备,而是相机和/或摄像机。
在下面的讨论中,描述了一种包括显示器和触敏表面的电子设备。然而应当理解,该电子设备可包括一个或多个其他物理用户接口设备,诸如物理键盘、鼠标和/或操作杆。
该设备通常支持各种应用程序,诸如以下各项中的一者或多者:绘图应用程序、呈现应用程序、文字处理应用程序、网站创建应用程序、盘编辑应用程序、电子表格应用程序、游戏应用程序、电话应用程序、视频会议应用程序、电子邮件应用程序、即时消息应用程序、健身支持应用程序、照片管理应用程序、数字相机应用程序、数字视频摄像机应用程序、web浏览应用程序、数字音乐播放器应用程序和/或数字视频播放器应用程序。
可在该设备上执行的各种应用程序可使用至少一个共用的物理用户界面设备诸如触敏表面。触敏表面的一种或多种功能以及被显示在设备上的对应信息可从一个应用程序被调节和/或改变到下一个应用程序,和/或在相应应用程序内可被调节和/或改变。这样,设备的共用物理架构(诸如触敏表面)可利用对于用户直观且透明的用户界面来支持各种应用程序。
设备2100可包括存储器2102(其可包括一个或多个计算机可读存储介质)、存储器控制器2122、一个或多个处理单元(CPU)2120、外围设备接口2118、RF电路2108、音频电路2110、扬声器2111、触敏显示系统2112、麦克风2113、输入/输出(I/O)子系统2106、其他输入控制设备2116和外部端口2124。设备2100可包括一个或多个光学传感器或相机2164。这些部件可通过一条或多条通信总线或信号线2103进行通信。
应当理解,设备2100只是便携式多功能设备的一个示例,并且设备2100可具有比所示出的更多或更少的部件,可组合两个或更多个部件,或者可具有这些部件的不同配置或布置。图13所示的各种部件可在硬件、软件或硬件和软件两者的组合中实现,其包括一个或多个信号处理电路和/或专用集成电路。
存储器2102可包括高速随机存取存储器并且还可包括非易失性存储器,诸如一个或多个磁盘存储设备、闪存存储器设备或其他非易失性固态存储器设备。设备2100的其他部件(例如,CPU 2120和外围设备接口2118)对存储器2102的访问可由存储器控制器2122来控制。
外围设备接口2118可被用于将设备的输入外围设备和输出外围设备耦接到CPU2120和存储器2102。该一个或多个处理器2120运行或执行被存储在存储器2102中的各种软件程序和/或指令集,以执行设备2100的各种功能并处理数据。
在一些实施方案中,外围设备接口2118、CPU 2120和存储器控制器2122可在单个芯片诸如芯片2104上实现。在一些其他实施方案中,它们可在单独的芯片上实现。
RF(射频)电路2108接收和发送也被叫做电磁信号的RF信号。RF电路2108将电信号转换为电磁信号/将电磁信号转换为电信号,并且经由电磁信号来与通信网络以及其他通信设备进行通信。RF电路2108可包括用于执行这些功能的熟知的电路,包括但不限于天线系统、RF收发器、一个或多个放大器、调谐器、一个或多个振荡器、数字信号处理器、编码器/解码器(编解码器)芯片组、用户身份模块(SIM)卡、存储器等等。RF电路2108可通过无线通信与网络以及其他设备进行通信,其中该网络诸如互联网(也称万维网(WWW))、内联网和/或无线网络(诸如蜂窝电话网络、无线局域网(LAN)和/或城域网(MAN))。该无线通信可使用多种通信标准、通信协议和通信技术中的任一者,包括但不限于全球移动通信系统(GSM)、增强数据GSM环境(EDGE)、高速下行链路分组接入(HSDPA)、高速上行链路分组接入(HSUPA)、宽带码分多址(W-CDMA)、码分多址(CDMA)、时分多址(TDMA)、蓝牙、无线保真(Wi-Fi)(例如,IEEE 802.11a、IEEE 802.11b、IEEE 802.11g和/或IEEE 802.11n)、互联网语音协议(VoIP)、Wi-MAX、电子邮件协议(例如,互联网消息访问协议(IMAP)和/或邮局协议(POP))、即时消息(例如,可扩展消息处理现场协议(XMPP)、用于即时消息和现场利用扩展的会话发起协议(SIMPLE)、即时消息和到场服务(IMPS)),以及/或者短消息服务(SMS),或包括在本文献提交日尚未开发出的通信协议的其他任何适当的通信协议。
音频电路2110、扬声器2111和麦克风2113提供用户和设备2100之间的音频接口。音频电路2110从外围设备接口2118接收音频数据,将音频数据转换为电信号,并将电信号传输到扬声器2111。扬声器2111将电信号转换为人耳可听见的声波。音频电路2110还接收由麦克风2113根据声波转换的电信号。音频电路2110将电信号转换为音频数据,并将音频数据传输到外围设备接口2118以进行处理。音频数据可由外围设备接口2118从存储器2102和/或RF电路2108进行检索和/或被传输至存储器和/或RF电路。在一些实施方案中,音频电路2110还包括耳麦插孔。该耳麦插孔提供音频电路2110与可移除的音频输入/输出外围设备之间的接口,该外围设备诸如仅输出的耳机或者具有输出(例如,单耳耳机或双耳耳机)和输入(例如,麦克风)两者的耳麦。
I/O子系统2106将设备2100上的输入/输出外围设备诸如触摸屏2112和其他输入控制设备2116耦接到外围设备接口2118。I/O子系统2106可包括显示控制器2156和用于其他输入控制设备2116的一个或多个输入控制器2160。该一个或多个输入控制器2160从其他输入控制设备2116接收电信号/将电信号发送到其他输入控制设备。其他输入控制设备2116可包括物理按钮(例如,下压按钮、摇臂按钮等)、拨号盘、滑块开关、操纵杆、点击轮等。在一些另选的实施方案中,一个或多个输入控制器2160可耦接到(或不耦接到)以下各项中的任一者:键盘、红外端口、USB端口、和指向设备诸如鼠标。该一个或多个按钮可包括用于控制扬声器2111和/或麦克风2113的音量的增大/减小按钮。该一个或多个按钮可包括下压按钮。
触敏显示器2112提供设备与用户之间的输入接口和输出接口。显示控制器2156从触摸屏2112接收电信号和/或将电信号发送至触摸屏。触摸屏2112向用户显示视觉输出。该视觉输出可包括图形、文本、图标、视频及它们的任何组合(被统称为“图形”)。在一些实施方案中,一些视觉输出或全部的视觉输出可对应于用户界面对象。
触摸屏2112具有基于触觉和/或触感接触来接受来自用户的输入的触敏表面、传感器或传感器组。触摸屏2112和显示控制器2156(与存储器2102中的任何相关联的模块和/或指令集一起)检测触摸屏2112上的接触(和该接触的任何移动或中断),并且将所检测到的接触转换为与被显示在触摸屏2112上的用户界面对象(例如,一个或多个软键、图标、网页或图像)的交互。在一个示例性实施方案中,触摸屏2112与用户之间的接触点对应于用户的手指。
触摸屏2112可使用LCD(液晶显示器)技术、LPD(发光聚合物显示器)技术或LED(发光二极管)技术,但在其他实施方案中可使用其他显示技术。触摸屏2112和显示控制器2156可使用现在已知的或以后将开发出的多种触摸感测技术中的任一种触摸感测技术以及其他接近传感器阵列或用于确定与触摸屏2112的一个或多个接触点的其他元件来检测接触及其任何移动或中断,该多种触摸感测技术包括但不限于电容性技术、电阻性技术、红外技术和表面声波技术。在一个示例性实施方案中,使用投射式互电容感测技术,诸如从AppleInc.(Cupertino,California)的iPod 中发现的技术。
触摸屏2112可具有超过100dpi的视频分辨率。在一些实施方案中,该触摸屏具有约160dpi的视频分辨率。用户可使用任何合适的物体或附加物诸如触笔、手指等等来与触摸屏2112接触。在一些实施方案中,用户界面被设计用于主要与基于手指的接触和手势工作,由于手指在触摸屏上的接触区域较大,因此这可能不如基于触笔的输入精确。在一些实施方案中,设备将基于手指的粗略输入翻译为精确的指针/光标位置或命令,以用于执行用户所期望的动作。
在一些实施方案中,除了触摸屏2112之外,设备2100可包括用于激活或去激活特定功能的触摸板(未示出)。在一些实施方案中,触摸板是设备的触敏区域,该触敏区域与触摸屏不同,其不显示视觉输出。该触摸板可以是与触摸屏2112分开的触敏表面,或者是由触摸屏形成的触敏表面的延伸部分。
设备2100还包括用于为各种部件供电的电力系统2162。电力系统2162可包括电力管理系统、一个或多个电源(例如,电池、交流电(AC))、再充电系统、电力故障检测电路、功率转换器或逆变器、电源状态指示器(例如,发光二极管(LED)),以及与便携式设备中的电力的生成、管理和分配相关联的任何其他部件。
设备2100还可包括一个或多个光学传感器或相机2164。图13示出了耦接到I/O子系统2106中的光学传感器控制器2158的光学传感器。光学传感器2164可例如包括电荷耦合器件(CCD)、或者互补金属氧化物半导体(CMOS)光电晶体管或光传感器。光学传感器2164从环境接收通过一个或多个透镜而投射的光,并且将该光转换为表示图像的数据。与成像模块2143(也称相机模块)相结合,光学传感器2164可捕获静态图像和/或视频序列。在一些实施方案中,至少一个光学传感器可位于设备2100的与该设备的前部的触摸屏显示器2112相背对的后部。在一些实施方案中,触摸屏显示器可用作取景器,以用于采集静态图像和/或视频图像。在一些实施方案中,作为替代或补充,至少一个光学传感器可位于设备的前部。
设备2100还可包括一个或多个接近传感器2166。图13示出了耦接到外围设备接口2118的接近传感器2166。作为另外一种选择,接近传感器2166可耦接到I/O子系统2106中的输入控制器2160。在一些实施方案中,当多功能设备被置于用户耳朵附近时(例如,用户正在打电话时),接近传感器关闭并禁用触摸屏2112。
设备2100还可包括一个或多个取向传感器2168。在一些实施方案中,该一个或多个取向传感器包括一个或多个加速度计(例如,一个或多个线性加速度计和/或一个或多个旋转加速度计)。在一些实施方案中,该一个或多个取向传感器包括一个或多个陀螺仪。在一些实施方案中,该一个或多个取向传感器包括一个或多个磁力仪。在一些实施方案中,该一个或多个取向传感器包括全球定位系统(GPS)、全球导航卫星系统(GLONASS)、和/或其他全球导航系统接收器中的一个或多个。GPS、GLONASS和/或其他全球导航系统接收器可用于获得关于设备2100的位置和取向(例如纵向或横向)的信息。在一些实施方案中,该一个或多个取向传感器包括取向传感器/旋转传感器的任何组合。图13示出了耦接到外围设备接口2118的一个或多个取向传感器2168。作为另外一种选择,该一个或多个取向传感器2168可耦接到I/O子系统2106中的输入控制器2160。在一些实施方案中,信息基于对从一个或多个取向传感器接收的数据的分析而在触摸屏显示器上以纵向视图或横向视图被显示。
在一些实施方案中,设备2100还可包括一个或多个其他传感器(未示出),包括但不限于环境光线传感器和运动检测器。这些传感器可耦接到外围设备接口2118,或者可耦接到I/O子系统2106中的输入控制器2160。例如,在一些实施方案中,设备2100可包括至少一个前向(远离使用者)光传感器和至少一个后向(朝向使用者)光传感器,这些光传感器可用于从设备2100所处的环境收集环境光线量度,以用于视频与图像采集、处理和显示应用程序使用。
在一些实施方案中,被存储在存储器2102中的软件部件包括操作系统2126、通信模块2128、接触/运动模块(或指令集)2130、图形模块2132、文本输入模块2134、全球定位系统(GPS)模块2135和应用程序2136。此外,在一些实施方案中,存储器2102存储设备/全局内部状态2157。设备/全局内部状态2157包括以下各项中的一者或多者:活动应用程序状态,该活动应用程序状态用于指示哪些应用程序(如果有的话)当前是活动的;显示状态,该显示状态用于指示什么应用程序、视图或其他信息占据触摸屏显示器2112的各个区域;传感器状态,该传感器状态包括从设备的各个传感器和输入控制设备2116获得的信息;和关于设备位置和/或姿态的位置信息。
操作系统2126(例如,Darwin、RTXC、LINUX、UNIX、OS X、WINDOWS、或嵌入式操作系统诸如VxWorks)包括用于控制和管理一般系统任务(例如,存储器管理、存储设备控制、功率管理等)的各种软件部件和/或驱动器,并且有利于各种硬件部件和软件部件之间的通信。
通信模块2128有利于通过一个或多个外部端口2124来与其他设备进行通信,并且还包括用于处理由RF电路2108和/或外部端口2124所接收的数据的各种软件部件。外部端口2124(例如通用串行总线(USB)、火线等)适于直接耦接到其他设备,或间接地通过网络(例如互联网、无线LAN等)耦接。在一些实施方案中,外部端口是与iPod(Apple Inc.的商标)设备上所使用的30针连接器相同的或类似的和/或与其兼容的多针(例如,30针)连接器。
接触/运动模块2130可检测与触摸屏2112(结合显示控制器2156)和其他触敏设备(例如,触摸板或物理点击轮)的接触。接触/运动模块2130包括多个软件部件以用于执行与接触的检测相关的各种操作,诸如确定是否已发生接触(例如,检测手指按下事件)、确定是否存在接触的移动并在触敏表面上跟踪该移动(例如,检测一个或多个手指拖动事件)、以及确定接触是否已终止(例如,检测手指抬起事件或者接触中断)。接触/运动模块2130从触敏表面接收接触数据。确定接触点的移动可包括确定接触点的速率(量值)、速度(量值和方向)、和/或加速度(量值和/或方向的改变),接触点的移动由一系列接触数据来表示。这些操作可被施加于单个触点(例如,一个指状触点)或多个同时的触点(例如,“多点触摸”/多个指状触点)。在一些实施方案中,接触/运动模块2130和显示控制器2156检测触摸板上的接触。
接触/运动模块2130可检测用户的手势输入。触敏表面上的不同手势具有不同的接触图案。因此,可通过检测具体接触图案来检测手势。例如,检测单指轻击手势包括检测手指按下事件,然后在与手指按下事件相同的位置(或基本上相同的位置)处(例如,在图标位置处)检测手指抬起(抬离)事件。又如,检测触敏表面上的手指轻扫手势包括检测手指按下事件,然后检测一个或多个手指拖动事件,并且随后检测手指抬起(抬离)事件。
图形模块2132包括用于在触摸屏2112或其他显示器上渲染和显示图形的各种软件部件,包括用于改变被显示图形的强度的部件。如本文所用,术语“图形”包括可被显示给用户的任何对象,包括但不限于文本、网页、图标(诸如包括软键的用户界面对象)、数字图像、视频、动画等。
在一些实施方案中,图形模块2132存储将要用于表示图形的数据。每个图形可被分配有对应的代码。图形模块2132从应用程序等接收指定待显示的图形的一个或多个代码,在必要的情况下还一起接收坐标数据和其他图形属性数据,然后生成屏幕图像数据以输出至显示控制器2156。
可作为图形模块2132的部件的文本输入模块2134提供用于在需要文本输入的多种应用程序中输入文本的软键盘。
GPS模块2135确定设备的位置,并向各种应用程序提供这种信息供其使用(例如,提供给电话模块2138,供其在基于位置拨号的过程中使用;提供给相机模块2143,作为图片/视频元数据;提供给用于提供基于位置的服务的应用程序诸如地图/导航应用程序)。
应用程序2136可包括但不限于下列一种或多种模块(或指令集),或它们的子集或超集:
·电话模块2138;
·视频会议模块2139;
·用于静态成像和/或视频成像的相机模块2143;
·图像管理模块2144;
·浏览器模块2147;
·搜索模块2151;
·视频和音乐播放器模块2152,其可由视频播放器模块和音乐播放器模块构成;和/或
·在线视频模块2155。
可被存储在存储器2102中的其他应用程序2136的示例包括但不限于其他文字处理应用程序、其他图像编辑应用程序、绘图应用程序、呈现应用程序、通信/社交媒体应用程序、地图应用程序、支持JAVA的应用程序、加密应用程序、数字权益管理应用程序、语音识别应用程序和语音复制应用程序。
结合RF电路2108、音频电路2110、扬声器2111、麦克风2113、触摸屏2112、显示控制器2156、接触模块2130、图形模块2132和文本输入模块2134,电话模块2138可用于输入与电话号码对应的字符序列、访问地址簿中的一个或多个电话号码、修改已输入的电话号码、拨打相应的电话号码、进行会话,以及在会话完成时断开或挂断。如上所述,该无线通信可使用多种通信标准、协议和技术中的任一者。
结合RF电路2108、音频电路2110、扬声器2111、麦克风2113、触摸屏2112、显示控制器2156、光学传感器2164、光学传感器控制器2158、接触/运动模块2130、图形模块2132、文本输入模块2134和电话模块2138,视频会议模块2139包括根据用户指令发起、进行和终止用户与一个或多个其他参与者之间的视频会议的可执行指令。
结合触摸屏2112、显示控制器2156、一个或多个光学传感器2164、光学传感器控制器2158、接触/运动模块2130、图形模块2132和图像管理模块2144,相机模块2143包括用于以下操作的可执行指令:捕获静态图像或视频(包括视频流)并且将它们存储到存储器2102中、修改静态图像或视频的特征、或从存储器2102删除静态图像或视频。
结合触摸屏2112、显示控制器2156、接触/运动模块2130、图形模块2132、文本输入模块2134、和相机模块2143,图像管理模块2144包括用于排列、修改(例如,编辑)、或以其他方式操控、加标签、删除、呈现(例如,在数字幻灯片或相册中)、以及存储静态图像和/或视频图像的可执行指令。
结合RF电路2108、触摸屏2112、显示系统控制器2156、接触/运动模块2130、图形模块2132和文本输入模块2134,浏览器模块2147包括用于根据用户指令来浏览互联网(包括搜索、链接至、接收和显示网页或其部分,以及链接至网页的附件和其他文件)的可执行指令。
结合触摸屏2112、显示系统控制器2156、接触/运动模块2130、图形模块2132和文本输入模块2134,搜索模块2151包括用于根据用户指令来搜索存储器2102中的匹配一个或多个搜索条件(例如,用户指定的一个或多个检索词)的文本、音乐、声音、图像、视频和/或其他文件的可执行指令。
结合触摸屏2112、显示系统控制器2156、接触/运动模块2130、图形模块2132、音频电路2110、扬声器2111、RF电路2108和浏览器模块2147,视频和音乐播放器模块2152包括允许用户下载和回放以一种或多种文件格式(诸如MP3或AAC文件)存储的所记录的音乐和其他声音文件的可执行指令,以及用于显示、呈现或以其他方式回放视频(例如,在触摸屏2112上或在经由外部端口2124连接的外部显示器上)的可执行指令。在一些实施方案中,设备2100可包括MP3播放器诸如iPod(Apple Inc.的商标)的功能。
结合触摸屏2112、显示系统控制器2156、接触/运动模块2130、图形模块2132、音频电路2110、扬声器2111、RF电路2108、文本输入模块2134和浏览器模块2147,在线视频模块2155包括指令,所述指令允许用户访问、浏览、接收(例如,通过流式传输和/或下载)、回放(例如,在触摸屏上或在经由外部端口2124连接的外部显示器上)以及通过其他方式管理一种或多种视频格式诸如H.264/AVC格式或H.265/HEVC格式的在线视频。
上述所识别的每个模块和应用对应于用于执行上述一种或多种功能以及在本申请中所描述的方法(例如,本文中所描述的计算机实现的方法和其他信息处理方法)的一组可执行指令。这些模块(即指令集)不必被实现为独立的软件程序、过程或模块,因此这些模块的各种子集可在各种实施方案中加以组合或以其他方式重新布置。在一些实施方案中,存储器2102可存储上文识别的模块和数据结构的子集。此外,存储器2102可存储上文没有描述的附加模块和数据结构。
在一些实施方案中,设备2100是唯一地通过触摸屏和/或触摸板来执行设备上的一组预定义功能的操作的设备。通过使用触摸屏和/或触摸板作为用于设备2100的操作的主要输入控制设备可减少设备2100上的物理输入控制设备(诸如下压按钮、拨号盘等等)的数量。
可唯一地通过触摸屏和/或触摸板执行的该组预定义功能包括用户界面之间的导航。在一些实施方案中,触摸板在被用户触摸时将设备2100从可显示在设备2100上的任何用户界面导航到主菜单、home菜单或根菜单。在此类实施方案中,触摸板可被称为“菜单按钮”。在一些其他实施方案中,菜单按钮可以是物理下压按钮或者其他物理输入控制设备,而不是触摸板。
图14示出了根据一些实施方案的具有触摸屏2112的便携式多功能设备2100。触摸屏可在用户界面(UI)2200内显示一个或多个图形。在设备2100的至少一些实施方案中,用户可例如利用一个或多个手指2202(在附图中未必按比例绘制)或者利用一个或多个触笔2203(在附图中未必按比例绘制)在图形上作出手势来选择这些图形中的一个或多个图形。
设备2100还可包括一个或多个物理按钮,诸如“home”按钮或菜单按钮2204。如前所述,菜单按钮2204可用于导航到可在设备2100上执行的一组应用程序中的任何应用程序2136。作为另外一种选择,在一些实施方案中,菜单按钮可被实现为被显示在触摸屏2112上的GUI中的软键。
在一个实施方案中,设备2100包括触摸屏2112、home按钮或菜单按钮2204、用于为设备开关机和锁定设备供电的下压按钮2206、一个或多个音量调节按钮2208、用户身份模块(SIM)卡槽2210、耳麦插孔2212和对接/充电外部端口2124。下压按钮2206可用于通过按下该按钮并在预定时间间隔内使该按钮保持在按下状态来开启/关闭设备上的电源、用于通过按下该按钮并在经过预定时间间隔之前释放该按钮来锁定设备、和/或用于将设备解锁或发起解锁过程。在另选的实施方案中,设备2100还可通过麦克风2113来接受用于激活或去激活一些功能的语音输入。
设备2100还可包括一个或多个相机2164。相机2164可例如包括电荷耦合器件(CCD)、或者互补金属氧化物半导体(CMOS)光电晶体管或光传感器。相机2164从环境接收通过一个或多个透镜而投射的光,并将光转换为表示图像或视频帧的数据。在一些实施方案中,至少一个相机2164可位于设备2100的与该设备前部的触摸屏显示器2112相背对的后部。在一些实施方案中,作为替代或补充,至少一个相机2164可位于具有触摸屏显示器2112的设备的前部,例如使得用户在触摸屏显示器2112上观看其他视频会议参与者的同时可获得该用户的图像以用于视频会议。在一些实施方案中,至少一个相机2164可位于设备2100的前部,并且至少一个相机2164可位于设备2100的后部。在一些实施方案中,触摸屏显示器2112可用作静态图像和/或视频序列采集应用程序的取景器和/或用户界面。
设备2100可包括视频与图像处理硬件和/或软件,包括但不限于可用于捕捉、处理、转换、压缩、解压缩、存储、修改、传输、显示、以其他方式管理和操纵经由相机2164捕获或以其他方式采集(例如,经由网络接口)的静态图像和/或视频帧或视频序列的视频编码和/或解码部件、编解码器、模块或流水线。在一些实施方案中,设备2100还可包括一个或多个光传感器或其他传感器,这些传感器可用于从设备2100所处的环境收集环境光线量度或其他量度,以用于视频与图像采集、处理和显示使用。
示例性计算机系统
图12示出了可被配置为执行上文所述的任意或全部实施方案的示例性计算机系统2900。在不同的实施方案中,计算机系统2900可以是各种类型的设备中的任一种设备,包括但不限于:个人计算机系统、台式计算机、膝上型电脑、笔记本电脑、平板电脑、一体电脑或上网本计算机、大型计算机系统、手持式计算机、工作站、网络计算机、相机、机顶盒、移动设备、消费者设备、应用服务器、存储设备、视频记录设备、外围设备(诸如交换机、调制解调器、路由器),或一般性的任何类型的计算设备或电子设备。
可在一个或多个可与各种其他设备交互的计算机系统2900内执行如本文所述的各种实施方案。需注意,根据各种实施方案,上文结合图1至图11描述的任何部件、动作或功能都可在被配置为图12所示计算机系统2900的一种或多种计算机上实现。在例示的实施方案中,计算机系统2900包括经由输入/输出(I/O)接口2930耦接到系统存储器2920的一个或多个处理器2910。计算机系统2900还包括耦接到I/O接口2930的网络接口2940,以及一个或多个输入/输出设备或部件2950,诸如光标控件2960、键盘2970、一个或多个显示器2980、一个或多个相机2990和一个或多个传感器2992,包括但不限于光传感器和运动检测器。在一些情况下,可设想到实施方案可使用计算机系统2900的单个实例来实现,而在其他实施方案中,多个此类系统或者构成计算机系统2900的多个节点可被配置为托管实施方案的不同部分或实例。例如,在一个实施方案中,一些元素可经由计算机系统2900的与实现其他元素的那些节点不同的一个或多个节点来实现。
在各种实施方案中,计算机系统2900可以是包括一个处理器2910的单处理器系统、或者包括若干个处理器2910(例如两个、四个、八个或其他合适数量)的多处理器系统。处理器2910可以是能够执行指令的任何合适的处理器。例如,在各种实施方案中,处理器2910可以是实现多种指令集架构(ISA)(诸如x829、PowerPC、SPARC或MIPS ISA,或任何其他合适的ISA)中的任一指令集架构的通用处理器或嵌入式处理器。在多处理器系统中,每个处理器2910通常可以但并非必须实现相同的ISA。
系统存储器2920可被配置为存储可被处理器2910访问的程序指令2922和/或数据。在各种实施方案中,系统存储器2920可使用任何适当的存储器技术来实现,诸如静态随机存取存储器(SRAM)、同步动态RAM(SDRAM)、非易失性/闪存存储器,或任何其他类型的存储器。在例示的实施方案中,程序指令2922可被配置为实现本文所述的功能中的任一种功能。此外,存储器2920可包括本文所述的信息结构或数据结构中的任一者。在一些实施方案中,程序指令和/或数据可被接收、发送或存储在独立于系统存储器2920或计算机系统2900的不同类型的计算机可访问介质上或类似介质上。尽管将计算机系统2900描述为实施前面各图的功能框的功能,但可经由此类计算机系统来实现本文所述的功能中的任一种功能。
在一个实施方案中,I/O接口2930可被配置为协调设备中的处理器2910、系统存储器2920和任何外围设备(包括网络接口2940或其他外围设备接口,诸如输入/输出设备2950)之间的I/O通信。在一些实施方案中,I/O接口2930可执行任何必要的协议、定时或其他数据转换,以将来自一个部件(例如,系统存储器2920)的数据信号转换成适于由另一个部件(例如,处理器2910)使用的格式。在一些实施方案中,I/O接口2930可包括对例如通过各种类型的外围设备总线诸如外围部件互连(PCI)总线标准或通用串行总线(USB)标准的变型所附接的设备的支持。在一些实施方案中,I/O接口2930的功能例如可被划分到两个或更多个单独部件中,诸如北桥和南桥。此外,在一些实施方案中,I/O接口2930(诸如到系统存储器2920的接口)的一些或所有功能可被直接并入到处理器2910中。
网络接口2940可被配置为允许在计算机系统2900和附接到网络2985的其他设备(例如承载器或代理设备)之间、或者在计算机系统2900的节点之间交换数据。在各种实施方案中,网络2985可包括一种或多种网络,包括但不限于:局域网(LAN)(例如以太网或企业网)、广域网(WAN)(例如互联网)、无线数据网、某种其他电子数据网络、或它们的某种组合。在各种实施方案中,网络接口2940可支持经由有线或无线通用数据网络进行通信,诸如任何合适类型的以太网;经由电信/电话网络进行通信,诸如模拟语音网络或数字光纤通信网络;经由存储区域网络进行通信,诸如光纤通道SAN,或经由任何其他合适类型的网络和/或协议进行通信。
输入/输出设备2950在一些实施方案中可包括一个或多个显示终端、键盘、小键盘、触摸板、扫描设备、语音或光学识别设备,或适于由一个或多个计算机系统2900输入或访问数据的任何其他设备。多个输入/输出设备2950可存在于计算机系统2900中,或者可被分布在计算机系统2900的各个节点上。在一些实施方案中,类似的输入/输出设备可与计算机系统2900分开,并且可通过有线或无线连接诸如通过网络接口2940与计算机系统2900的一个或多个节点进行交互。
如图12所示,存储器2920可包含程序指令2922,该程序指令可能可由处理器执行,以实现上文所述的任何元素或动作。在一个实施方案中,该程序指令可实现上文所述的方法。在其他实施方案中,可包括不同的元件和数据。需注意,数据可包括上文所述的任何数据或信息。
本领域的技术人员应当理解,计算机系统2900仅仅是例示性的,而并非旨在限制实施方案的范围。特别地,计算机系统和设备可包括可执行所指出的功能的硬件或软件的任意组合,包括计算机、网络设备、互联网设备、个人数字助理、无线电话、寻呼机等等。计算机系统2900还可被连接到未示出的其他设备或者反之作为独立的系统进行操作。此外,由所示出的部件提供的功能在一些实施方案中可被组合在更少的部件中,或可被分布在附加部件中。类似地,在一些实施方案中,一些所示出的部件的功能可不被提供,和/或可提供其他附加功能。
本领域的技术人员还将认识到,虽然各种项目被示出为在使用期间被存储在存储器中或存储装置上,但是为了存储器管理和数据完整性的目的,这些项目或其部分可在存储器和其他存储设备之间进行传输。或者,在其他实施方案中,软件部件中的一些或全部软件部件可在另一设备上的存储器中执行,并且经由计算机间通信与所示出的计算机系统进行通信。系统部件或数据结构中的一些或全部系统部件或数据结构也可(例如作为指令或结构化数据)被存储在计算机可访问介质或便携式制品上,以便由合适的驱动器读取,其多种示例在上文中进行了描述。在一些实施方案中,被存储在与计算机系统2900分开的计算机可访问介质上的指令可经由传输介质或信号(诸如电信号、电磁信号、或数字信号)被传输到计算机系统2900,所示传输介质或信号经由通信介质(诸如网络和/或无线链路)来传送。各种实施方案可进一步包括在计算机可访问介质上接收、发送或存储根据以上描述所实现的指令和/或数据。一般来讲,计算机可访问介质可包括非暂态计算机可读存储介质或存储器介质,诸如磁或光介质,例如盘或DVD/CD-ROM、易失性或非易失性介质,诸如RAM(例如SDRAM、DDR、RDRAM、SRAM等)、ROM等。在一些实施方案中,计算机可访问介质可包括传输介质或信号,诸如经由通信介质诸如网络和/或无线链路来传输的电气信号、电磁信号或数字信号。
在不同的实施方案中,本文所述的方法可在软件、硬件或它们的组合中实现。此外,可改变方法的方框次序,可对各种要素进行添加、重新排序、组合、省略、修改等。对于受益于本公开的本领域的技术人员而言,显然可作出各种修改和改变。本文所述的各种实施方案旨在为示例性的而非限制性的。许多变型、修改、添加和改进是可能的。因此,可为本文中描述为单个实例的部件提供多个实例。各种部件、操作和数据存储装置之间的界限在一定程度上是任意性的,并且在具体例示性配置的上下文中例示了特定操作。设想了功能的其他分配,它们可落在所附权利要求的范围内。最后,被呈现为示例性配置中的分立部件的结构和功能可被实现为组合结构或部件。这些和其他变型、修改、添加和改进可落在所附权利要求所限定的实施方案的范围内。

Claims (20)

1.一种系统,包括:
视频编码器,包括:
处理流水线,所述处理流水线被配置为根据编码格式来处理视频数据以生成经编码的视频数据,其中所述经编码的视频数据在所述处理流水线内以C位的位深度使用内部传递函数的代码值来表示;和
自适应传递函数部件,被配置为:
接收以N位的位深度使用传递函数的代码值的输入视频数据,其中N大于C;
至少部分地基于所述输入视频数据的一个或多个特征来确定所述输入视频数据的聚焦动态范围,其中所述聚焦动态范围小于所述输入视频数据的总动态范围从而所述输入视频数据的一个或多个代码值在所述聚焦动态范围之外,并且其中所述聚焦动态范围能以C位的位深度由所述内部传递函数的代码值表示;
将所述输入视频数据裁剪到所述聚焦动态范围以生成经裁剪的N位视频数据使得所述经裁剪的N位视频数据不包括所述输入视频数据的在所述聚焦动态范围之外的所述一个或多个代码值;
根据所述处理流水线的所述内部传递函数映射所述经裁剪的N位视频数据以生成C位视频数据;并且
将所述C位视频数据输出到所述处理流水线以用于处理。
2.根据权利要求1所述的系统,其中所述自适应传递函数部件被配置为针对一个或多个视频帧中的每个视频帧,针对两个或更多个视频帧的一个或多个序列中的每个序列,或针对一个或多个视频帧中的每个视频帧内的两个或更多个区域来执行所述接收、所述确定、所述裁剪、所述映射、以及所述输出。
3.根据权利要求1所述的系统,其中所述处理流水线中使用的所述内部传递函数不同于用来表示所述输入视频数据的所述传递函数。
4.根据权利要求1所述的系统,其中,为了确定所述输入视频数据的所述聚焦动态范围,所述自适应传递函数部件被配置为至少部分地根据来自所述处理流水线先前处理的一个或多个视频帧或者来自所述处理流水线正在处理的当前视频帧的一个或多个先前处理的部分的参考视频数据的一个或多个特征来确定所述输入视频数据的所述聚焦动态范围。
5.根据权利要求1所述的系统,其中用于确定所述输入视频数据的所述聚焦动态范围的所述一个或多个特征包括所述输入视频数据的亮度、运动、纹理、或颜色特征中的一者或多者。
6.根据权利要求1所述的系统,其中所述聚焦动态范围表示针对当前场景、序列、帧、或帧的区域的人类视觉系统的有效动态范围。
7.根据权利要求1所述的系统,其中所述编码格式为H.264/高级视频编码(AVC)格式或H.265高效视频编码(HEVC)格式中的一者。
8.一种系统,包括:
视频解码器,被配置为:
接收由视频编码器输出的经编码的视频数据;
处理所述经编码的视频数据以生成表示所述输入视频数据的聚焦动态范围的经解码的C位视频数据和提取的格式元数据;以及
扩展所述经解码的C位视频数据以生成覆盖目标设备的全动态范围的D位视频数据,其中D大于C;
其中,为了扩展所述经解码的C位视频数据,所述视频解码器的逆向自适应传递函数部件把在所述格式元数据中指示的所述经解码的C位视频数据的聚焦动态范围映射到所述目标设备的全动态范围,其中所述经解码的C位视频数据的聚焦动态范围小于由所述视频编码器编码的输入视频数据的总动态范围。
9.根据权利要求7所述的系统,其中,为了处理所述经编码的视频数据以生成表示所述输入视频数据的聚焦动态范围的经解码的C位视频数据和提取的格式元数据,所述视频解码器被配置为:
应用熵解码技术对所述经编码的视频数据进行解压缩;
从解压缩的视频数据提取所述格式元数据;以及
对解压缩的视频数据执行逆向量化和逆向变换操作以生成所述经解码的C位视频数据。
10.根据权利要求7所述的系统,其中所述格式元数据包括描述由所述视频编码器的自适应传递函数部件应用于所述输入视频数据的自适应传递函数的数据。
11.根据权利要求7所述的系统,其中所述目标设备是启用了高动态范围(HDR)的设备。
12.根据权利要求7所述的系统,其中所述经编码的视频数据是根据H.264/高级视频编码(AVC)格式或H.265高效视频编码(HEVC)格式中的一者编码的。
13.一种系统,包括:
视频编码器,包括:
处理流水线,所述处理流水线被配置为根据编码格式来处理视频数据以生成经编码的视频数据,其中所述经编码的视频数据在所述处理流水线内以C位的位深度使用内部传递函数的代码值来表示;和
自适应传递函数部件,被配置为:
接收以N位的位深度使用传递函数的代码值的输入视频数据,其中N大于C;
至少部分地基于所述输入视频数据的一个或多个特征来确定所述输入视频数据的聚焦动态范围,其中所述聚焦动态范围小于所述输入视频数据的总动态范围;
将所述聚焦动态范围内的所述输入视频数据从所述输入视频数据的位深度映射到所述视频编码器的位深度以生成C位视频数据;并且
将所述C位视频数据输出到所述处理流水线以用于处理;和
视频解码器,被配置为:
接收由所述视频编码器的所述处理流水线输出的经编码的视频数据;
处理所述经编码的视频数据以生成表示针对所述输入视频数据确定的聚焦动态范围的经解码的C位视频数据和提取的格式元数据,所述格式元数据指示在所述映射中使用的一个或多个参数;以及
至少部分地基于所述格式元数据来扩展所述经解码的C位视频数据以生成覆盖目标设备的全动态范围的D位视频数据,其中D大于C。
14.根据权利要求13所述的系统,其中,为了将所述聚焦动态范围内的所述输入视频数据从所述输入视频数据的位深度映射到所述处理流水线的位深度以生成C位视频数据,所述自适应传递函数部件被配置为:
将所述输入视频数据裁剪到所述聚焦动态范围以生成经裁剪的N位视频数据使得所述经裁剪的N位视频数据不包括所述输入视频数据的在所述聚焦动态范围之外的所述一个或多个代码值;以及
根据所述处理流水线的所述内部传递函数映射所述经裁剪的N位视频数据以生成C位视频数据。
15.根据权利要求13所述的系统,其中,为了扩展所述经解码的C位视频数据,所述视频解码器的逆向自适应传递函数部件把在所述格式元数据中指示的所述经解码的C位视频数据的聚焦动态范围映射到所述目标设备的全动态范围,其中所述经解码的C位视频数据的聚焦动态范围小于由所述视频编码器编码的输入视频数据的总动态范围。
16.根据权利要求13所述的系统,其中用于确定所述输入视频数据的所述聚焦动态范围的所述一个或多个特征包括所述输入视频数据的亮度、运动、纹理、或颜色特征中的一者或多者。
17.根据权利要求13所述的系统,其中所述聚焦动态范围表示针对当前场景、序列、帧、或帧的区域的人类视觉系统的有效动态范围。
18.根据权利要求13所述的系统,其中所述视频编码器的所述处理流水线中使用的所述内部传递函数不同于用来表示所述输入视频数据的所述传递函数。
19.根据权利要求13所述的系统,其中所述目标设备是启用了高动态范围(HDR)的设备。
20.根据权利要求13所述的系统,其中所述编码格式为H.264/高级视频编码(AVC)格式或H.265高效视频编码(HEVC)格式中的一者。
CN201910771191.4A 2014-02-25 2015-02-25 用于视频编码和解码的自适应传递函数 Pending CN110365974A (zh)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
US201461944484P 2014-02-25 2014-02-25
US61/944,484 2014-02-25
US201461946638P 2014-02-28 2014-02-28
US201461946633P 2014-02-28 2014-02-28
US61/946,638 2014-02-28
US61/946,633 2014-02-28
CN201580010095.8A CN106031172B (zh) 2014-02-25 2015-02-25 用于视频编码和解码的自适应传递函数

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN201580010095.8A Division CN106031172B (zh) 2014-02-25 2015-02-25 用于视频编码和解码的自适应传递函数

Publications (1)

Publication Number Publication Date
CN110365974A true CN110365974A (zh) 2019-10-22

Family

ID=53882764

Family Applications (7)

Application Number Title Priority Date Filing Date
CN201580010103.9A Active CN106030503B (zh) 2014-02-25 2015-02-25 自适应视频处理
CN201580010095.8A Active CN106031172B (zh) 2014-02-25 2015-02-25 用于视频编码和解码的自适应传递函数
CN201580008321.9A Active CN106233706B (zh) 2014-02-25 2015-02-25 用于提供具有标准动态范围和高动态范围两者的视频的向后兼容的装置和方法
CN201910771191.4A Pending CN110365974A (zh) 2014-02-25 2015-02-25 用于视频编码和解码的自适应传递函数
CN202310395840.1A Pending CN116320394A (zh) 2014-02-25 2015-02-25 用于视频编码和解码的自适应传递函数
CN202010303152.4A Active CN111526350B (zh) 2014-02-25 2015-02-25 自适应视频处理
CN202010008012.4A Active CN111246050B (zh) 2014-02-25 2015-02-25 用于视频数据处理的系统、装置和方法

Family Applications Before (3)

Application Number Title Priority Date Filing Date
CN201580010103.9A Active CN106030503B (zh) 2014-02-25 2015-02-25 自适应视频处理
CN201580010095.8A Active CN106031172B (zh) 2014-02-25 2015-02-25 用于视频编码和解码的自适应传递函数
CN201580008321.9A Active CN106233706B (zh) 2014-02-25 2015-02-25 用于提供具有标准动态范围和高动态范围两者的视频的向后兼容的装置和方法

Family Applications After (3)

Application Number Title Priority Date Filing Date
CN202310395840.1A Pending CN116320394A (zh) 2014-02-25 2015-02-25 用于视频编码和解码的自适应传递函数
CN202010303152.4A Active CN111526350B (zh) 2014-02-25 2015-02-25 自适应视频处理
CN202010008012.4A Active CN111246050B (zh) 2014-02-25 2015-02-25 用于视频数据处理的系统、装置和方法

Country Status (8)

Country Link
US (10) US10271054B2 (zh)
EP (2) EP3111644A1 (zh)
JP (5) JP6383425B2 (zh)
KR (7) KR101898643B1 (zh)
CN (7) CN106030503B (zh)
AU (5) AU2015223123A1 (zh)
DE (2) DE112015000959T5 (zh)
WO (3) WO2015130793A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111970564A (zh) * 2020-08-26 2020-11-20 展讯通信(上海)有限公司 Hdr视频显示处理的优化方法及装置、存储介质、终端
TWI754970B (zh) * 2020-06-22 2022-02-11 鴻海精密工業股份有限公司 加速啟動函數運算的裝置、方法及存儲介質

Families Citing this family (222)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9955084B1 (en) * 2013-05-23 2018-04-24 Oliver Markus Haynold HDR video camera
EP3013040A4 (en) 2013-06-20 2016-12-28 Sony Corp PLAYING DEVICE, PLAYING METHOD AND RECORDING MEDIUM
JP2015005878A (ja) 2013-06-20 2015-01-08 ソニー株式会社 再生装置、再生方法、および記録媒体
US20150228106A1 (en) * 2014-02-13 2015-08-13 Vixs Systems Inc. Low latency video texture mapping via tight integration of codec engine with 3d graphics engine
US10271054B2 (en) 2014-02-25 2019-04-23 Apple, Inc. Display-side adaptive video processing
JP2015195439A (ja) * 2014-03-31 2015-11-05 ソニー株式会社 画像処理装置、画像処理方法及びプログラム
CN106464966B (zh) * 2014-05-12 2020-12-08 索尼公司 通信装置、通信方法和计算机可读存储介质
US10217438B2 (en) * 2014-05-30 2019-02-26 Apple Inc. User interface and method for directly setting display white point
CN110231926B (zh) * 2014-06-10 2022-11-04 松下知识产权经营株式会社 再现方法和再现装置
EP3739894A1 (en) * 2014-06-27 2020-11-18 Panasonic Intellectual Property Management Co., Ltd. Data output device, data output method, and data generation method
US10163408B1 (en) * 2014-09-05 2018-12-25 Pixelworks, Inc. LCD image compensation for LED backlighting
EP3223530A4 (en) 2014-09-22 2018-01-10 Panasonic Intellectual Property Management Co., Ltd. Playback method and playback device
US9729801B2 (en) * 2014-10-02 2017-08-08 Dolby Laboratories Licensing Corporation Blending images using mismatched source and display electro-optical transfer functions
JP6601729B2 (ja) * 2014-12-03 2019-11-06 パナソニックIpマネジメント株式会社 データ生成方法、データ再生方法、データ生成装置及びデータ再生装置
TW201633779A (zh) * 2014-12-16 2016-09-16 湯姆生特許公司 將圖像之高動態範圍版本轉換至該圖像之標準動態範圍版本之方法及裝置
US9560330B2 (en) * 2015-01-09 2017-01-31 Vixs Systems, Inc. Dynamic range converter with reconfigurable architecture and methods for use therewith
US9589313B2 (en) * 2015-01-09 2017-03-07 Vixs Systems, Inc. Dynamic range converter with pipelined architecture and methods for use therewith
US9544560B2 (en) * 2015-01-09 2017-01-10 Vixs Systems, Inc. Dynamic range converter with generic architecture and methods for use therewith
US9860504B2 (en) 2015-01-09 2018-01-02 Vixs Systems, Inc. Color gamut mapper for dynamic range conversion and methods for use therewith
US9558538B2 (en) * 2015-01-09 2017-01-31 Vixs Systems, Inc. Dynamic range converter with frame by frame adaptation and methods for use therewith
US10475361B2 (en) 2015-02-02 2019-11-12 Apple Inc. Adjustable display illumination
CA2976183C (en) * 2015-02-17 2023-06-20 Sony Corporation Transmission apparatus, transmission method, reception apparatus, and reception method
JP6729548B2 (ja) 2015-02-27 2020-07-22 ソニー株式会社 送信装置、送信方法、受信装置および受信方法
US20160182853A1 (en) * 2015-03-20 2016-06-23 Mediatek Inc. Dynamic Content Adaptive Frame Rate Conversion
US10109228B2 (en) * 2015-04-10 2018-10-23 Samsung Display Co., Ltd. Method and apparatus for HDR on-demand attenuation control
US10735755B2 (en) * 2015-04-21 2020-08-04 Arris Enterprises Llc Adaptive perceptual mapping and signaling for video coding
JP6476057B2 (ja) * 2015-04-28 2019-02-27 日本放送協会 量子化テーブル補正装置、階調削減装置、及びプログラム
KR102322709B1 (ko) * 2015-04-29 2021-11-08 엘지디스플레이 주식회사 영상 처리 방법 및 영상 처리 회로와 그를 이용한 표시 장치
KR102337159B1 (ko) * 2015-05-21 2021-12-08 삼성전자주식회사 컨텐츠 출력 장치 및 방법과, 디스플레이 장치
US10136074B2 (en) 2015-06-02 2018-11-20 Samsung Electronics Co., Ltd. Distribution-point-based adaptive tone mapping
US10007412B2 (en) * 2015-06-24 2018-06-26 Samsung Electronics Co., Ltd. Tone mastering system with creative intent metadata
CN107852511B (zh) * 2015-07-16 2020-09-22 杜比实验室特许公司 用于hdr和宽色域信号的信号整形和编码
US10116938B2 (en) * 2015-07-22 2018-10-30 Arris Enterprises Llc System for coding high dynamic range and wide color gamut sequences
TWI764870B (zh) * 2015-07-28 2022-05-21 法商內數位麥德遜專利控股有限公司 視訊訊號處理裝置及方法
JP6548516B2 (ja) * 2015-08-26 2019-07-24 キヤノン株式会社 画像表示装置、画像処理装置、画像表示装置の制御方法、及び、画像処理装置の制御方法
EP3329673A1 (en) * 2015-08-28 2018-06-06 ARRIS Enterprises LLC Color volume transforms in coding of high dynamic range and wide color gamut sequences
US10140694B2 (en) 2015-08-31 2018-11-27 Lg Electronics Inc. Image display apparatus
JP6986670B2 (ja) * 2015-09-11 2021-12-22 パナソニックIpマネジメント株式会社 映像受信方法及び映像受信装置
US10798422B2 (en) 2015-10-20 2020-10-06 Intel Corporation Method and system of video coding with post-processing indication
US10715772B2 (en) * 2015-11-09 2020-07-14 Netflix, Inc. High dynamic range color conversion correction
CN106878694B (zh) * 2015-12-10 2018-12-18 瑞昱半导体股份有限公司 高动态范围信号处理系统与方法
EP3364654B1 (en) * 2015-12-15 2021-03-03 Huawei Technologies Co., Ltd. High dynamic range image processing method and apparatus
US10237525B2 (en) * 2015-12-25 2019-03-19 Sharp Kabushiki Kaisha Display device, method for controlling display device, control program, and recording medium
US20170186403A1 (en) * 2015-12-28 2017-06-29 Printing Technology Research Institute Method of simulating print color on mobile devices
CN105657539B (zh) * 2015-12-30 2019-05-31 深圳Tcl数字技术有限公司 视频播放方法及装置
JP6237797B2 (ja) * 2016-01-05 2017-11-29 ソニー株式会社 ビデオシステム、ビデオ処理方法、プログラム、およびビデオコンバーター
JP6233424B2 (ja) 2016-01-05 2017-11-22 ソニー株式会社 撮像システムおよび撮像方法
JP6652301B2 (ja) * 2016-01-27 2020-02-19 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
KR20170090824A (ko) * 2016-01-29 2017-08-08 삼성전자주식회사 전자장치 및 그 제어방법
US10264196B2 (en) 2016-02-12 2019-04-16 Contrast, Inc. Systems and methods for HDR video capture with a mobile device
US10257393B2 (en) 2016-02-12 2019-04-09 Contrast, Inc. Devices and methods for high dynamic range video
JP6992740B2 (ja) * 2016-02-26 2022-01-13 ソニーグループ株式会社 情報処理装置、表示装置、情報記録媒体、および情報処理方法、並びにプログラム
US20170279866A1 (en) * 2016-03-22 2017-09-28 Intel Corporation Adaptation of streaming data based on the environment at a receiver
JP2017175459A (ja) * 2016-03-24 2017-09-28 シャープ株式会社 信号変換装置、信号変換方法、テレビジョン受像機、プログラム、および記録媒体
US10152947B2 (en) 2016-04-06 2018-12-11 Microsoft Technology Licensing, Llc Display brightness updating
WO2017196670A1 (en) * 2016-05-13 2017-11-16 Vid Scale, Inc. Bit depth remapping based on viewing parameters
CN107395950B (zh) * 2016-05-16 2021-11-09 西安电子科技大学 媒体数据处理方法和装置及系统
WO2018000126A1 (en) * 2016-06-27 2018-01-04 Intel Corporation Method and system of multi-dynamic range multi-layer video blending with alpha channel sideband for video playback
EP4013026A1 (en) * 2016-06-27 2022-06-15 Sony Group Corporation Signal processing device, signal processing method, camera system, video system, and server
EP4336850A3 (en) * 2016-07-08 2024-04-17 InterDigital Madison Patent Holdings, SAS Systems and methods for region-of-interest tone remapping
US9916638B2 (en) * 2016-07-20 2018-03-13 Dolby Laboratories Licensing Corporation Transformation of dynamic metadata to support alternate tone rendering
US10587818B2 (en) * 2016-08-02 2020-03-10 Magna Electronics Inc. Vehicle vision system with enhanced camera brightness control
US10554901B2 (en) 2016-08-09 2020-02-04 Contrast Inc. Real-time HDR video for vehicle control
CN106210921B (zh) * 2016-08-12 2019-10-11 深圳创维-Rgb电子有限公司 一种图像效果提升方法及其装置
US10277829B1 (en) 2016-08-12 2019-04-30 Apple Inc. Video capture in low-light conditions
CN106101679B (zh) * 2016-08-23 2018-01-12 青岛海信电器股份有限公司 高动态范围信号的处理方法及处理系统
US10757385B2 (en) 2016-08-24 2020-08-25 Qualcomm Incorporated Color gamut adaptation with feedback channel
US11153594B2 (en) 2016-08-29 2021-10-19 Apple Inc. Multidimensional quantization techniques for video coding/decoding systems
KR102594201B1 (ko) * 2016-09-22 2023-10-27 삼성디스플레이 주식회사 영상 처리 방법 및 이를 수행하는 표시 장치
US9883112B1 (en) * 2016-09-22 2018-01-30 Pinnacle Imaging Corporation High dynamic range imaging
US20180098041A1 (en) * 2016-09-30 2018-04-05 Sean J. Lawrence Adaptive chroma subsampling based on display brightness
US10778999B2 (en) 2016-09-30 2020-09-15 Qualcomm Incorporated Frame rate up-conversion coding mode with affine motion model
EP3312798A1 (en) * 2016-10-20 2018-04-25 Thomson Licensing Method and device for inverse tone mapping
US10244244B2 (en) * 2016-10-26 2019-03-26 Dolby Laboratories Licensing Corporation Screen-adaptive decoding of high dynamic range video
US9942513B1 (en) 2016-10-31 2018-04-10 Cisco Technology, Inc. Automated configuration of behavior of a telepresence system based on spatial detection of telepresence components
JP2018081595A (ja) * 2016-11-17 2018-05-24 キヤノン株式会社 画像処理装置及び方法、及び撮像装置
US10218952B2 (en) 2016-11-28 2019-02-26 Microsoft Technology Licensing, Llc Architecture for rendering high dynamic range video on enhanced dynamic range display devices
CN110050292B (zh) 2016-12-12 2023-08-01 杜比实验室特许公司 用于调整高动态范围图像的视频处理曲线的系统和方法
JP6822123B2 (ja) * 2016-12-19 2021-01-27 ソニー株式会社 画像処理装置、画像処理方法及びプログラム
JP6822121B2 (ja) 2016-12-19 2021-01-27 ソニー株式会社 画像処理装置、画像処理方法及びプログラム
JP6822122B2 (ja) * 2016-12-19 2021-01-27 ソニー株式会社 画像処理装置、画像処理方法及びプログラム
GB2558000B (en) * 2016-12-21 2020-06-10 Apical Ltd Display control
GB2558236B (en) 2016-12-22 2021-03-31 Apical Ltd Image data comprising encoded image data and additional data for modification of image
CN106710505A (zh) * 2017-01-16 2017-05-24 努比亚技术有限公司 一种显示装置及方法
CN108320721B (zh) 2017-01-17 2022-05-24 华硕电脑股份有限公司 亮度调节装置及其亮度调节方法
WO2018136432A1 (en) * 2017-01-18 2018-07-26 Dolby Laboratories Licensing Corporation Segment-based reshaping for coding high dynamic range video
EP3571843A1 (en) 2017-01-18 2019-11-27 Dolby Laboratories Licensing Corporation Segment-based reshaping for coding high dynamic range video
CN106791865B (zh) * 2017-01-20 2020-02-28 杭州当虹科技股份有限公司 基于高动态范围视频的自适应格式转换的方法
US10176561B2 (en) 2017-01-27 2019-01-08 Microsoft Technology Licensing, Llc Content-adaptive adjustments to tone mapping operations for high dynamic range content
US10104334B2 (en) 2017-01-27 2018-10-16 Microsoft Technology Licensing, Llc Content-adaptive adjustment of display device brightness levels when rendering high dynamic range content
EP3583780B1 (en) 2017-02-17 2023-04-05 InterDigital Madison Patent Holdings, SAS Systems and methods for selective object-of-interest zooming in streaming video
JP7086587B2 (ja) * 2017-02-24 2022-06-20 インターデジタル ヴイシー ホールディングス, インコーポレイテッド 復号された画像データから画像データを再構成する方法および装置
US11310532B2 (en) 2017-02-24 2022-04-19 Interdigital Vc Holdings, Inc. Method and device for reconstructing image data from decoded image data
KR20190118585A (ko) * 2017-02-28 2019-10-18 소니 주식회사 화상 처리 장치 및 화상 처리 방법
CN108540781A (zh) * 2017-03-03 2018-09-14 扬智科技股份有限公司 影像信号处理装置与影像信号处理方法
CN110392911B (zh) 2017-03-06 2021-09-24 伊英克公司 用于呈现彩色影像的方法和设备
KR102628139B1 (ko) 2017-03-07 2024-01-22 인터디지털 매디슨 페턴트 홀딩스 에스에이에스 멀티-디바이스 프리젠테이션을 위한 맞춤형 비디오 스트리밍
US10701390B2 (en) 2017-03-14 2020-06-30 Qualcomm Incorporated Affine motion information derivation
CN106911903A (zh) * 2017-03-15 2017-06-30 四川长虹电器股份有限公司 一种sdr信号转hdr信号效果的画质数据处理方法
KR102191875B1 (ko) * 2017-03-20 2020-12-16 엘지전자 주식회사 360 비디오를 전송하는 방법, 360 비디오를 수신하는 방법, 360 비디오 전송 장치, 360 비디오 수신 장치
US11158032B2 (en) 2017-03-20 2021-10-26 Dolby Laboratories Licensing Corporation Perceptually preserving scene-referred contrasts and chromaticities
CN108737877B (zh) 2017-04-21 2020-06-02 华为技术有限公司 图像处理的方法、装置和终端设备
CN108810531B (zh) * 2017-05-03 2019-11-19 腾讯科技(深圳)有限公司 视频编码处理方法、装置及电子设备
US10847118B2 (en) * 2017-05-12 2020-11-24 Apple Inc. Electronic devices with tone mapping engines
US10403214B2 (en) 2017-05-12 2019-09-03 Apple Inc. Electronic devices with tone mapping to accommodate simultaneous display of standard dynamic range and high dynamic range content
US10242628B2 (en) * 2017-05-18 2019-03-26 Dell Products, L.P. Light Emitting Diode (LED) backlight control for reproduction of High Dynamic Range (HDR) content using Standard Dynamic Range (SDR) Liquid Crystal Display (LCD) panels
GB2563413B (en) * 2017-06-14 2021-12-22 Displaylink Uk Ltd Processing display data
GB2563411B (en) * 2017-06-14 2022-10-05 Displaylink Uk Ltd Processing display data
JP7037584B2 (ja) * 2017-06-16 2022-03-16 ドルビー ラボラトリーズ ライセンシング コーポレイション 効率的なエンド・ツー・エンドシングルレイヤー逆ディスプレイマネジメント符号化
US10778978B2 (en) * 2017-08-21 2020-09-15 Qualcomm Incorporated System and method of cross-component dynamic range adjustment (CC-DRA) in video coding
CN107656454A (zh) * 2017-09-21 2018-02-02 深圳市晟达机械设计有限公司 一种高效的小区监控管理系统
KR102444156B1 (ko) * 2017-09-22 2022-09-16 삼성디스플레이 주식회사 표시 장치 및 그 구동방법
US11533450B2 (en) * 2017-09-25 2022-12-20 Comcast Cable Communications, Llc Anti-piracy video transmission and display
US10609372B2 (en) 2017-09-29 2020-03-31 Dolby Laboratories Licensing Corporation Up-conversion to content adaptive perceptual quantization video signals
CN107682673B (zh) * 2017-10-09 2019-11-12 成都索贝数码科技股份有限公司 一种基于gpu和视频io卡同时监看4khdr和hdsdr信号的方法
US10972767B2 (en) * 2017-11-01 2021-04-06 Realtek Semiconductor Corp. Device and method of handling multiple formats of a video sequence
KR102413839B1 (ko) * 2017-11-15 2022-06-28 삼성전자 주식회사 컨텐츠 제공장치, 그 제어방법 및 기록매체
CN108024032A (zh) * 2017-11-24 2018-05-11 深圳Tcl新技术有限公司 图像增强处理方法、电视、服务器及计算机可读存储介质
CN112419354B (zh) * 2018-01-22 2023-03-14 海信视像科技股份有限公司 一种图像亮度处理方法及装置、电子设备
CN108200441B (zh) * 2018-01-22 2020-10-13 海信视像科技股份有限公司 一种图像亮度处理方法及装置、电子设备
US10880531B2 (en) * 2018-01-31 2020-12-29 Nvidia Corporation Transfer of video signals using variable segmented lookup tables
JP2019140430A (ja) * 2018-02-06 2019-08-22 船井電機株式会社 再生装置
US11025942B2 (en) * 2018-02-08 2021-06-01 Samsung Electronics Co., Ltd. Progressive compressed domain computer vision and deep learning systems
EP3525463A1 (en) * 2018-02-13 2019-08-14 Koninklijke Philips N.V. System for handling multiple hdr video formats
ES2724212B2 (es) * 2018-03-02 2021-03-31 Visionapp Solutions S L Metodo implementado en ordenador y sistema para la prevencion del deterioro de la vision causado por el uso prolongado de pantallas electronicas en condiciones de baja iluminacion.
US10609424B2 (en) * 2018-03-09 2020-03-31 Dolby Laboratories Licensing Corporation Single-layer progressive coding for supporting multi-capability HDR composition
JP7090730B2 (ja) * 2018-04-05 2022-06-24 キヤノン株式会社 ファイル内に画像をカプセル化するための方法及び装置
US11120725B2 (en) 2018-04-24 2021-09-14 Advanced Micro Devices, Inc. Method and apparatus for color gamut mapping color gradient preservation
TW201946430A (zh) 2018-04-30 2019-12-01 圓剛科技股份有限公司 影像訊號轉換裝置及方法
TWI808971B (zh) * 2018-04-30 2023-07-21 圓剛科技股份有限公司 影像訊號轉換裝置
TWI811217B (zh) * 2018-04-30 2023-08-11 圓剛科技股份有限公司 影像訊號轉換裝置
TWI808970B (zh) * 2018-04-30 2023-07-21 圓剛科技股份有限公司 影像訊號轉換裝置
US10692467B2 (en) 2018-05-04 2020-06-23 Microsoft Technology Licensing, Llc Automatic application of mapping functions to video signals based on inferred parameters
US20190356891A1 (en) * 2018-05-16 2019-11-21 Synaptics Incorporated High dynamic range (hdr) data conversion and color space mapping
US11030728B2 (en) * 2018-05-29 2021-06-08 Apple Inc. Tone mapping techniques for increased dynamic range
US10951888B2 (en) 2018-06-04 2021-03-16 Contrast, Inc. Compressed high dynamic range video
WO2020006293A1 (en) * 2018-06-28 2020-01-02 Apple Inc. Video encoding system
US11115563B2 (en) * 2018-06-29 2021-09-07 Ati Technologies Ulc Method and apparatus for nonlinear interpolation color conversion using look up tables
KR102572432B1 (ko) * 2018-07-03 2023-08-30 삼성전자주식회사 디스플레이장치 및 그 제어방법과 기록매체
EP3763129A4 (en) 2018-07-12 2021-07-21 Samsung Electronics Co., Ltd. CONTENT RENDERING METHOD AND APPARATUS FOR VISUAL ACCESSIBILITY
US11962819B2 (en) 2018-07-17 2024-04-16 Dolby Laboratories Licensing Corporation Foviation and HDR
JP7443325B2 (ja) * 2018-07-17 2024-03-05 ドルビー ラボラトリーズ ライセンシング コーポレイション フォービエイションおよびhdr
US20200045341A1 (en) * 2018-07-31 2020-02-06 Ati Technologies Ulc Effective electro-optical transfer function encoding for limited luminance range displays
US10930022B2 (en) * 2018-08-09 2021-02-23 Nvidia Corporation Motion adaptive rendering using variable rate shading
CN109192145A (zh) * 2018-09-21 2019-01-11 合肥惠科金扬科技有限公司 一种分区调光电路及显示装置
WO2020069035A1 (en) * 2018-09-26 2020-04-02 Dolby Laboratories Licensing Corporation Projector light source dimming using metadata from future frames
CN109167946B (zh) * 2018-09-30 2021-02-19 Oppo广东移动通信有限公司 视频处理方法、装置、电子设备以及存储介质
CN109274985B (zh) * 2018-10-12 2020-04-28 腾讯科技(深圳)有限公司 视频转码方法、装置、计算机设备和存储介质
CN109151574B (zh) 2018-10-15 2020-03-24 Oppo广东移动通信有限公司 视频处理方法、装置、电子设备以及存储介质
EP3867899A1 (en) * 2018-10-17 2021-08-25 Corning Incorporated Methods for achieving, and apparatus having, reduced display device energy consumption
US10957024B2 (en) 2018-10-30 2021-03-23 Microsoft Technology Licensing, Llc Real time tone mapping of high dynamic range image data at time of playback on a lower dynamic range display
US11503310B2 (en) * 2018-10-31 2022-11-15 Ati Technologies Ulc Method and apparatus for an HDR hardware processor inline to hardware encoder and decoder
WO2020100200A1 (ja) * 2018-11-12 2020-05-22 Eizo株式会社 画像処理システム、画像処理装置、およびコンピュータープログラム
CN109327734B (zh) * 2018-11-27 2020-11-13 成都索贝数码科技股份有限公司 一种基于动态测光的hdr视频下变换到sdr视频的方法
US10860504B2 (en) 2018-12-05 2020-12-08 New Century Technologies Ltd. Peripheral device with embedded video codec functionality
EP3672267A1 (en) 2018-12-20 2020-06-24 InterDigital VC Holdings, Inc. Methods for processing audio and/or video contents and corresponding signal, devices, electronic assembly, system, computer readable program products and computer readable storage media
US11587526B2 (en) * 2018-12-20 2023-02-21 Dolby Laboratories Licensing Corporation Luminance adaption to minimize discomfort and improve visibility
CN111479164A (zh) * 2019-01-23 2020-07-31 上海哔哩哔哩科技有限公司 硬件解码动态分辨率无缝切换方法、装置及存储介质
KR20200095651A (ko) * 2019-02-01 2020-08-11 삼성전자주식회사 고 동적 범위 콘텐트를 재생하는 전자 장치 및 그 방법
JP7263053B2 (ja) * 2019-02-28 2023-04-24 キヤノン株式会社 撮像装置、画像処理装置、それらの制御方法、プログラム
US10496862B1 (en) 2019-03-18 2019-12-03 Capital One Services, Llc Detection of images in relation to targets based on colorspace transformation techniques and utilizing ultraviolet light
US10534948B1 (en) 2019-03-18 2020-01-14 Capital One Services, Llc Optimizing detection of images in relation to targets based on colorspace transformation techniques
US10509991B1 (en) 2019-03-18 2019-12-17 Capital One Services, Llc Detection of images in relation to targets based on colorspace transformation techniques and utilizing infrared light
US10496911B1 (en) 2019-03-18 2019-12-03 Capital One Services, Llc Detection of images in relation to targets based on colorspace transformation techniques and utilizing ultraviolet and infrared light
CN111754412B (zh) * 2019-03-29 2024-04-19 Tcl科技集团股份有限公司 构建数据对的方法、装置及终端设备
US11404025B2 (en) 2019-04-10 2022-08-02 Mediatek Inc. Video processing system for performing artificial intelligence assisted picture quality enhancement and associated video processing method
CN113678462B (zh) 2019-04-15 2023-01-10 北京字节跳动网络技术有限公司 自适应环路滤波器中的裁剪参数推导
US10523420B1 (en) 2019-04-18 2019-12-31 Capital One Services, Llc Transmitting encoded data along transmission mediums based on colorspace schemes
US10504013B1 (en) 2019-04-24 2019-12-10 Capital One Services, Llc Colorspace encoding multimedia data on a physical page
ES2945657T3 (es) * 2019-04-25 2023-07-05 Dolby Laboratories Licensing Corp Analizador de rango de PQ con consciencia de contenido, y mapeo de tono en alimentaciones en vivo
CN111916031B (zh) 2019-05-10 2023-03-21 京东方科技集团股份有限公司 显示方法及显示装置
EP3742728B1 (en) * 2019-05-24 2022-09-21 Axis AB A method and bitrate controller for controlling output bitrate of a video encoder
US11425379B2 (en) 2019-05-31 2022-08-23 Hfi Innovation Inc. Method and apparatus of latency reduction for chroma residue scaling
US11115602B2 (en) * 2019-06-11 2021-09-07 Watchguard Video, Inc. Emulating light sensitivity of a target
US10529300B1 (en) 2019-06-20 2020-01-07 Capital One Services, Llc Adaptive image display based on colorspace conversions
US10614635B1 (en) 2019-07-25 2020-04-07 Capital One Services, Llc Augmented reality system with color-based fiducial marker
WO2021034722A1 (en) * 2019-08-16 2021-02-25 Apple Inc. Adaptive bilateral filtering using look-up tables
US10937385B1 (en) * 2019-08-20 2021-03-02 Apple Inc. Frame replay with bit depth considerations
US10833852B1 (en) 2019-10-03 2020-11-10 Capital One Services, Llc Encoded data along tape based on colorspace schemes
US11159737B2 (en) * 2019-10-14 2021-10-26 Google Llc Exposure change control in low light environments
CN110798689B (zh) * 2019-10-18 2021-01-19 西安交通大学 一种将nv12+格式转换为p010格式的方法
US10715183B1 (en) 2019-10-25 2020-07-14 Capital One Services, Llc Data encoding with error-correcting code pursuant to colorspace schemes
US10867226B1 (en) 2019-11-04 2020-12-15 Capital One Services, Llc Programmable logic array and colorspace conversions
US10762371B1 (en) 2019-11-14 2020-09-01 Capital One Services, Llc Object detection techniques using colorspace conversions
CN110868634B (zh) * 2019-11-27 2023-08-22 维沃移动通信有限公司 一种视频处理方法及电子设备
TWI739227B (zh) * 2019-12-03 2021-09-11 智成電子股份有限公司 避免多餘記憶體存取的系統單晶片模組
US20220366829A1 (en) * 2019-12-05 2022-11-17 Google Llc Dual color management for a multi-pixel density display
US10878600B1 (en) 2019-12-10 2020-12-29 Capital One Services, Llc Augmented reality system with color-based fiducial marker utilizing local adaptive technology
CN114402379A (zh) * 2019-12-11 2022-04-26 谷歌有限责任公司 使用减少数量的显示特性测量的显示模块的颜色校准
KR20210083840A (ko) * 2019-12-27 2021-07-07 삼성전자주식회사 다이나믹 톤 메타데이터를 포함하는 영상의 편집을 위한 전자 장치 및 그의 동작 방법
NO346123B1 (en) * 2020-02-05 2022-03-07 Movi Tech As Video decoding method and device enabling improved user interaction with video content
CN111294655B (zh) 2020-02-20 2021-10-22 深圳创维-Rgb电子有限公司 Hdr片源播放方法、装置及存储介质
CN111415393B (zh) * 2020-03-16 2023-08-01 安博思华智能科技有限责任公司 一种调节多媒体黑板显示的方法、装置、介质和电子设备
CN111524077B (zh) * 2020-04-17 2023-11-17 三维六度(北京)文化有限公司 影像资料的修复方法及系统
CN111540324B (zh) * 2020-05-20 2021-12-24 Tcl华星光电技术有限公司 一种显示设备及其像素补偿方法和装置
US11302036B2 (en) 2020-08-19 2022-04-12 Capital One Services, Llc Color conversion between color spaces using reduced dimension embeddings
US11425502B2 (en) 2020-09-18 2022-08-23 Cisco Technology, Inc. Detection of microphone orientation and location for directional audio pickup
CN112118437B (zh) * 2020-09-24 2021-08-17 上海松鼠课堂人工智能科技有限公司 虚拟现实的课堂模拟方法和系统
US11769234B2 (en) 2020-10-07 2023-09-26 Qualcomm Incorporated Methods and apparatus for histogram based tone mapping
US11538136B2 (en) * 2020-10-28 2022-12-27 Qualcomm Incorporated System and method to process images of a video stream
CN112351264B (zh) * 2020-11-04 2023-05-23 深圳Tcl数字技术有限公司 显示精度调整方法、装置、终端设备及存储介质
US20220191381A1 (en) * 2020-12-11 2022-06-16 Contrast, Inc. Dynamic transfer function for reversible encoding
US11115625B1 (en) 2020-12-14 2021-09-07 Cisco Technology, Inc. Positional audio metadata generation
CN112927273A (zh) * 2021-01-28 2021-06-08 北京字节跳动网络技术有限公司 三维视频的处理方法、设备及存储介质
US11470162B2 (en) * 2021-01-30 2022-10-11 Zoom Video Communications, Inc. Intelligent configuration of personal endpoint devices
US11544826B2 (en) * 2021-04-30 2023-01-03 Realnetworks, Inc. Intelligent metadata service for video enhancement
CN113160342B (zh) * 2021-05-14 2023-08-25 杭州网易智企科技有限公司 基于反馈的编码方法及装置、存储介质、电子设备
CN113489930B (zh) * 2021-06-10 2024-03-19 中央广播电视总台 一种视频信号处理方法、装置及存储介质
US11666823B1 (en) * 2021-06-29 2023-06-06 Amazon Technologies, Inc. Video game streaming with dynamic range conversion
US11612812B1 (en) 2021-06-29 2023-03-28 Amazon Technologies, Inc. Video game streaming with dynamic range conversion
US11617946B1 (en) 2021-06-29 2023-04-04 Amazon Technologies, Inc. Video game streaming with dynamic range conversion
CN113395551A (zh) * 2021-07-20 2021-09-14 珠海极海半导体有限公司 处理器、npu芯片和电子设备
EP4388741A1 (en) * 2021-08-16 2024-06-26 InterDigital CE Patent Holdings, SAS Systems and methods for processing video content based on viewing conditions
CN113676773B (zh) * 2021-08-16 2023-11-14 广州虎牙信息科技有限公司 一种视频播放方法、系统、装置、计算机设备和存储介质
US11606605B1 (en) 2021-09-30 2023-03-14 Samsung Electronics Co., Ltd. Standard dynamic range (SDR) / hybrid log-gamma (HLG) with high dynamic range (HDR) 10+
US20230127327A1 (en) * 2021-10-22 2023-04-27 Samsung Electronics Co., Ltd. System and method for learning tone curves for local image enhancement
US11734806B2 (en) * 2021-11-24 2023-08-22 Roku, Inc. Dynamic tone mapping
CN114363507A (zh) * 2021-12-02 2022-04-15 维沃移动通信有限公司 图像处理方法及装置
CN114422829A (zh) * 2022-01-30 2022-04-29 杭州雾联科技有限公司 一种hdr云视频处理方法、系统及设备
CN114466246A (zh) * 2022-02-14 2022-05-10 维沃移动通信有限公司 一种视频处理方法及其装置
US12002189B2 (en) * 2022-03-02 2024-06-04 Nvidia Corporation Remastering lower dynamic range content for higher dynamic range displays
CN114727029B (zh) * 2022-03-21 2024-03-22 北京百度网讯科技有限公司 视频的处理方法、装置、电子设备及存储介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103262535A (zh) * 2010-10-19 2013-08-21 弗兰霍菲尔运输应用研究公司 利用时间性一致动态范围映射的视频编码技术

Family Cites Families (149)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US1020068A (en) 1909-04-29 1912-03-12 Singer Mfg Co Feeding mechanism for sewing-machines.
US1027105A (en) 1911-01-31 1912-05-21 George Crawford Spring-wheel.
US1021245A (en) 1911-02-16 1912-03-26 Morton Arthur George Detachable hinge for windows.
US1026426A (en) 1911-05-15 1912-05-14 Fred Kestler Cinder-leveler.
US5042077A (en) 1987-10-02 1991-08-20 General Electric Company Method of highlighting subtle contrast in graphical images
US5357278A (en) 1993-01-14 1994-10-18 Sony Electronics, Inc. Integrated linear/non-linear static and controllable dynamic companding
US6141047A (en) 1993-12-22 2000-10-31 Canon Kabushiki Kaisha Image signal processing apparatus and image pickup device
EP0679020A1 (en) * 1994-04-19 1995-10-25 Eastman Kodak Company Method and apparatus for constrained gamut clipping
US5815206A (en) * 1996-05-03 1998-09-29 Lsi Logic Corporation Method for partitioning hardware and firmware tasks in digital audio/video decoding
US6118820A (en) 1998-01-16 2000-09-12 Sarnoff Corporation Region-based information compaction as for digital images
US6829301B1 (en) * 1998-01-16 2004-12-07 Sarnoff Corporation Enhanced MPEG information distribution apparatus and method
US6560285B1 (en) 1998-03-30 2003-05-06 Sarnoff Corporation Region-based information compaction as for digital images
CA2269651A1 (en) 1998-05-12 1999-11-12 Lucent Technologies, Inc. Transform domain image watermarking method and system
US6396508B1 (en) 1999-12-02 2002-05-28 Matsushita Electronics Corp. Dynamic low-level enhancement and reduction of moving picture disturbance for a digital display
US7072523B2 (en) 2000-09-01 2006-07-04 Lenovo (Singapore) Pte. Ltd. System and method for fingerprint image enhancement using partitioned least-squared filters
US6762741B2 (en) 2000-12-22 2004-07-13 Visteon Global Technologies, Inc. Automatic brightness control system and method for a display device using a logarithmic sensor
US7062445B2 (en) * 2001-01-26 2006-06-13 Microsoft Corporation Quantization loop with heuristic approach
GB0110748D0 (en) * 2001-05-02 2001-06-27 Apical Ltd Image enhancement methods and apparatus therefor
JP4129812B2 (ja) 2001-05-24 2008-08-06 株式会社リコー 画像処理方法,装置および画像形成装置
EP1407445B1 (en) * 2001-06-07 2010-07-21 Genoa Color Technologies Ltd. System and method of data conversion for wide gamut displays
US6757648B2 (en) * 2001-06-28 2004-06-29 Microsoft Corporation Techniques for quantization of spectral data in transcoding
US20030086595A1 (en) * 2001-11-07 2003-05-08 Hui Hu Display parameter-dependent pre-transmission processing of image data
US7120293B2 (en) 2001-11-30 2006-10-10 Microsoft Corporation Interactive images
US7433532B2 (en) 2002-05-01 2008-10-07 Kestrel Corporation Max entropy optimized retinal camera
US6778183B1 (en) * 2002-07-10 2004-08-17 Genesis Microchip Inc. Method and system for adaptive color and contrast for display devices
US7239422B2 (en) * 2002-12-04 2007-07-03 Eastman Kodak Company Color gamut mapping using a cost function
US7550701B2 (en) * 2003-02-25 2009-06-23 Omnivision Cdm Optics, Inc. Non-linear wavefront coding systems and methods
US7254271B2 (en) 2003-03-05 2007-08-07 Seadragon Software, Inc. Method for encoding and serving geospatial or other vector data as images
US20050117799A1 (en) * 2003-12-01 2005-06-02 Chiou-Shann Fuh Method and apparatus for transforming a high dynamic range image into a low dynamic range image
GB0402640D0 (en) * 2004-02-06 2004-03-10 Pelikon Ltd Ambient light sensor
US20050219252A1 (en) 2004-03-30 2005-10-06 Buxton Mark J Two-dimensional buffer, texture and frame buffer decompression
US8218625B2 (en) * 2004-04-23 2012-07-10 Dolby Laboratories Licensing Corporation Encoding, decoding and representing high dynamic range images
US20050243176A1 (en) * 2004-04-30 2005-11-03 James Wu Method of HDR image processing and manipulation
EP1769459B1 (en) 2004-05-31 2014-11-26 Phase One A/S Image compression for rapid high-quality imaging
US7457477B2 (en) 2004-07-06 2008-11-25 Microsoft Corporation Digital photography with flash/no flash extension
US8050511B2 (en) * 2004-11-16 2011-11-01 Sharp Laboratories Of America, Inc. High dynamic range images from low dynamic range images
KR100596982B1 (ko) 2004-12-15 2006-07-05 삼성전자주식회사 이중 계층 버스 구조, 이중 계층 버스 구조를 가진 시스템온 칩 시스템 및 시스템 온 칩 시스템의 버스 액세스 방법
US7593024B2 (en) 2005-01-15 2009-09-22 International Business Machines Corporation Screen calibration for display devices
US7693304B2 (en) * 2005-05-12 2010-04-06 Hewlett-Packard Development Company, L.P. Method and system for image quality calculation
US20070035751A1 (en) * 2005-08-15 2007-02-15 Microsoft Corporation Gamut shape dependent color management system
WO2007026283A2 (en) 2005-08-31 2007-03-08 Koninklijke Philips Electronics, N.V. Ambient lighting derived from video content using adaptive extraction regions
US7809200B2 (en) * 2005-11-15 2010-10-05 Teledyne Licensing, Llc Dynamic range compression of high dynamic range imagery
CN101742306A (zh) 2006-01-23 2010-06-16 马普科技促进协会 高动态范围编解码器
US8014445B2 (en) 2006-02-24 2011-09-06 Sharp Laboratories Of America, Inc. Methods and systems for high dynamic range video coding
US8194997B2 (en) 2006-03-24 2012-06-05 Sharp Laboratories Of America, Inc. Methods and systems for tone mapping messaging
US9106914B2 (en) 2006-05-25 2015-08-11 Thomson Licensing Method and system for weighted encoding
US7730043B1 (en) * 2006-06-29 2010-06-01 Adobe Systems Incorporated Incremental batch-mode editing of digital media objects
US8888592B1 (en) * 2009-06-01 2014-11-18 Sony Computer Entertainment America Llc Voice overlay
CN101119497A (zh) 2006-08-04 2008-02-06 广达电脑股份有限公司 图像处理装置及其方法
KR100843088B1 (ko) * 2006-08-16 2008-07-02 삼성전자주식회사 광색역 공간의 영상을 출력하는 장치 및 방법
TWI333383B (en) 2006-09-25 2010-11-11 Ind Tech Res Inst Color adjustment circuit, digital color adjustment device and a multimedia apparatus using the same
US20080112024A1 (en) * 2006-11-09 2008-05-15 Seiko Epson Corporation Image processing apparatus, image processing method, image processing program, recording medium storing image processing program, and image display apparatus
KR101318081B1 (ko) 2006-11-21 2013-10-14 엘지디스플레이 주식회사 액정표시장치와 그 구동방법
CA2570090C (en) 2006-12-06 2014-08-19 Brightside Technologies Inc. Representing and reconstructing high dynamic range images
US7899267B2 (en) 2007-05-23 2011-03-01 Zoran Corporation Dynamic range compensation by filter cascade
US20080316372A1 (en) 2007-06-20 2008-12-25 Ning Xu Video display enhancement based on viewer characteristics
US8330768B2 (en) * 2007-07-27 2012-12-11 Sharp Laboratories Of America, Inc. Apparatus and method for rendering high dynamic range images for standard dynamic range display
EP2175660A4 (en) * 2007-08-02 2012-04-25 Sony Corp IMAGE PROCESSOR
US8004538B2 (en) * 2007-09-21 2011-08-23 Global Oled Technology Llc Preferential tone scale for electronic displays
TW200928860A (en) * 2007-12-31 2009-07-01 Htc Corp Method and device for adjusting output frame
US9584710B2 (en) * 2008-02-28 2017-02-28 Avigilon Analytics Corporation Intelligent high resolution video system
US8159616B2 (en) * 2008-03-27 2012-04-17 Bang & Olufsen A/S Histogram and chrominance processing
US9384535B2 (en) * 2008-06-13 2016-07-05 Imax Corporation Methods and systems for reducing or eliminating perceived ghosting in displayed stereoscopic images
ES2389458T3 (es) * 2008-07-10 2012-10-26 The University Of Warwick Métodos y dispositivos para la compresión de datos de vídeo HDR
JP2010056769A (ja) * 2008-08-27 2010-03-11 Seiko Epson Corp 画像処理装置及び画像処理方法
US8339475B2 (en) * 2008-12-19 2012-12-25 Qualcomm Incorporated High dynamic range image combining
EP2200268B1 (en) * 2008-12-22 2012-02-08 Thomson Licensing Method of calibration of a target color reproduction device
US8406569B2 (en) * 2009-01-19 2013-03-26 Sharp Laboratories Of America, Inc. Methods and systems for enhanced dynamic range images and video from multiple exposures
JP5274287B2 (ja) 2009-02-09 2013-08-28 三菱電機株式会社 表示装置および表示システム
KR101256030B1 (ko) * 2009-03-10 2013-04-23 돌비 레버러토리즈 라이쎈싱 코오포레이션 확장된 동적 범위 및 확장된 차수 이미지 신호 변환
JP5589006B2 (ja) 2009-03-13 2014-09-10 ドルビー ラボラトリーズ ライセンシング コーポレイション 高ダイナミックレンジ、視覚ダイナミックレンジ及び広色域のビデオの階層化圧縮
US8325385B2 (en) * 2009-03-27 2012-12-04 Konica Minolta Laboratory U.S.A., Inc. System and methods for processing color data in converting color data from one color space to another color space
JP5566048B2 (ja) 2009-04-28 2014-08-06 キヤノン株式会社 表示装置及びその制御方法
WO2010132237A1 (en) * 2009-05-11 2010-11-18 Dolby Laboratories Licensing Corporation Light detection, color appearance models, and modifying dynamic range for image display
JP2011022481A (ja) * 2009-07-17 2011-02-03 Panasonic Corp 液晶表示装置
US8897377B2 (en) 2009-12-31 2014-11-25 Broadcom Corporation Transcoding multiple media elements for independent wireless delivery
EP2360926A1 (en) 2010-01-19 2011-08-24 Fraunhofer-Gesellschaft zur Förderung der Angewandten Forschung e.V. Image encoder and image decoder
JP5400902B2 (ja) 2010-01-22 2014-01-29 パナソニック株式会社 制御装置、表示装置、眼鏡装置及び映像システム
WO2011103258A2 (en) 2010-02-22 2011-08-25 Dolby Laboratories Licensing Corporation Video display control using embedded metadata
US8890793B2 (en) 2010-03-26 2014-11-18 Hong Kong Applied Science and Technology Research Institute, Co. Ltd. Adjusting a brightness level of a backlight of a display device
US8280184B2 (en) 2010-04-01 2012-10-02 Himax Media Solutions, Inc. Image enhancement method and apparatuses utilizing the same
US8493316B2 (en) * 2010-04-22 2013-07-23 Qualcomm Incorporated Adjusting backlight intensity based on a progress of a task
US20110292992A1 (en) 2010-05-28 2011-12-01 Microsoft Corporation Automating dynamic information insertion into video
JP5611457B2 (ja) * 2010-06-08 2014-10-22 ドルビー ラボラトリーズ ライセンシング コーポレイション 階調および色再現域のマッピング方法および装置
US20130107956A1 (en) * 2010-07-06 2013-05-02 Koninklijke Philips Electronics N.V. Generation of high dynamic range images from low dynamic range images
CN103180891B (zh) * 2010-07-22 2015-09-02 杜比实验室特许公司 显示器管理服务器
WO2012017946A1 (ja) * 2010-08-04 2012-02-09 日本電気株式会社 画像処理方法、画像処理装置及び画像処理プログラム
US8677428B2 (en) * 2010-08-20 2014-03-18 Disney Enterprises, Inc. System and method for rule based dynamic server side streaming manifest files
TWI559779B (zh) 2010-08-25 2016-11-21 杜比實驗室特許公司 擴展影像動態範圍
US8704859B2 (en) * 2010-09-30 2014-04-22 Apple Inc. Dynamic display adjustment based on ambient conditions
US8462221B2 (en) 2010-11-03 2013-06-11 Eastman Kodak Company Method for producing high dynamic range images
EP2643809B1 (en) * 2010-11-23 2020-06-24 Dolby Laboratories Licensing Corporation Content metadata enhancement of high dynamic range images
US9024951B2 (en) 2011-02-16 2015-05-05 Apple Inc. Devices and methods for obtaining high-local-contrast image data
US20140003527A1 (en) 2011-03-10 2014-01-02 Dolby Laboratories Licensing Corporation Bitdepth and Color Scalable Video Coding
US8621320B2 (en) * 2011-04-07 2013-12-31 Apple Inc. Per-image forward error correction
US8743291B2 (en) * 2011-04-12 2014-06-03 Dolby Laboratories Licensing Corporation Quality assessment for images that have extended dynamic ranges or wide color gamuts
US8971408B2 (en) 2011-04-14 2015-03-03 Dolby Laboratories Licensing Corporation Piecewise cross color channel predictor
TWI521973B (zh) 2011-04-15 2016-02-11 杜比實驗室特許公司 高動態範圍影像的編碼、解碼及表示
WO2012148883A1 (en) 2011-04-25 2012-11-01 Dolby Laboratories Licensing Corporation Non-linear vdr residual quantizer
CN103891294B (zh) * 2011-04-28 2017-09-01 皇家飞利浦有限公司 用于hdr图像编码和解码的装置与方法
MX2013012976A (es) 2011-05-10 2013-12-06 Koninkl Philips Nv Generacion y procesamiento de señal de imagen de intervalo dinamico alto.
KR20200074229A (ko) 2011-05-27 2020-06-24 돌비 레버러토리즈 라이쎈싱 코오포레이션 변하는 레벨들의 메타데이터을 포함하는 컬러 관리를 제어하기 위한 스케일러블 시스템들
US8891863B2 (en) * 2011-06-13 2014-11-18 Dolby Laboratories Licensing Corporation High dynamic range, backwards-compatible, digital cinema
US20120324492A1 (en) 2011-06-20 2012-12-20 Microsoft Corporation Video selection based on environmental sensing
US8576445B2 (en) 2011-06-28 2013-11-05 Konica Minolta Laboratory U.S.A., Inc. Method for processing high dynamic range images using tone mapping to extended RGB space
JP5747711B2 (ja) * 2011-07-22 2015-07-15 富士通株式会社 ネットワーク評価装置
US9451292B2 (en) 2011-09-15 2016-09-20 Dolby Laboratories Licensing Corporation Method and system for backward compatible, extended dynamic range encoding of video
US8988552B2 (en) * 2011-09-26 2015-03-24 Dolby Laboratories Licensing Corporation Image formats and related methods and apparatuses
CA2850037C (en) 2011-09-27 2022-10-04 Koninklijke Philips N.V. Apparatus and method for dynamic range transforming of images
KR101579831B1 (ko) 2011-10-20 2015-12-23 돌비 레버러토리즈 라이쎈싱 코오포레이션 비디오 등화를 위한 방법 및 시스템
CN104185991B (zh) * 2011-11-09 2018-07-06 弗劳恩霍夫应用研究促进协会 不同动态采样值范围的层之间的层间预测
SG10201607838PA (en) 2011-12-06 2016-12-29 Dolby Lab Licensing Corp Device and method of improving the perceptual luminance nonlinearity - based image data exchange across different display capabilities
US8773543B2 (en) 2012-01-27 2014-07-08 Nokia Corporation Method and apparatus for image data transfer in digital photographing
KR101793628B1 (ko) 2012-04-08 2017-11-06 삼성전자주식회사 투명 디스플레이 장치 및 그 디스플레이 방법
JP5598769B2 (ja) 2012-04-16 2014-10-01 コニカミノルタ株式会社 色調整方法及び色調整プログラム
US20130308027A1 (en) 2012-05-03 2013-11-21 Aptina Imaging Corporation Systems and methods for generating metadata in stacked-chip imaging systems
CN104508590A (zh) 2012-05-24 2015-04-08 波普斯莱特传媒公司 用于移动计算设备的动态可变的装饰性防护附件
US11089247B2 (en) 2012-05-31 2021-08-10 Apple Inc. Systems and method for reducing fixed pattern noise in image data
US9258641B2 (en) * 2012-06-07 2016-02-09 Qbiz, Llc Method and system of audio capture based on logarithmic conversion
US9330606B2 (en) 2012-06-08 2016-05-03 Apple Inc. Electronic device with display brightness control
KR20130141920A (ko) * 2012-06-18 2013-12-27 삼성디스플레이 주식회사 색역 변환 시스템 및 방법
AR091515A1 (es) 2012-06-29 2015-02-11 Sony Corp Dispositivo y metodo para el procesamiento de imagenes
JP6382805B2 (ja) * 2012-07-13 2018-08-29 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 改良されたhdr画像符号化及び復号方法並びに装置
US8821281B2 (en) * 2012-07-17 2014-09-02 International Business Machines Corporation Detection of an orientation of a game player relative to a screen
KR101970122B1 (ko) 2012-08-08 2019-04-19 돌비 레버러토리즈 라이쎈싱 코오포레이션 Hdr 이미지들을 위한 이미지 프로세싱
US9064313B2 (en) 2012-09-28 2015-06-23 Intel Corporation Adaptive tone map to a region of interest to yield a low dynamic range image
WO2014047875A1 (en) 2012-09-28 2014-04-03 Intel Corporation Content based dynamic control methods and systems for display brightness
CN103077696B (zh) 2013-01-15 2015-08-12 Opera软件股份公司 用于调节显示屏亮度的方法和设备以及显示系统
CN104956670B (zh) * 2013-01-25 2017-09-08 杜比实验室特许公司 基于全局显示管理的光调制
US9058667B2 (en) 2013-01-30 2015-06-16 Apple Inc. Detail preserving image transfer operations
US9699482B2 (en) * 2013-02-21 2017-07-04 Koninklijke Philips N.V. HDR image encoding and decoding methods and devices
TWI473039B (zh) 2013-03-05 2015-02-11 Univ Tamkang 影像的動態範圍壓縮與局部對比增強方法及影像處理裝置
GB201304221D0 (en) 2013-03-08 2013-04-24 Univ Warwick High Dynamic Range Imaging Systems
FR3003378A1 (fr) 2013-03-12 2014-09-19 St Microelectronics Grenoble 2 Procede de mappage de tons
WO2014145003A1 (en) 2013-03-15 2014-09-18 Ostendo Technologies, Inc. Dynamic gamut display systems, methods, and applications thereof
US20140321561A1 (en) 2013-04-26 2014-10-30 DDD IP Ventures, Ltd. System and method for depth based adaptive streaming of video information
US8866975B1 (en) 2013-05-02 2014-10-21 Dolby Laboratories Licensing Corporation Backwards-compatible delivery of digital cinema content with higher dynamic range and related preprocessing and coding methods
KR102031580B1 (ko) 2013-05-10 2019-11-08 엘지디스플레이 주식회사 표시 장치, 표시 장치 제어 방법
CN103391435A (zh) * 2013-07-02 2013-11-13 广东工业大学 一种兼容ldr的hdr图像编码方法及其解码方法
JP6351313B2 (ja) 2013-07-11 2018-07-04 キヤノン株式会社 画像符号化装置、画像復号装置、画像処理装置、並びにそれらの制御方法
US10057633B2 (en) 2013-07-14 2018-08-21 Lg Electronics Inc. Method and apparatus for transmitting and receiving ultra high-definition broadcasting signal for expressing high-quality color in digital broadcasting system
PL3022895T3 (pl) 2013-07-18 2019-09-30 Koninklijke Philips N.V. Sposoby i urządzenia do tworzenia funkcji odwzorowywania kodu do kodowania obrazu hdr, oraz sposoby i urządzenia do używania tak zakodowanych obrazów
US20150130967A1 (en) 2013-11-13 2015-05-14 Nvidia Corporation Adaptive dynamic range imaging
US9973723B2 (en) 2014-02-24 2018-05-15 Apple Inc. User interface and graphics composition with high dynamic range video
US10271054B2 (en) 2014-02-25 2019-04-23 Apple, Inc. Display-side adaptive video processing
JP6731722B2 (ja) * 2015-05-12 2020-07-29 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 表示方法および表示装置
US10152777B2 (en) 2015-12-17 2018-12-11 Koninklijke Philips N.V. Dynamic range coding for images and video
US10200687B2 (en) * 2017-06-02 2019-02-05 Apple Inc. Sample adaptive offset for high dynamic range (HDR) video compression
US10212456B2 (en) 2017-06-02 2019-02-19 Apple Inc. Deblocking filter for high dynamic range (HDR) video

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103262535A (zh) * 2010-10-19 2013-08-21 弗兰霍菲尔运输应用研究公司 利用时间性一致动态范围映射的视频编码技术

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI754970B (zh) * 2020-06-22 2022-02-11 鴻海精密工業股份有限公司 加速啟動函數運算的裝置、方法及存儲介質
CN111970564A (zh) * 2020-08-26 2020-11-20 展讯通信(上海)有限公司 Hdr视频显示处理的优化方法及装置、存储介质、终端

Also Published As

Publication number Publication date
AU2020201023A1 (en) 2020-03-05
KR20210143940A (ko) 2021-11-29
KR20180102222A (ko) 2018-09-14
AU2015223123A1 (en) 2016-09-15
US10986345B2 (en) 2021-04-20
JP2021010171A (ja) 2021-01-28
JP2024009972A (ja) 2024-01-23
CN116320394A (zh) 2023-06-23
JP2022009011A (ja) 2022-01-14
EP3829171A1 (en) 2021-06-02
DE112015000950T5 (de) 2016-12-08
JP2018207512A (ja) 2018-12-27
CN106031172B (zh) 2019-08-20
US10271054B2 (en) 2019-04-23
KR101898643B1 (ko) 2018-09-14
US20150243200A1 (en) 2015-08-27
US20150245044A1 (en) 2015-08-27
KR102330316B1 (ko) 2021-11-24
US10212429B2 (en) 2019-02-19
JP2017513257A (ja) 2017-05-25
KR20220106177A (ko) 2022-07-28
KR20160110985A (ko) 2016-09-23
CN106030503B (zh) 2020-04-17
AU2021204255A1 (en) 2021-07-22
CN111526350B (zh) 2022-04-05
CN111526350A (zh) 2020-08-11
CN106030503A (zh) 2016-10-12
CN111246050A (zh) 2020-06-05
CN106233706B (zh) 2020-01-03
WO2015130796A1 (en) 2015-09-03
US20210227226A1 (en) 2021-07-22
KR102509533B1 (ko) 2023-03-14
JP7038021B2 (ja) 2022-03-17
AU2021204255B2 (en) 2022-11-24
KR102025037B1 (ko) 2019-09-24
US10812801B2 (en) 2020-10-20
WO2015130793A1 (en) 2015-09-03
CN106233706A (zh) 2016-12-14
KR20230041827A (ko) 2023-03-24
CN106031172A (zh) 2016-10-12
AU2023200732B2 (en) 2024-01-18
US10880549B2 (en) 2020-12-29
US20150243243A1 (en) 2015-08-27
AU2020201023B2 (en) 2021-04-01
AU2018208733B2 (en) 2020-01-30
CN111246050B (zh) 2022-10-28
AU2023200732A1 (en) 2023-03-09
US20190182487A1 (en) 2019-06-13
KR20190109579A (ko) 2019-09-25
KR102414567B1 (ko) 2022-06-29
US10264266B2 (en) 2019-04-16
US20150245050A1 (en) 2015-08-27
US11445202B2 (en) 2022-09-13
US20220408096A1 (en) 2022-12-22
US20210235093A1 (en) 2021-07-29
JP6383425B2 (ja) 2018-08-29
AU2018208733A1 (en) 2018-08-16
US20150245043A1 (en) 2015-08-27
WO2015130797A1 (en) 2015-09-03
EP3111644A1 (en) 2017-01-04
KR20200118237A (ko) 2020-10-14
KR102654563B1 (ko) 2024-04-05
JP7429676B2 (ja) 2024-02-08
DE112015000959T5 (de) 2016-11-17
US20210037246A1 (en) 2021-02-04

Similar Documents

Publication Publication Date Title
CN106031172B (zh) 用于视频编码和解码的自适应传递函数
KR20150070336A (ko) 비디오 스트림에 섬네일 정보 실장

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20191022

WD01 Invention patent application deemed withdrawn after publication