JP7450664B2 - シミュレートされた深度効果のためのユーザインタフェース - Google Patents

シミュレートされた深度効果のためのユーザインタフェース Download PDF

Info

Publication number
JP7450664B2
JP7450664B2 JP2022095182A JP2022095182A JP7450664B2 JP 7450664 B2 JP7450664 B2 JP 7450664B2 JP 2022095182 A JP2022095182 A JP 2022095182A JP 2022095182 A JP2022095182 A JP 2022095182A JP 7450664 B2 JP7450664 B2 JP 7450664B2
Authority
JP
Japan
Prior art keywords
representation
image data
depth
image
touch
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022095182A
Other languages
English (en)
Other versions
JP2022133303A (ja
Inventor
ジョニー ビー. マンザリ,
ジョナサン ピー. イヴ,
アラン シー. ダイ,
ドス サントス, アンドレ サウザ
パヴェル ピヴォンカ,
サード, ウィリアム エー. ソレンティーノ
リチャード デーヴィッド シーリー,
リチャード エル. ベア,
アラシ エス. ベール,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Apple Inc
Original Assignee
Apple Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from PCT/US2019/049101 external-priority patent/WO2020055613A1/en
Application filed by Apple Inc filed Critical Apple Inc
Publication of JP2022133303A publication Critical patent/JP2022133303A/ja
Application granted granted Critical
Publication of JP7450664B2 publication Critical patent/JP7450664B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04847Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0414Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means using force sensing means to determine a position
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/4401Bootstrapping
    • G06F9/4418Suspend and resume; Hibernate and awake
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/634Warning indications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/2224Studio circuitry; Studio devices; Studio equipment related to virtual studio applications
    • H04N5/2226Determination of depth image, e.g. for foreground/background separation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Geometry (AREA)
  • Computer Graphics (AREA)
  • Computer Security & Cryptography (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Studio Devices (AREA)

Description

関連出願へのクロスリファレンス
本出願は、2018年9月11日に出願された「USER INTERFACES FOR SIMULATED DEPTH EFFECTS」と題する米国仮特許出願第62/729,926号、及び2018年9月27日に出願された「USER INTERFACES FOR SIMULATED DEPTH EFFECTS」と題する米国特許出願第16/144,629号並びに、2018年9月24日に出願された「USER INTERFACES FOR SIMULATED DEPTH EFFECTS」と題するデンマーク出願第PA201870623号に対する優先権を主張し、これらの出願のそれぞれの内容があらゆる目的のため、その全体が参照により本明細書に組み込まれる。
本開示は概して、コンピュータユーザインタフェースに関し、より具体的には、シミュレートされた深度効果のためのユーザインタフェースを管理するための技法に関する。
現在のところ、ユーザは、大型カメラを使用せずに、正確な被写界深度特性を有する画像又は写真をキャプチャすることができない。更に、ユーザは、記憶された画像又は写真の被写界深度特性に対する正確な調整を迅速かつ容易に行うことができない。
しかしながら、電子デバイスを使用して深度効果をシミュレートするための一部の技法は、概して扱いにくく非効率である。例えば、一部の既存の技法では、複数回のキー押下又は打鍵を含む場合がある、複雑かつ時間のかかるユーザインタフェースが使用されている。既存の技法は、必要以上の時間がかかり、ユーザの時間及びデバイスのエネルギーを浪費する。後者の問題は、バッテリ動作式デバイスにおいては特に重大である。
したがって、本技法は、電子デバイスに、シミュレートされた深度効果のための高速かつ効率的な方法及びインタフェースを提供する。そのような方法及びインタフェースは、任意選択的に、シミュレートされた深度効果のための他の方法を補完又は置換する。そのような方法及びインタフェースは、ユーザにかかる認識的負担を低減し、より効率的なヒューマン-マシンインタフェースを作成する。バッテリ動作コンピューティングデバイスの場合、そのような方法及びインタフェースは、電力を節約し、バッテリ充電の間隔を長くする。このような方法及びインタフェースはまた、別のデバイスの支援がなくても電子デバイスのみを使用して、適用された深度効果の容易な適用及び編集を可能にし、それにより、ユーザの効率性と利便性を高めることができる。
いくつかの実施形態によれば、ディスプレイ及び1つ以上の入力デバイスを有する電子デバイスで実行される方法が説明される。方法は、ディスプレイ上に画像データの表現を表示することと、シミュレートされた深度効果に関する複数の選択可能値のうち第1の値によって修正された、シミュレートされた深度効果を有する画像データの表現を表示する間に、1つ以上の入力デバイスを介して、第1の入力を検出することと、第1の入力を検出したことに応じて、画像データの表現を操作することに関連付けられた調整可能スライダをディスプレイ上に表示することであって、調整可能スライダは、シミュレートされた深度効果に関する複数の選択可能値に対応する複数のオプションインジケータと、第1の値が現在選択されたシミュレートされた深度効果値であることを示す選択インジケータと、調整可能スライダを表示している間に、1つ以上の入力デバイスを介して、調整可能スライダへの入力を検出することと、調整可能スライダへの入力を検出したことに応じて、シミュレートされた深度効果に関する複数の選択可能値のうちの第2の値が現在選択されたシミュレートされた深度効果値であることを示すように調整可能スライダを移動させることと、第2の値によって修正されたシミュレートされた深度効果に従って、画像データの表現の外観を変更することと、を含む。
いくつかの実施形態によれば、非一時的コンピュータ可読記憶媒体が記載される。非一時的コンピュータ可読記憶媒体は、ディスプレイ及び1つ以上の入力デバイスを有する電子デバイスの1つ以上のプロセッサによって実行されるように構成された1つ以上のプログラムを記憶し、1つ以上のプログラムは、画像データの表現をディスプレイ上に表示し、シミュレートされた深度効果に関する複数の選択可能値の第1の値によって修正された、シミュレートされた深度効果を有する画像データの表現を表示している間に、1つ以上の入力デバイスを介して第1の入力を検出し、第1の入力を検出したことに応じて、画像データの表現を操作することに関連付けられた調整可能スライダをディスプレイ上に表示し、調整可能スライダは、シミュレートされた深度効果に関する複数の選択可能値に対応する複数のオプションインジケータと、第1の値が現在選択されたシミュレートされた深度効果値であることを示す選択インジケータと、を含み、調整可能スライダを表示している間に、1つ以上の入力デバイスを介して、調整可能スライダへの入力を検出し、調整可能スライダへの入力を検出したことに応じて、シミュレートされた深度効果に関する複数の選択可能値のうちの第2の値が、現在選択されたシミュレート深度効果値であることを示すように調整可能スライダを移動させ、第2の値によって修正されたシミュレートされた深度効果に従って、画像データの表現の外観を変更する、命令を含む。
いくつかの実施形態によれば、一時的コンピュータ可読記憶媒体が記載される。一時的コンピュータ可読記憶媒体は、ディスプレイ及び1つ以上の入力デバイスを有する電子デバイスの1つ以上のプロセッサによって実行されるように構成された1つ以上のプログラムを記憶し、1つ以上のプログラムは、画像データの表現をディスプレイ上に表示し、シミュレートされた深度効果に関する複数の選択可能値の第1の値によって修正された、シミュレートされた深度効果を有する画像データの表現を表示している間に、1つ以上の入力デバイスを介して第1の入力を検出し、第1の入力を検出したことに応じて、画像データの表現を操作することに関連付けられた調整可能スライダをディスプレイ上に表示し、調整可能スライダは、シミュレートされた深度効果に関する複数の選択可能値に対応する複数のオプションインジケータと、第1の値が現在選択されたシミュレートされた深度効果値であることを示す選択インジケータと、を含み、調整可能スライダを表示している間に、1つ以上の入力デバイスを介して、調整可能スライダへの入力を検出し、調整可能スライダへの入力を検出したことに応じて、シミュレートされた深度効果に関する複数の選択可能値のうちの第2の値が、現在選択されたシミュレート深度効果値であることを示すように調整可能スライダを移動させ、第2の値によって修正されたシミュレートされた深度効果に従って、画像データの表現の外観を変更する、命令を含む。
いくつかの実施形態によれば、電子デバイスが記載される。電子デバイスは、ディスプレイと、1つ以上の入力デバイスと、1つ以上のプロセッサと、1つ以上のプロセッサによって実行されるように構成された1つ以上のプログラムを記憶するメモリと、を備え、1つ以上のプログラムは、画像データの表現をディスプレイ上に表示し、シミュレートされた深度効果に関する複数の選択可能値のうち第1の値によって修正された、シミュレートされた深度効果を有する画像データの表現を表示している間に、1つ以上の入力デバイスを介して第1の入力を検出し、第1の入力を検出したことに応じて、画像データの表現を操作することに関連付けられた調整可能スライダをディスプレイ上に表示し、調整可能スライダは、シミュレートされた深度効果に関する複数の選択可能値に対応する複数のオプションインジケータと、第1の値が現在選択されたシミュレート深度効果値であることを示す選択インジケータと、を含み、調整可能スライダを表示している間に、1つ以上の入力デバイスを介して、調整可能スライダへの入力を検出し、調整可能スライダへの入力を検出したことに応じて、シミュレートされた深度効果に関する複数の選択可能値のうちの第2の値が現在選択されたシミュレート深度効果値を示すように調整可能スライダを移動させ、第2の値によって修正されたシミュレートされた深度効果に従って、画像データの表現の外観を変更する、命令を含む。
いくつかの実施形態によれば、電子デバイスが記載される。電子デバイスは、ディスプレイと、1つ以上の入力デバイスと、画像データの表現をディスプレイに表示する手段と、シミュレートされた深度効果に関する複数の選択可能値のうち第1の値によって修正された、シミュレートされた深度効果を有する画像データの表現を表示している間に、1つ以上の入力デバイスを介して第1の入力を検出する手段と、第1の入力を検出したことに応じて、画像データの表現を操作することに関連付けられた調整可能スライダをディスプレイ上に表示する手段であって、調整可能スライダは、シミュレートされた深度効果に関する複数の選択可能値に対応する複数のオプションインジケータと、第1の値が現在選択されたシミュレートされた深度効果値であることを示す選択インジケータと、を含むようにする手段と、調整可能スライダを表示している間に、1つ以上の入力デバイスを介して調整可能スライダへの入力を検出する手段と、調整可能スライダへの入力を検出したことに応じて、シミュレートされた深度効果に関する複数の選択可能値のうち第2の値が、現在選択されたシミュレートされた深度効果値であることを示すように調整可能スライダを移動させ、第2の値によって修正された前記シミュレートされた深度効果に従って、画像データの前記表現の外観を変更する手段と、を含む。
いくつかの実施形態によれば、ディスプレイ及び1つ以上の入力デバイスを有する電子デバイスで実行される方法が説明される。方法は、1つ以上の入力デバイスを介して、シミュレートされた深度効果を画像データの表現に適用する要求を受信することであって、画像データの表現内の被写体についての深度データが利用可能であるようにすることと、シミュレートされた深度効果を画像データの表現に適用する要求を受信したことに応じて、シミュレートされた深度効果を有する画像データの表現をディスプレイ上に表示することであって、第1の方式で第1の深度を有する画像データの表現の第1の部分を歪ませることであって、第1の方法は、画像データの表現の既定部分から第1の部分の距離に基づいて決定される、ことと、第1の方式とは異なる第2の方式で第1の深度を有する画像データの表現の第2の部分を歪ませることであって、第2の方法は、画像データの表現の既定部分からの第2の部分の距離に基づいて決定される、ことと、を含むようにすることと、を含む。
いくつかの実施形態によれば、非一時的コンピュータ可読記憶媒体が記載される。非一時的コンピュータ可読記憶媒体は、ディスプレイ及び1つ以上の入力デバイスを有する電子デバイスの1つ以上のプロセッサによって実行されるように構成された1つ以上のプログラムを記憶し、1つ以上のプログラムは、1つ以上の入力デバイスを介して、シミュレートされた深度効果を画像データの表現に適用する要求を受信し、画像データの表現内の被写体についての深度データが利用可能であり、シミュレートされた深度効果を画像データの表現に適用する要求を受信したことに応じて、シミュレートされた深度効果を有する画像データの表現をディスプレイ上に表示し、第1の方式で第1の深度を有する画像データの表現の第1の部分を歪ませることであって、第1の方法は、画像データの表現の既定部分からの第1の部分の距離に基づいて決定される、ことと、第1の方式とは異なる第2の方式で第1の深度を有する画像データの表現の第2の部分を歪ませることであって、第2の方法は、画像データの表現の既定部分からの第2の部分の距離に基づいて決定される、ことと、を含む、命令を含む。
いくつかの実施形態によれば、一時的コンピュータ可読記憶媒体が記載される。一時的コンピュータ可読記憶媒体は、ディスプレイ及び1つ以上の入力デバイスを有する電子デバイスの1つ以上のプロセッサによって実行されるように構成された1つ以上のプログラムを記憶し、1つ以上のプログラムは、1つ以上の入力デバイスを介して、シミュレートされた深度効果を画像データの表現に適用する要求を受信し、画像データの表現内の被写体についての深度データが利用可能であり、シミュレートされた深度効果を画像データの表現に適用する要求を受信したことに応じて、シミュレートされた深度効果を有する画像データの表現をディスプレイ上に表示し、第1の方式で第1の深度を有する画像データの表現の第1の部分を歪ませることであって、第1の方法は、画像データの表現の既定部分からの第1の部分の距離に基づいて決定される、ことと、第1の方式とは異なる第2の方式で第1の深度を有する画像データの表現の第2の部分を歪ませることであって、第2の方法は、画像データの表現の既定部分からの第2の部分の距離に基づいて決定される、ことと、を含む、命令を含む。
いくつかの実施形態によれば、電子デバイスが記載される。電子デバイスは、ディスプレイと、1つ以上の入力デバイスと、1つ以上のプロセッサと、1つ以上のプロセッサによって実行されるように構成された1つ以上のプログラムを記憶するメモリと、を備え、1つ以上のプログラムは、1つ以上の入力デバイスを介して、シミュレートされた深度効果を画像データの表現に適用する要求を受信し、画像データの表現内の被写体についての深度データが利用可能であり、シミュレートされた深度効果を画像データの表現に適用する要求を受信したことに応じて、シミュレートされた深度効果を有する画像データの表現をディスプレイ上に表示し、第1の方式で第1の深度を有する画像データの表現の第1の部分を歪ませることであって、第1の方法は、画像データの表現の既定部分からの第1の部分の距離に基づいて決定される、ことと、第1の方式とは異なる第2の方式で第1の深度を有する画像データの表現の第2の部分を歪ませることであって、第2の方法は、画像データの表現の既定部分からの第2の部分の距離に基づいて決定される、を含む、命令を含む。
いくつかの実施形態によれば、電子デバイスが記載される。電子デバイスは、ディスプレイと、1つ以上の入力デバイスと、1つ以上の入力デバイスを介して、シミュレートされた深度効果を画像データの表現に適用する手段であって、画像データの表現内の被写体についての深度データが利用可能であり、シミュレートされた深度効果を画像データの表現に適用する要求を受信したことに応じて、ディスプレイ上にシミュレートされた深度効果を有する画像データの表現を表示するための手段であって、第1の方式で第1の深度を有する画像データの表現の第1の部分を歪ませることであって、第1の方法は、画像データの表現の既定部分からの第1の部分の距離に基づいて決定される、ことと、第1の方式とは異なる第2の方式で第1の深度を有する画像データの表現の第2の部分を歪ませることであって、第2の方法は、画像データの表現の既定部分からの第2の部分の距離に基づいて決定される、ことと、を含む、手段と、を含む。
いくつかの実施形態によれば、ディスプレイ及び1つ以上のカメラを含む1つ以上のセンサを有する電子デバイスで実行される方法が説明される。方法は、カメラアプリケーションのユーザインタフェースをディスプレイ上に表示している間に、1つ以上のセンサを介して、1つ以上のカメラのそれぞれの機能の動作を害する外部干渉を検出することと、電子デバイスに対する外部干渉を検出したことに応じて、第1の基準が満たされているという判定に従って、1つ以上のカメラのそれぞれの機能に対する外部干渉の影響を低減するように1つ以上のカメラの動作モードが変更されたことを示す通知をディスプレイ上に表示することと、第1の基準が満たされていないという判定に従って、1つ以上のカメラの動作モードが変更されたことを示す通知をディスプレイ上に表示することを見合わせることと、を含む。
いくつかの実施形態によれば、非一時的コンピュータ可読記憶媒体が記載される。非一時的コンピュータ可読記憶媒体は、1つ以上のカメラを備え、ディスプレイ及び1つ以上のセンサを有する電子デバイスの1つ以上のプロセッサによって実行されるように構成された1つ以上のプログラムを記憶し、1つ以上のプログラムは、カメラアプリケーションのユーザインタフェースをディスプレイ上に表示している間に、1つ以上のセンサを介して、1つ以上のカメラのそれぞれの機能の動作を害する外部干渉を検出する命令と、電子デバイスに対する外部干渉を検出したことに応じて、第1の基準が満たされているという判定に従って、1つ以上のカメラのそれぞれの機能に対する外部干渉の影響を低減するように1つ以上のカメラの動作モードが変更されたことを示す通知をディスプレイ上に表示する命令と、第1の基準が満たされていないという判定に従って、1つ以上のカメラの動作モードが変更されたことを示す通知をディスプレイ上に表示することを見合わせる命令と、を含む。
いくつかの実施形態によれば、一時的コンピュータ可読記憶媒体が記載される。一時的コンピュータ可読記憶媒体は、1つ以上のカメラを備え、ディスプレイ及び1つ以上のセンサを有する電子デバイスの1つ以上のプロセッサによって実行されるように構成された1つ以上のプログラムを記憶し、1つ以上のプログラムは、カメラアプリケーションのユーザインタフェースをディスプレイ上に表示している間に、1つ以上のセンサを介して、1つ以上のカメラのそれぞれの機能の動作を害する外部干渉を検出する命令と、電子デバイスに対する外部干渉を検出したことに応じて、第1の基準が満たされているという判定に従って、1つ以上のカメラのそれぞれの機能に対する外部干渉の影響を低減するように1つ以上のカメラの動作モードが変更されたことを示す通知をディスプレイ上に表示する命令と、第1の基準が満たされていないという判定に従って、1つ以上のカメラの動作モードが変更されたことを示す通知をディスプレイ上に表示することを見合わせる命令と、を含む。
いくつかの実施形態によれば、電子デバイスが記載される。電子デバイスは、ディスプレイと、1つ以上のカメラを含む1つ以上のセンサと、1つ以上のプロセッサと、1つ以上のプロセッサによって実行されるように構成された1つ以上のプログラムを記憶するメモリと、を備え、1つ以上のプログラムは、カメラアプリケーションのユーザインタフェースをディスプレイ上に表示している間に、1つ以上のセンサを介して、1つ以上のカメラのそれぞれの機能の動作を害する外部干渉を検出し、電子デバイスに対する外部干渉を検出したことに応じて、第1の基準が満たされているという判定に従って、1つ以上のカメラのそれぞれの機能に対する外部干渉の影響を低減するように1つ以上のカメラの動作モードが変更されたことを示す通知をディスプレイ上に表示し、第1の基準が満たされていないという判定に従って、1つ以上のカメラの動作モードが変更されたことを示す通知をディスプレイ上に表示することを見合わせる、命令を含む。
いくつかの実施形態によれば、電子デバイスが記載される。電子デバイスは、ディスプレイと、1つ以上のカメラを含む1つ以上のセンサと、カメラアプリケーションのユーザインタフェースをディスプレイ上に表示している間に、1つ以上のセンサを介して、1つ以上のカメラのそれぞれの機能の動作を害する外部干渉を検出する手段と、電子デバイスに対する外部干渉を検出したことに応じて、第1の基準が満たされているという判定に従って、1つ以上のカメラのそれぞれの機能に対する外部干渉の影響を低減するように1つ以上のカメラの動作モードが変更されたことを示す通知をディスプレイ上に表示する手段と、第1の基準が満たされていないという判定に従って、1つ以上のカメラの動作モードが変更されたことを示す通知をディスプレイ上に表示することを見合わせる手段と、を含む。
これらの機能を実行する実行可能命令は、任意選択的に、1つ以上のプロセッサによって実行されるために構成された非一時的コンピュータ可読記憶媒体又は他のコンピュータプログラム製品に含まれる。これらの機能を実行する実行可能命令は、任意選択的に、1つ以上のプロセッサによって実行されるために構成された一時的コンピュータ可読記憶媒体又は他のコンピュータプログラム製品内に含まれる。
このため、デバイスは、画像効果を調整するための、より速く、より効率的な方法及びインタフェースを備え、それによって、そのようなデバイスの有効性、効率性、及びユーザ満足度が増す。このような方法及びインタフェースは、画像効果を調整するための他の方法を補完又は置き換えることができる。
記載する様々な実施形態をより良く理解するために、下記の図面と併せて、以下の実施形態の説明を参照されたい。同様の参照番号は、図面全体を通じて、対応する部品を指す。
いくつかの実施形態に係る、タッチ感知ディスプレイを有するポータブル多機能デバイスを示すブロック図である。
いくつかの実施形態に係る、イベント処理のための例示的な構成要素を示すブロック図である。
いくつかの実施形態に係る、タッチスクリーンを有するポータブル多機能デバイスを示す。
いくつかの実施形態に係る、ディスプレイ及びタッチ感知面を有する例示的な多機能デバイスのブロック図である。
いくつかの実施形態に係る、ポータブル多機能デバイス上のアプリケーションのメニューの例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、ディスプレイとは別個のタッチ感知面を有する多機能デバイスの例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、パーソナル電子デバイスを示す。
いくつかの実施形態に係るパーソナル電子デバイスを示すブロック図である。
いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、シミュレートされた深度効果を調整するユーザインタフェースを管理する方法を示すフロー図である。 いくつかの実施形態に係る、シミュレートされた深度効果を調整するユーザインタフェースを管理する方法を示すフロー図である。
いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するためのユーザインタフェースを管理する方法を示すフロー図である。 いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するためのユーザインタフェースを管理する方法を示すフロー図である。
いくつかの実施形態に係る、シミュレートされた画像効果を調整する干渉を示すための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた画像効果を調整する干渉を示すための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた画像効果を調整する干渉を示すための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた画像効果を調整する干渉を示すための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた画像効果を調整する干渉を示すための例示的なユーザインタフェースを示す。 いくつかの実施形態に係る、シミュレートされた画像効果を調整する干渉を示すための例示的なユーザインタフェースを示す。
いくつかの実施形態に係る、シミュレートされた画像効果を調整する干渉を示すためのユーザインタフェースを管理する方法を示すフロー図である。
以下の説明は、例示的な方法、パラメータなどについて記載する。しかしながら、そのような説明は、本開示の範囲に対する限定として意図されるものではなく、むしろ例示的な実施形態の説明として提供されることを認識されたい。
深度効果をシミュレートするための効率的な方法及びインタフェースを提供する電子デバイスが必要とされている。例えば、ライブフィード画像/写真をキャプチャすることができ、又は記憶された画像/写真を表示することができ、ユーザが画像/写真の被写界深度特性に対する正確な調整を迅速かつ容易に行うことを可能にするデバイスが必要とされている。そのような技法は、画像効果の調整に関連付けられた表示コンテンツにアクセスするユーザの認識的負担を減らし、それによって生産性を高めることができる。更に、そのような技法は、普通なら冗長なユーザ入力に浪費されるプロセッサ及びバッテリの電力を低減することができる。
以下、図1A~図1B、図2、図3、図4A~図4B、及び図5A~図5Bは、イベント通知を管理する技法を実行するための例示的なデバイスの説明を提供する。図6A~図6Tは、いくつかの実施形態に係る、シミュレートされた深度効果を調整するための例示的なユーザインタフェースを示す。図7A~図7Bは、いくつかの実施形態に係る、シミュレートされた深度効果を調整するためのユーザインタフェースを管理する方法を示すフロー図である。図6A~図6Tのユーザインタフェースは、図7~図7Bのプロセスを含む後述するプロセスを説明するために使用される。図8A~図8Rは、いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するための例示的なユーザインタフェースを示す。図9A~図9Bは、いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するためのユーザインタフェースを管理する方法を示すフロー図である。図8A~図8Rのユーザインタフェースは、図9A~図9Bのプロセスを含む後述するプロセスを説明するために使用される。図10A~図10Fは、いくつかの実施形態に係る、シミュレートされた画像効果を調整する干渉を示すための例示的なユーザインタフェースを示す。図11は、いくつかの実施形態に係る、シミュレートされた画像効果を調整する干渉を示すためのユーザインタフェースを管理する方法を示すフロー図である。図10A~図10Fのユーザインタフェースは、図11のプロセスを含む後述するプロセスを説明するために使用される。
以下の説明では、様々な要素について説明するために、「第1の」、「第2の」などの用語を使用するが、これらの要素は、それらの用語によって限定されるべきではない。これらの用語は、ある要素を別の要素と区別するためにのみ使用される。例えば、記載する様々な実施形態の範囲から逸脱することなく、第1のタッチを第2のタッチと呼ぶこともでき、同様に第2のタッチを第1のタッチと呼ぶこともできる。第1のタッチ及び第2のタッチはどちらもタッチであるが、これらは同じタッチではない。
本明細書において様々な記載の実施形態の説明で用いられている用語は、特定の実施形態のみを説明する目的のためであって、限定することを意図するものではない。記載する様々な実施形態の説明及び添付の特許請求の範囲では、単数形の「a(1つ、一)」、「an(1つ、一)」、及び「the(その、この)」は、文脈上別途明白に記載しない限り、複数形も同様に含むことが意図される。また、本明細書で使用されるとき、用語「及び/又は」は、関連する列挙された項目のうちの1つ以上のいずれか及び全ての考えられる組み合わせを指し、かつこれを含むことを理解されたい。用語「includes(含む)」、「including(含む)」、「comprises(含む、備える)」、及び/又は「comprising(含む、備える)」は、本明細書で使用する場合、述べられた特徴、整数、ステップ、動作、要素、及び/又は構成要素の存在を指定するが、1つ以上の他の特徴、整数、ステップ、動作、要素、構成要素、及び/又はそれらのグループの存在又は追加を除外しないことが更に理解されるであろう。
「~の場合(if)」という用語は、任意選択的に、文脈に応じて、「~とき(when)」若しくは「~とき(upon)」、又は「~と判定したことに応じて(in response to determining)」若しくは「~を検出したことに応じて(in response to detecting)」を意味すると解釈される。同様に、「~と判定された場合(if it is determined)」又は「[記載の状態又はイベント]が検出された場合(if [a stated condition or event] is detected)」という語句は、任意選択的に、文脈に応じて、「~と判定したとき(upon determining)」若しくは「~と判定したことに応じて(in response to determining)」、又は「[記載の状態又はイベント]を検出したとき(upon detecting [the stated condition or event])」若しくは「[記載の状態又はイベント]を検出したことに応じて(in response to detecting [the stated condition or event])」を意味すると解釈される。
電子デバイス、かかるデバイスのユーザインタフェース、及びかかるデバイスを使用するための関連するプロセスの実施形態を説明する。いくつかの実施形態では、デバイスは、PDA機能及び/又は音楽プレーヤ機能などの他の機能も含む、携帯電話などのポータブル通信デバイスである。ポータブル多機能デバイスの例示的な実施形態としては、カリフォルニア州クパチーノのApple Inc.からのiPhone(登録商標)、iPod Touch(登録商標)、及びiPad(登録商標)のデバイスが挙げられるが、これらに限定されない。任意選択的に、タッチ感知面(例えば、タッチスクリーンディスプレイ及び/又はタッチパッド)を有するラップトップ又はタブレットコンピュータなどの他のポータブル電子デバイスも使用される。また、いくつかの実施形態では、デバイスはポータブル通信デバイスではなく、タッチ感知面(例えば、タッチスクリーンディスプレイ及び/又はタッチパッド)を有するデスクトップコンピュータであることも理解されたい。
以下の考察では、ディスプレイ及びタッチ感知面を含む電子デバイスを説明する。しかしながら、電子デバイスは、任意選択的に、物理キーボード、マウス、及び/又はジョイスティックなどの1つ以上の他の物理ユーザインタフェースデバイスを含むことを理解されたい。
このデバイスは、典型的には、描画アプリケーション、プレゼンテーションアプリケーション、文書作成アプリケーション、ウェブサイト作成アプリケーション、ディスクオーサリングアプリケーション、スプレッドシートアプリケーション、ゲームアプリケーション、電話アプリケーション、テレビ会議アプリケーション、電子メールアプリケーション、インスタントメッセージアプリケーション、トレーニングサポートアプリケーション、写真管理アプリケーション、デジタルカメラアプリケーション、デジタルビデオカメラアプリケーション、ウェブブラウジングアプリケーション、デジタル音楽プレーヤアプリケーション、及び/又はデジタル映像再生アプリケーションのうちの1つ以上などの様々なアプリケーションをサポートする。
このデバイス上で実行される様々なアプリケーションは、任意選択的に、タッチ感知面などの、少なくとも1つの共通の物理ユーザインタフェースデバイスを使用する。タッチ感知面の1つ以上の機能、並びにデバイス上に表示される対応する情報は、アプリケーションごとに、及び/又はそれぞれのアプリケーション内で、任意選択的に、調整及び/又は変更される。このように、デバイスの共通の物理アーキテクチャ(タッチ感知面など)は、任意選択的に、ユーザにとって直観的かつ透明なユーザインタフェースを備える様々なアプリケーションをサポートする。
ここで、タッチ感知ディスプレイを備えたポータブルデバイスの実施形態に注目を向ける。図1Aは、いくつかの実施形態に係る、タッチ感知ディスプレイシステム112を有するポータブル多機能デバイス100を示すブロック図である。タッチ感知ディスプレイ112は、便宜上「タッチスクリーン」と呼ばれることがあり、「タッチ感知ディスプレイシステム」として知られている又は呼ばれることがある。デバイス100は、メモリ102(任意選択的に、1つ以上のコンピュータ可読記憶媒体を含む)、メモリコントローラ122、1つ以上の処理ユニット(CPU)120、周辺機器インタフェース118、RF回路108、オーディオ回路110、スピーカ111、マイクロフォン113、入出力(I/O)サブシステム106、他の入力コントロールデバイス116、及び外部ポート124を含む。デバイス100は、任意選択的に、1つ以上の光センサ164を含む。デバイス100は、任意選択的に、デバイス100上の接触の強度を検出する1つ以上の接触強度センサ165(例えば、デバイス100のタッチ感知ディスプレイシステム112などのタッチ感知面)を含む。デバイス100は、任意選択的に、デバイス100上で触知出力を生成する(例えばデバイス100のタッチ感知ディスプレイシステム112又はデバイス300のタッチパッド355などのタッチ感知面上で触知出力を生成する)1つ以上の触知出力生成器167を含む。これらの構成要素は、任意選択的に、1つ以上の通信バス又は信号ライン103を介して通信する。
本明細書及び特許請求の範囲で用いられている場合、タッチ感知面への接触の「強度」という用語は、タッチ感知面への接触(例えば、指接触)の力又は圧力(単位面積当たりの力)、又は、タッチ感知面への接触の力若しくは圧力の代用語(プロキシ)を指す。接触の強度は、少なくとも4つの別個の値を含み、より典型的には、数百の(例えば、少なくとも256の)別個の値を含む、値の範囲を有する。接触の強度は、任意選択的に、様々な手法、及び様々なセンサ又はセンサの組み合わせを使用して、判定(又は測定)される。例えば、タッチ感知面の下又はそれに隣接する1つ以上の力センサは、任意選択的に、タッチ感知面上の様々なポイントにおける力を測定するために使用される。いくつかの実装形態では、複数の力センサからの力測定値が、接触の推定される力を決定するために組み合わされる(例えば、加重平均される)。同様に、スタイラスの感圧性先端部が、任意選択的に、タッチ感知面上のスタイラスの圧力を判定するために使用される。あるいは、タッチ感知面上で検出される接触エリアのサイズ及び/若しくはその変化、接触に近接するタッチ感知面の電気容量及び/若しくはその変化、並びに/又は、接触に近接するタッチ感知面の抵抗及び/若しくはその変化が、任意選択的に、タッチ感知面上の接触の力又は圧力の代替物として使用される。一部の実装形態では、接触の力又は圧力の代替測定値が、強度閾値を超えているかどうかを判定するために直接使用される(例えば、強度閾値は、代替測定値に対応する単位で記述される)。いくつかの実装形態では、接触力又は圧力の代理測定値は、力又は圧力の推定値に変換され、力又は圧力の推定値が、強度閾値を超えているかどうかを判定するために使用される(例えば、強度閾値は、圧力の単位で測定される圧力閾値である)。接触の強度をユーザ入力の属性として使用することにより、実装面積が限られている低減されたサイズのデバイス上で、ユーザが他の方法ではアクセス不可能であり得る追加のデバイス機能にユーザがアクセスし、アフォーダンスを(例えば、タッチ感知ディスプレイ上に)表示すること、及び/又は、ユーザ入力を(例えば、タッチ感知ディスプレイ、タッチ感知面、又は、ノブ若しくはボタンなどの物理的/機械的制御部を介して)受信することが可能となる。
本明細書及び特許請求の範囲で用いられる場合、用語「触覚出力」は、デバイスの前の位置に対するデバイスの物理的な変位、デバイスの構成要素(例えば、タッチ感知面)のデバイスの別の構成要素(例えば、筐体)に対する物理的変位、又は、ユーザの触感によりユーザによって検出されるデバイスの質量中心に対する構成要素の変位を指す。例えば、デバイス又はデバイスの構成要素が、タッチに敏感なユーザの表面(例えば、ユーザの手の指、手のひら、又は他の部分)に接触している状況では、物理的変位によって生成された触知出力は、そのデバイス又はデバイスの構成要素の物理的特性の認識される変化に相当する触感として、ユーザによって解釈されることになる。例えば、タッチ感知面(例えば、タッチ感知ディスプレイ又はトラックパッド)の移動は、ユーザによって、物理アクチュエータボタンの「ダウンクリック」又は「アップクリック」として、任意選択的に解釈される。場合によっては、ユーザの動作により物理的に押された(例えば、変位された)タッチ感知面に関連付けられた物理アクチュエータボタンの移動がないときでさえ、ユーザは「ダウンクリック」又は「アップクリック」などの触感を感じる。別の例として、タッチ感知面の移動は、タッチ感知面の平滑度に変化がない場合であっても、ユーザによって、そのタッチ感知面の「粗さ」として、任意選択的に解釈又は感知される。そのようなユーザによるタッチの解釈は、ユーザの個人的な感覚認知に左右されるが、大多数のユーザに共通する、多くのタッチの感覚認知が存在する。したがって、触知出力が、ユーザの特定の感覚認知(例えば、「アップクリック」「ダウンクリック」、「粗さ」)に対応するものと記述される場合、別途記載のない限り、生成された触知出力は、典型的な(又は、平均的な)ユーザの記述された感覚認知を生成するデバイス、又はデバイスの構成要素の物理的変位に対応する。
デバイス100は、ポータブル多機能デバイスの一例に過ぎず、デバイス100は、図示されているよりも多くの又は少ない構成要素を任意選択的に有し、2つ以上の構成要素を任意選択的に組み合わせ、又は、異なる構成又は配置の構成要素を任意選択的に有することが理解されるべきである。図1Aに示す様々な構成要素は、1つ以上の信号処理回路及び/又は特定用途向け集積回路を含む、ハードウェア、ソフトウェア、又はハードウェアとソフトウェアの両方の組み合わせで実施される。
メモリ102は、高速ランダムアクセスメモリを、任意選択的に含み、1つ以上の磁気ディスク記憶デバイス、フラッシュメモリデバイス、又は他の不揮発性固体記憶デバイスなどの不揮発性メモリも任意選択的に含む。メモリコントローラ122は、任意選択的に、デバイス100の他の構成要素によるメモリ102へのアクセスを制御する。
周辺機器インタフェース118は、デバイスの入力及び出力周辺機器をCPU120及びメモリ102に結合するために使用され得る。1つ以上のプロセッサ120は、メモリ102に記憶された様々なソフトウェアプログラム及び/若しくは命令セットを動作させる又は実行して、デバイス100のための様々な機能を実行し、データを処理する。いくつかの実施形態では、周辺機器インタフェース118、CPU120、及びメモリコントローラ122は、任意選択的に、チップ104などの単一のチップ上に実装される。いくつかの他の実施形態では、それらは別々のチップ上に任意選択的に実装される。
RF(無線周波数)回路108は、電磁信号とも呼ばれるRF信号を送受信する。RF回路108は、電気信号を電磁信号に又は電磁信号を電気信号に変換し、電磁信号を介して通信ネットワーク及び他の通信デバイスと通信する。RF回路108は、任意選択的に、これらの機能を実行するための周知の回路を含み、それらの回路としては、限定するものではないが、アンテナシステム、RF送受信機、1つ以上の増幅器、同調器、1つ以上の発振器、デジタル信号プロセッサ、CODECチップセット、加入者識別モジュール(subscriber identity module、SIM)カード、メモリなどが挙げられる。RF回路108は、任意選択的に、ワールドワイドウェブ(World Wide Web、WWW)とも呼ばれるインターネット、イントラネット、並びに/又はセルラー電話ネットワーク、無線ローカルエリアネットワーク(local area network、LAN)及び/若しくはメトロポリタンエリアネットワーク(metropolitan area network、MAN)などの無線ネットワークなどのネットワークと、また他のデバイスと、無線通信によって通信する。RF回路108は、任意選択的に、短距離通信無線機などによって近距離通信(near field Communication、NFC)フィールドを検出するよく知られている回路を含む。無線通信は、任意選択的に、それだけに限定されるものではないが、モバイル通信用グローバルシステム(Global System for Mobile Communications、GSM)、拡張データGSM環境(Enhanced Data GSM Environment、EDGE)、高速ダウンリンクパケットアクセス(high-speed downlink packet access、HSDPA)、高速アップリンクパケットアクセス(high-speed uplink packet access、HSUPA)、エボリューションデータオンリ(Evolution,Data-Only、EV-DO)、HSPA、HSPA+、デュアルセルHSPA(Dual-Cell HSPA、DC-HSPDA)、ロングタームエボリューション(long term evolution、LTE)、近距離通信(NFC)、広帯域符号分割多元接続(wideband code division multiple access、W-CDMA)、符号分割多元接続(code division multiple access、CDMA)、時分割多元接続(time division multiple access、TDMA)、Bluetooth、Bluetoothローエネルギー(Bluetooth Low Energy、BTLE)、ワイヤレスフィデリティ(Wireless Fidelity、Wi-Fi)(例えば、IEEE802.11a、IEEE802.11b、IEEE802.11g、IEEE802.11n、及び/若しくはIEEE802.11ac)、ボイスオーバインターネットプロトコル(voice over Internet Protocol、VoIP)、Wi-MAX、電子メール用プロトコル(例えば、インターネットメッセージアクセスプロトコル(Internet message access protocol、IMAP)及び/若しくはポストオフィスプロトコル(post office protocol、POP))、インスタントメッセージング(例えば、拡張可能なメッセージング及びプレゼンスプロトコル(extensible messaging and presence protocol、XMPP)、インスタントメッセージング及びプレゼンスレベレイジングエクステンション用のセッション開始プロトコル(Session Initiation Protocol for Instant Messaging and Presence Leveraging Extensions、SIMPLE)、インスタントメッセージング及びプレゼンスサービス(Instant Messaging and Presence Service、IMPS))、並びに/若しくはショートメッセージサービス(Short Message Service、SMS)、又は本明細書の出願日の時点でまだ開発されていない通信プロトコルを含む任意の他の適切な通信プロトコルを含む、複数の通信規格、プロトコル、及び技術のうちのいずれかを使用する。
オーディオ回路110、スピーカ111、及びマイクロフォン113は、ユーザとデバイス100との間のオーディオインタフェースを提供する。オーディオ回路110は、周辺機器インタフェース118からオーディオデータを受信し、このオーディオデータを電気信号に変換し、この電気信号をスピーカ111に送信する。スピーカ111は電気信号を人間の可聴音波に変換する。また、オーディオ回路110は、マイクロフォン113によって音波から変換された電気信号を受信する。オーディオ回路110は、電気信号をオーディオデータに変換し、このオーディオデータを処理のために周辺機器インタフェース118に送信する。オーディオデータは、任意選択的に、周辺機器インタフェース118によって、メモリ102及び/若しくはRF回路108から取得され、かつ/又はメモリ102及び/若しくはRF回路108に伝送される。いくつかの実施形態では、オーディオ回路110はまた、ヘッドセットジャック(例えば、図2の212)を含む。ヘッドセットジャックは、オーディオ回路110と、出力専用ヘッドホン又は出力(例えば片耳又は両耳用のヘッドホン)及び入力(例えばマイクロフォン)の両方を備えるヘッドセットなどの着脱可能なオーディオ入出力周辺機器との間のインタフェースを提供する。
I/Oサブシステム106は、タッチスクリーン112及び他の入力制御デバイス116などの、デバイス100上の入出力周辺機器を周辺機器インタフェース118に結合する。I/Oサブシステム106は、任意選択的に、ディスプレイコントローラ156、光センサコントローラ158、深度カメラコントローラ169、強度センサコントローラ159、触覚フィードバックコントローラ161、及び、他の入力デバイス若しくは制御デバイス用の1つ以上の入力コントローラ160を含む。1つ以上の入力コントローラ160は、他の入力コントロールデバイス116からの電気信号の受信/他の入力コントロールデバイス116への電気信号の送信を行う。他の入力コントロールデバイス116は、任意選択的に、物理ボタン(例えば、プッシュボタン、ロッカボタンなど)、ダイヤル、スライダスイッチ、ジョイスティック、クリックホイールなどを含む。いくつかの代替的な実施形態では、入力コントローラ160は、任意選択的に、キーボード、赤外線ポート、USBポート、及びマウスなどのポインタデバイスのうちのいずれかに結合される(又はいずれにも結合されない)。1つ以上のボタン(例えば、図2の208)は、任意選択的に、スピーカ111及び/又はマイクロフォン113の音量コントロールのためのアップ/ダウンボタンを含む。1つ以上のボタンは、任意選択的に、プッシュボタン(例えば、図2の206)を含む。
全体が参照により本明細書に組み込まれる、2005年12月23日出願の米国特許出願第11/322,549号、「Unlocking a Device by Performing Gestures on an Unlock Image」、米国特許第7,657,849号に記載されているように、プッシュボタンの素早い押下は、任意選択的に、タッチスクリーン112のロックを解放し、又は任意選択的に、タッチスクリーン上のジェスチャを使用してデバイスをロック解除するプロセスを開始する。プッシュボタン(例えば、206)のより長い押下は、任意選択的に、デバイス100への電力をオン又はオフにする。ボタンのうちの1つ以上の機能性は、任意選択的に、ユーザによってカスタマイズ可能である。タッチスクリーン112は、仮想又はソフトボタン及び1つ以上のソフトキーボードを実装するために使用される。
タッチ感知ディスプレイ112は、デバイスとユーザとの間の入力インタフェース及び出力インタフェースを提供する。ディスプレイコントローラ156は、タッチスクリーン112からの電気信号の受信、及び/又はタッチスクリーン112への電気信号の送信を行う。タッチスクリーン112は、ユーザに対して視覚出力を表示する。この視覚出力は、グラフィック、テキスト、アイコン、ビデオ、及びそれらの任意の組み合わせ(総称して「グラフィック」)を任意選択的に含む。いくつかの実施形態では、視覚出力の一部又は全ては、任意選択的に、ユーザインタフェースオブジェクトに対応する。
タッチスクリーン112は、触覚及び/又は触覚接触に基づくユーザからの入力を受け付けるタッチ感知面、センサ、又はセンサのセットを有する。タッチスクリーン112及びディスプレイコントローラ156は、(メモリ102内の任意の関連モジュール及び/又は命令セットとともに)、タッチスクリーン112上で接触(及び任意の接触の移動又は中断)を検出し、検出された接触をタッチスクリーン112に表示されたユーザインタフェースオブジェクト(例えば、1つ以上のソフトキー、アイコン、ウェブページ、又は画像)との対話に変換する。例示的な実施形態では、タッチスクリーン112とユーザとの間の接触点は、ユーザの指に対応する。
タッチスクリーン112は任意選択的に、LCD(液晶ディスプレイ)技術、LPD(発光ポリマーディスプレイ)技術、又はLED(発光ダイオード)技術を用いるが、他の実施形態では他のディスプレイ技術が用いられている。タッチスクリーン112及びディスプレイコントローラ156は、任意選択的に、それだけに限定されるものではないが、容量性、抵抗性、赤外線、及び表面音波の技術、並びにタッチスクリーン112との1つ以上の接触点を判定する他の近接センサアレイ又は他の要素を含む、現在知られている又は今後開発される複数のタッチ感知技術のうちのいずれかを使用して、接触及びそのあらゆる動き又は中断を検出する。例示的な実施形態では、カリフォルニア州クパチーノのApple Inc.からのiPhone(登録商標)及びiPod Touch(登録商標)に見られるものなどの、投影型相互静電容量感知技術が使用される。
タッチスクリーン112のいくつかの実施形態におけるタッチ感知ディスプレイは、任意選択的に、それぞれ全体が参照により本明細書に組み込まれる、米国特許第6,323,846号(Westermanら)、第6,570,557号(Westermanら)、及び/若しくは第6,677,932号(Westerman)、並びに/又は米国特許公報第2002/0015024(A1)号に記載されているマルチタッチ感知タッチパッドに類似している。しかし、タッチスクリーン112はデバイス100からの視覚出力を表示するのに対して、タッチ感知タッチパッドは視覚出力を提供しない。
タッチスクリーン112のいくつかの実施形態におけるタッチ感知ディスプレイは、以下の出願に記載されている。(1)2006年5月2日出願の米国特許出願第11/381,313号、「Multipoint Touch Surface Controller」、(2)2004年5月6日出願の米国特許出願第10/840,862号、「Multipoint Touchscreen」、(3)2004年7月30日出願の米国特許出願第10/903,964号、「Gestures For Touch Sensitive Input Devices」、(4)2005年1月31日出願の米国特許出願第11/048,264号、「Gestures For Touch Sensitive Input Devices」、(5)2005年1月18日出願の米国特許出願第11/038,590号、「Mode-Based Graphical User Interfaces For Touch Sensitive Input Devices」、(6)2005年9月16日出願の米国特許出願第11/228,758号、「Virtual Input Device Placement On A Touch Screen User Interface」、(7)2005年9月16日出願の米国特許出願第11/228,700号、「Operation Of A Computer With A Touch Screen Interface」、(8)2005年9月16日出願の米国特許出願第11/228,737号、「Activating Virtual Keys Of A Touch-Screen Virtual Keyboard」、及び(9)2006年3月3日出願の米国特許出願第11/367,749号、「Multi-Functional Hand-Held Device」。これらの出願は全て、全体が参照により本明細書に組み込まれる。
タッチスクリーン112は、任意選択的に100dpi以上のビデオ解像度を有する。いくつかの実施形態では、タッチスクリーンは、約160dpiのビデオ解像度を有する。ユーザは、任意選択的に、スタイラス、指などの任意の適したオブジェクト又は付属物を使用して、タッチスクリーン112に接触する。いくつかの実施形態では、ユーザインタフェースは、指ベースの接触及びジェスチャを主に使用して動作するように設計されるが、これは、タッチスクリーン上の指の接触面積がより大きいため、スタイラスベースの入力ほど正確でない可能性がある。いくつかの実施形態では、デバイスは、指による粗い入力を、ユーザによって所望されているアクションを実行するための、正確なポインタ/カーソルの位置又はコマンドに変換する。
いくつかの実施形態では、タッチスクリーンに加えて、デバイス100は、任意選択的に、特定の機能をアクティブ化又は非アクティブ化するためのタッチパッドを含む。いくつかの実施形態では、タッチパッドは、タッチスクリーンとは異なり、視覚出力を表示しない、デバイスのタッチ感知エリアである。タッチパッドは、任意選択的に、タッチスクリーン112とは別個のタッチ感知面又はタッチスクリーンによって形成されるタッチ感知面の拡張部である。
デバイス100は、様々な構成要素に電力を供給するための電力システム162も含む。電力システム162は、任意選択的に、電力管理システム、1つ以上の電源(例えば、バッテリ、交流(AC))、再充電システム、停電検出回路、電力コンバータ又はインバータ、電力状態インジケータ(例えば、発光ダイオード(LED))、並びにポータブルデバイス内での電力の生成、管理、及び分配に関連付けられた任意の他の構成要素を含む。
デバイス100はまた、任意選択的に、1つ以上の光センサ164を含む。図1Aは、I/Oサブシステム106内の光センサコントローラ158に結合された光センサを示す。光センサ164は、任意選択的に、電荷結合デバイス(charge-coupled device、CCD)又は相補的金属酸化物半導体(complementary metal-oxide semiconductor、CMOS)フォトトランジスタを含む。光センサ164は、1つ以上のレンズを通って投影された環境からの光を受信し、その光を、画像を表すデータに変換する。光センサ164は、撮像モジュール143(カメラモジュールとも呼ばれる)と連携して、任意選択的に、静止画像又はビデオをキャプチャする。いくつかの実施形態では、光センサは、デバイスの前面にあるタッチスクリーンディスプレイ112とは反対側のデバイス100の裏面に位置し、したがってタッチスクリーンディスプレイは、静止画像及び/又はビデオの取得のためのビューファインダとして使用することが可能である。いくつかの実施形態では、ユーザが他のテレビ会議参加者をタッチスクリーンディスプレイ上で見ている間に、ユーザの画像が、任意選択的に、テレビ会議のために入手されるように、光センサはデバイスの前面に配置される。いくつかの実施形態では、光センサ164の位置は、ユーザによって(例えば、デバイス筐体内でレンズ及びセンサを回転させることによって)変更することができ、したがって単一の光センサ164が、タッチスクリーンディスプレイとともに、テレビ会議にも静止画像及び/又はビデオの取得にも使用される。
デバイス100はまた、任意選択的に、1つ以上の深度カメラセンサ175も含む。図1Aは、I/Oサブシステム106内の深度カメラコントローラ169に結合された深度カメラセンサを示す。深度カメラセンサ175は、環境からデータを受信して、視点(例えば、深度カメラセンサ)からのシーン内のオブジェクト(例えば、顔面)の3次元モデルを作成する。いくつかの実施形態では、撮像モジュール143(カメラモジュールとも呼ばれる)と連携して、深度カメラセンサ175は、任意選択的に、撮像モジュール143によってキャプチャされた画像の種々の部分の深度マップを決定するために使用される。いくつかの実施形態では、ユーザが他のテレビ会議参加者をタッチスクリーンディスプレイ上で見る間に、任意選択的に、深度情報を有するユーザの画像をテレビ会議のために取得し、また、深度マップデータを有する自撮り画像をキャプチャするために、デバイス100の前面に深度カメラセンサが配置されている。いくつかの実施形態では、深度カメラセンサ175は、デバイスの背面に、又はデバイス100の背面及び前面に配置される。いくつかの実施形態では、深度カメラセンサ175の位置は、ユーザによって(例えば、デバイスハウジング内でレンズ及びセンサを回転させることによって)変更することができ、したがって深度カメラセンサ175が、タッチスクリーンディスプレイとともに、テレビ会議にも静止画像及び/又はビデオの取得にも使用される。
いくつかの実施形態では、深度マップ(例えば、深度マップ画像)は、視点(例えば、カメラ、光センサ、深度カメラセンサ)からのシーン内のオブジェクトの距離に関する情報(例えば、値)を含む。深度マップの一実施形態では、各深度画素は、その対応する2次元画素が位置する、視点のZ軸内の位置を規定する。いくつかの実施形態では、深度マップは画素で構成されており、各画素は、値(例えば、0~255)によって定義される。例えば、値「0」は、「3次元」シーン内で最も遠い場所に位置している画素を表し、値「255」は、その「3次元」シーン内で視点(例えば、カメラ、光センサ、深度カメラセンサ)の最も近くに位置している画素を表す。他の実施形態では、深度マップは、シーン内のオブジェクトと視点の平面との間の距離を表す。いくつかの実施形態では、深度マップは、深度カメラから見た、関心対象物の様々な特徴部の相対深度(例えば、ユーザの顔面の目、鼻、口、耳の相対深度)に関する情報を含む。いくつかの実施形態では、深度マップは、関心対象物のz方向における輪郭をデバイスが判定することを可能にする、情報を含む。
デバイス100は、任意選択的に1つ以上の接触強度センサ165も含む。図1Aは、I/Oサブシステム106内の強度センサコントローラ159に結合された接触強度センサを示す。接触強度センサ165は、任意選択的に、1つ以上のピエゾ抵抗歪みゲージ、容量性力センサ、電気力センサ、圧電力センサ、光学力センサ、容量性タッチ感知面、又は他の強度センサ(例えば、タッチ感知面上の接触の力(若しくは圧力)を測定するために使用されるセンサ)を含む。接触強度センサ165は、接触強度情報(例えば、圧力情報、又は圧力情報に対するプロキシ)を環境から受信する。いくつかの実施形態では、少なくとも1つの接触強度センサは、タッチ感知面(例えばタッチ感知ディスプレイシステム112)と並置される、又はそれに近接される。いくつかの実施形態では、少なくとも1つの接触強度センサは、デバイス100の前面に配置されたタッチスクリーンディスプレイ112の反対側である、デバイス100の背面に配置される。
デバイス100はまた、任意選択的に1つ以上の近接センサ166を含む。図1Aは、周辺機器インタフェース118に結合された近接センサ166を示す。あるいは、近接センサ166は、任意選択的に、I/Oサブシステム106内の入力コントローラ160に結合される。近接センサ166は、任意選択的に、全体が参照により本明細書に組み込まれる、米国特許出願第11/241,839号、「Proximity Detector In Handheld Device」、第11/240,788号、「Proximity Detector In Handheld Device」、第11/620,702号、「Using Ambient Light Sensor To Augment Proximity Sensor Output」、第11/586,862号、「Automated Response To And Sensing Of User Activity In Portable Devices」、及び第11/638,251号、「Methods And Systems For Automatic Configuration Of Peripherals」で記載されているように機能する。いくつかの実施形態では、多機能デバイスが、ユーザの耳の近くに置かれた場合(例えば、ユーザが電話をかけている場合)、近接センサは、タッチスクリーン112をオフにして無効化する。
デバイス100は、任意選択的に1つ以上の触知出力生成器167も含む。図1Aは、I/Oサブシステム106内の触覚フィードバックコントローラ161に結合された触知出力生成器を示す。触知出力生成器167は、任意選択的に、スピーカ若しくは他のオーディオ構成要素などの1つ以上の電気音響デバイス、及び/又はモータ、ソレノイド、電気活性ポリマー、圧電アクチュエータ、静電アクチュエータ、若しくは他の触知出力生成構成要素(例えば、デバイス上で電気信号を触知出力に変換する構成要素)などのエネルギーを直線の動きに変換する電気機械デバイスを含む。接触強度センサ165は、触知フィードバック生成命令を触覚フィードバックモジュール133から受信し、デバイス100のユーザが感知することが可能な触知出力をデバイス100上に生成する。いくつかの実施形態では、少なくとも1つの触知出力生成器は、タッチ感知面(例えば、タッチ感知ディスプレイシステム112)と並置される、又はそれに近接しており、任意選択的に、タッチ感知面を垂直方向(例えば、デバイス100の表面の内/外)に、又は水平方向(例えば、デバイス100の表面と同じ平面内の前後)に移動させることによって、触知出力を生成する。いくつかの実施形態では、少なくとも1つの触知出力生成器センサは、デバイス100の前面に配置されたタッチスクリーンディスプレイ112の反対側である、デバイス100の背面に配置される。
デバイス100は、任意選択的に1つ以上の加速度計168も含む。図1Aは、周辺機器インタフェース118に結合された加速度計168を示す。あるいは、加速度計168は、任意選択的に、I/Oサブシステム106内の入力コントローラ160に結合される。加速度計168は、任意選択的に、どちらも全体が参照により本明細書に組み込まれる、米国特許公開第20050190059号、「Acceleration-based Theft Detection System for Portable Electronic Devices」、及び米国特許公開第20060017692号、「Methods And Apparatuses For Operating A Portable Device Based On An Accelerometer」に記載されているように機能する。いくつかの実施形態では、情報は、1つ以上の加速度計から受信したデータの分析に基づいて、縦長表示又は横長表示でタッチスクリーンディスプレイに表示される。デバイス100は、加速度計168に加えて、磁気計並びにデバイス100の場所及び向き(例えば、縦方向又は横方向)に関する情報を取得するためのGPS(又はGLONASS又は他のグローバルナビゲーションシステム)受信機を任意選択的に含む。
いくつかの実施形態では、メモリ102内に記憶されているソフトウェア構成要素は、オペレーティングシステム126、通信モジュール(又は命令セット)128、接触/動きモジュール(又は命令セット)130、グラフィックモジュール(又は命令セット)132、テキスト入力モジュール(又は命令セット)134、全地球測位システム(Global Positioning System、GPS)モジュール(又は命令セット)135、及びアプリケーション(又は命令セット)136を含む。更に、いくつかの実施形態では、メモリ102(図1A)又は370(図3)は、図1A及び図3に示すように、デバイス/グローバル内部状態157を記憶する。デバイス/グローバル内部状態157は、現在アクティブ状態のアプリケーションがある場合に、どのアプリケーションがアクティブであるかを示すアクティブアプリケーション状態、どのアプリケーション、ビュー、又は他の情報がタッチスクリーンディスプレイ112の様々な領域を占めているかを示す表示状態、デバイスの様々なセンサ及び入力コントロールデバイス116から取得した情報を含むセンサ状態、並びにデバイスの位置、及び/又は姿勢に関する位置情報のうちの1つ以上を含む。
オペレーティングシステム126(例えば、Darwin、RTXC、LINUX、UNIX、OS X、iOS、WINDOWS、又はVxWorksなどの組込み型オペレーティングシステム)は、全般的なシステムタスク(例えば、メモリ管理、記憶装置制御、電力管理など)を制御及び管理する様々なソフトウェア構成要素及び/又はドライバを含み、様々なハードウェア構成要素とソフトウェア構成要素との間の通信を容易にする。
通信モジュール128は、1つ以上の外部ポート124を介して他のデバイスとの通信を容易にし、RF回路108及び/又は外部ポート124が受信したデータを処理するための様々なソフトウェア構成要素も含む。外部ポート124(例えば、ユニバーサルシリアルバス(Universal Serial Bus、USB)、FIREWIREなど)は、直接的に、又はネットワーク(例えばインターネット、無線LANなど)を介して間接的に、他のデバイスに結合するように適合されている。いくつかの実施形態では、外部ポートは、iPod(登録商標)(Apple Inc.の商標)デバイス上で使用される30ピンコネクタと同じ若しくは同様であり、かつ/又はそれに適合しているマルチピン(例えば、30ピン)コネクタである。
接触/動きモジュール130は、任意選択的に、(ディスプレイコントローラ156と連携して)タッチスクリーン112及び他のタッチ感知デバイス(例えば、タッチパッド又は物理的なクリックホイール)との接触を検出する。接触/動きモジュール130は、接触が生じたかどうかを判定すること(例えば、指ダウンイベントを検出すること)、接触の強度(例えば、接触の力若しくは圧力、又は接触の力若しくは圧力の代替物)を判定すること、接触の移動が存在するかどうかを判定し、タッチ感知面を横断する移動を追跡すること(例えば、指をドラッグする1つ以上のイベントを検出すること)、及び接触が停止したかどうかを判定すること(例えば、指アップイベント又は接触の中断を検出すること)などの、接触の検出に関する様々な動作を実行するための、様々なソフトウェア構成要素を含む。接触/動きモジュール130は、タッチ感知面から接触データを受信する。一連の接触データによって表される、接触点の移動を判定することは、任意選択的に、接触点の速さ(大きさ)、速度(大きさ及び方向)、及び/又は加速度(大きさ及び/又は方向の変化)を判定することを含む。これらの動作は、任意選択的に、単一の接触(例えば、1本の指の接触)又は複数の同時接触(例えば、「マルチタッチ」/複数の指の接触)に適用される。いくつかの実施形態では、接触/動きモジュール130及びディスプレイコントローラ156は、タッチパッド上の接触を検出する。
いくつかの実施形態において、接触/動きモジュール130は、1つ以上の強度閾値のセットを用いて、動作がユーザによって実行されたか判定する(例えば、ユーザがアイコンを「クリックしたか」を判定する)。いくつかの実施形態では、強度閾値の少なくとも1つのサブセットは、ソフトウェアパラメータに従って判定される(例えば、強度閾値は、特定の物理アクチュエータのアクティブ化閾値によって決定されるのではなく、デバイス100の物理ハードウェアを変更することなく調整することができる)。例えば、トラックパッド又はタッチスクリーンディスプレイのマウス「クリック」閾値は、トラックパッド又はタッチスクリーンディスプレイハードウェアを変更することなく、広範囲の既定閾値のうちのいずれかに設定することができる。加えて、いくつかの実装形態では、デバイスのユーザに、(例えば、個々の強度閾値を調整すること、及び/又は複数の強度閾値をシステムレベルのクリック「強度」パラメータによって一度に調整することによって)強度閾値のセットのうちの1つ以上を調整するソフトウェア設定が提供される。
接触/動きモジュール130は、任意選択的にユーザによるジェスチャ入力を検出する。タッチ感知面上の異なるジェスチャは、異なる接触パターンを有する(例えば検出される接触の動き、タイミング、及び/又は強度が異なる)。したがって、ジェスチャは、任意選択的に、特定の接触パターンを検出することによって検出される。例えば、指タップジェスチャを検出することは、指ダウンイベントを検出し、それに続いて指ダウンイベントと同じ位置(又は実質的に同じ位置)(例えば、アイコンの位置)で指アップ(リフトオフ)イベントを検出することを含む。別の例として、タッチ感知面上で指スワイプジェスチャを検出することは、指ダウンイベントを検出し、それに続いて1つ以上の指ドラッグイベントを検出し、その後それに続いて指アップ(リフトオフ)イベントを検出することを含む。
グラフィックモジュール132は、表示されるグラフィックの視覚的インパクト(例えば、輝度、透明性、彩度、コントラスト、又は他の視覚特性)を変更するための構成要素を含む、タッチスクリーン112又は他のディスプレイ上にグラフィックを表現及び表示するための様々な公知のソフトウェア構成要素を含む。本明細書では、「グラフィック」という用語は、それだけに限定されるものではないが、テキスト、ウェブページ、アイコン(ソフトキーを含むユーザインタフェースオブジェクトなど)、デジタル画像、ビデオ、アニメーションなどを含む、ユーザに表示することができる任意のオブジェクトを含む。
いくつかの実施形態において、グラフィックモジュール132は、使用されるグラフィックを表すデータを記憶する。各グラフィックには、任意選択的に、対応するコードが割り当てられる。グラフィックモジュール132は、アプリケーションなどから、必要に応じて、座標データ及び他のグラフィック特性データとともに、表示されることとなるグラフィックを指定する1つ以上のコードを受信し、次にディスプレイコントローラ156に出力する画面の画像データを生成する。
触覚フィードバックモジュール133は、ユーザのデバイス100との対話に応答してデバイス100上の1つ以上の位置で触覚出力を発生するために触知出力生成器167が使用する命令を生成するための様々なソフトウェア構成要素を含む。
テキスト入力モジュール134は、任意選択的に、グラフィックモジュール132の構成要素であるが、様々なアプリケーション(例えば、連絡先137、電子メール140、IM141、ブラウザ147、及びテキスト入力を必要とする任意の他のアプリケーション)にテキストを入力するためのソフトキーボードを提供する。
GPSモジュール135は、デバイスの位置を判定し、この情報を様々なアプリケーションで使用するために(例えば、位置に基づくダイヤル発呼で使用するために電話138に、写真/ビデオのメタデータとしてカメラ143に、並びに、天気ウィジェット、地域の職業別電話帳ウィジェット、及び地図/ナビゲーションウィジェットなどの、位置に基づくサービスを提供するアプリケーションに)提供する。
アプリケーション136は、以下のモジュール(又は命令セット)又はこれらのサブセット若しくはスーパーセットを、任意選択的に含む。
●連絡先モジュール137(アドレス帳又は連絡先リストと呼ばれることもある)、
●電話モジュール138、
●テレビ会議モジュール139、
●電子メールクライアントモジュール140、
●インスタントメッセージング(Instant messaging、IM)モジュール141、
●トレーニングサポートモジュール142、
●静止画像及び/又はビデオ用のカメラモジュール143、
●画像管理モジュール144、
●ビデオプレーヤモジュール、
●音楽プレーヤモジュール、
●ブラウザモジュール147、
●カレンダモジュール148、
●任意選択的に、天気ウィジェット149-1、株価ウィジェット149-2、計算機ウィジェット149-3、アラーム時計ウィジェット149-4、辞書ウィジェット149-5、及びユーザによって入手された他のウィジェット、並びにユーザ作成ウィジェット149-6のうちの1つ以上を含むウィジェットモジュール149、
●ユーザ作成ウィジェット149-6を作成するためのウィジェット作成モジュール150、
●検索モジュール151、
●ビデオプレーヤモジュール及び音楽プレーヤモジュールを一体化したビデオ及び音楽プレーヤモジュール152、
●メモモジュール153、
●地図モジュール154、並びに/又は、
●オンラインビデオモジュール155。
任意選択的に、メモリ102に記憶される他のアプリケーション136の例として、他の文書作成アプリケーション、他の画像編集アプリケーション、描画アプリケーション、プレゼンテーションアプリケーション、JAVA対応アプリケーション、暗号化、デジタル著作権管理、音声認識、及び音声複製が挙げられる。
連絡先モジュール137は、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、及びテキスト入力モジュール134と連携して、任意選択的に、アドレス帳又は連絡先リストを(例えば、メモリ102又はメモリ370内の連絡先モジュール137のアプリケーション内部状態192内に記憶して)管理するために使用される。連絡先モジュール137による管理には、アドレス帳に名前(単数又は複数)を追加すること、アドレス帳から名前(単数又は複数)を削除すること、電話番号(単数又は複数)、電子メールアドレス(単数又は複数)、実際の住所(単数又は複数)、又は他の情報を名前に関連付けること、画像を名前に関連付けること、名前を分類して並べ替えること、電話番号又は電子メールアドレスを提供して、電話138、テレビ会議モジュール139、電子メール140、又はIM141による通信を開始かつ/又は促進すること、などが含まれる。
電話モジュール138は、RF回路108、オーディオ回路110、スピーカ111、マイクロフォン113、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、及びテキスト入力モジュール134と連携して、任意選択的に、電話番号に対応する文字シーケンスの入力、連絡先モジュール137内の1つ以上の電話番号へのアクセス、入力された電話番号の修正、それぞれの電話番号のダイヤル、通話の実行、並びに通話終了時の接続切断又は通話停止のために使用される。前述したように、無線通信は、任意選択的に、複数の通信規格、プロトコル、及び技術のうちのいずれかを使用する。
テレビ会議モジュール139は、RF回路108、オーディオ回路110、スピーカ111、マイクロフォン113、タッチスクリーン112、ディスプレイコントローラ156、光センサ164、光センサコントローラ158、接触/動きモジュール130、グラフィックモジュール132、テキスト入力モジュール134、連絡先モジュール137、及び電話モジュール138と連携して、ユーザの指示に従ってユーザと1人以上の他の参加者との間のテレビ会議を開始、実行、及び終了するための実行可能な命令を含む。
電子メールクライアントモジュール140は、RF回路108、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、及びテキスト入力モジュール134と連携して、ユーザの指示に応じて電子メールを作成、送信、受信、及び管理するための実行可能な命令を含む。画像管理モジュール144と連携して、電子メールクライアントモジュール140は、カメラモジュール143で撮影された静止画像又はビデオ画像を有する電子メールの作成及び送信を非常に容易にする。
インスタントメッセージングモジュール141は、RF回路108、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、及びテキスト入力モジュール134と連携して、インスタントメッセージに対応する文字シーケンスの入力、以前に入力された文字の修正、(例えば、電話通信ベースのインスタントメッセージ向けのショートメッセージサービス(Short Message Service、SMS)若しくはマルチメディアメッセージサービス(Multimedia Message Service、MMS)プロトコル、又はインターネットベースのインスタントメッセージ向けのXMPP、SIMPLE、若しくはIMPSを使用する)それぞれのインスタントメッセージの送信、インスタントメッセージの受信、及び受信したインスタントメッセージの閲覧のための実行可能な命令を含む。いくつかの実施形態では、送信される及び/又は受信されるインスタントメッセージは、任意選択的に、MMS及び/又は拡張メッセージングサービス(Enhanced Messaging Service、EMS)でサポートされるようなグラフィック、写真、オーディオファイル、ビデオファイル、及び/又は他の添付ファイルを含む。本明細書では、「インスタントメッセージング」とは、電話通信ベースのメッセージ(例えば、SMS又はMMSを使用して送信されるメッセージ)と、インターネットベースのメッセージ(例えば、XMPP、SIMPLE、又はIMPSを使用して送信されるメッセージ)との両方を指す。
トレーニングサポートモジュール142は、RF回路108、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、テキスト入力モジュール134、GPSモジュール135、地図モジュール154、及び音楽プレーヤモジュールと連携して、トレーニング(例えば、時間、距離、及び/又はカロリー燃焼の目標を有する)を作成し、トレーニングセンサ(スポーツデバイス)と通信し、トレーニングセンサデータを受信し、トレーニングをモニタするために使用されるセンサを較正し、トレーニングのための音楽を選択及び再生し、並びに、トレーニングデータを表示、記憶、及び送信するための実行可能な命令を含む。
カメラモジュール143は、タッチスクリーン112、ディスプレイコントローラ156、光センサ164、光センサコントローラ158、接触/動きモジュール130、グラフィックモジュール132、及び画像管理モジュール144と連携して、静止画像若しくは(ビデオストリームを含む)ビデオのキャプチャ及びメモリ102内への記憶、静止画像若しくはビデオの特性の修正、又はメモリ102からの静止画像若しくはビデオの削除のための実行可能な命令を含む。
画像管理モジュール144は、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、テキスト入力モジュール134、及びカメラモジュール143と連携して、静止画像及び/若しくはビデオの配置、修正(例えば、編集)、又はその他の操作、ラベル付け、削除、(例えば、デジタルスライドショー若しくはアルバムにおける)提示、及び記憶のための実行可能な命令を含む。
ブラウザモジュール147は、RF回路108、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、及びテキスト入力モジュール134と連携して、ウェブページ又はその一部分、並びにウェブページにリンクされた添付ファイル及び他のファイルの検索、リンク、受信、及び表示を含む、ユーザの指示に従ってインターネットをブラウジングするための実行可能な命令を含む。
カレンダモジュール148は、RF回路108、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、テキスト入力モジュール134、電子メールクライアントモジュール140、及びブラウザモジュール147と連携して、ユーザの指示に従って、カレンダ及びカレンダに関連付けられたデータ(例えば、カレンダアイテム、to-doリストなど)を作成、表示、修正、及び記憶するための実行可能な命令を含む。
ウィジェットモジュール149は、RF回路108、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、テキスト入力モジュール134、及びブラウザモジュール147と連携して、任意選択的に、ユーザによってダウンロード及び使用されるミニアプリケーション(例えば、天気ウィジェット149-1、株価ウィジェット149-2、計算機ウィジェット149-3、アラーム時計ウィジェット149-4、及び辞書ウィジェット149-5)、又はユーザによって作成されたミニアプリケーション(例えば、ユーザ作成ウィジェット149-6)である。いくつかの実施形態では、ウィジェットは、HTML(Hypertext Markup Language、ハイパーテキストマークアップ言語)ファイル、CSS(Cascading Style Sheets、カスケーディングスタイルシート)ファイル、及びJavaScriptファイルを含む。いくつかの実施形態では、ウィジェットは、XML(Extensible Markup Language、拡張可能マークアップ言語)ファイル及びJavaScriptファイル(例えば、Yahoo!ウィジェット)を含む。
ウィジェット作成モジュール150は、RF回路108、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、テキスト入力モジュール134、及びブラウザモジュール147と連携して、任意選択的に、ウィジェットを作成する(例えば、ウェブページのユーザ指定部分をウィジェットにする)ために、ユーザによって使用される。
検索モジュール151は、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、及びテキスト入力モジュール134と連携して、ユーザの指示に従って1つ以上の検索基準(例えば、1つ以上のユーザ指定検索語)と一致するメモリ102内のテキスト、音楽、サウンド、画像、ビデオ、及び/又は他のファイルを検索するための実行可能な命令を含む。
ビデオ及び音楽プレーヤモジュール152は、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、オーディオ回路110、スピーカ111、RF回路108、及びブラウザモジュール147と連携して、MP3又はAACファイルなどの1つ以上のファイル形式で記憶された録音済みの音楽及び他のサウンドファイルをユーザがダウンロード及び再生できるようにする実行可能な命令、並びにビデオを(例えば、タッチスクリーン112上又は外部ポート124を介して接続された外部のディスプレイ上に)表示、提示、又は別の方法で再生するための実行可能な命令を含む。いくつかの実施形態では、デバイス100は、任意選択的に、iPod(Apple Inc.の商標)などのMP3プレーヤの機能を含む。
メモモジュール153は、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、及びテキスト入力モジュール134と連携して、ユーザの指示に従ってメモ、to-doリストなどを作成及び管理するための実行可能な命令を含む。
地図モジュール154は、RF回路108、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、テキスト入力モジュール134、GPSモジュール135、及びブラウザモジュール147と連携して、任意選択的に、ユーザの指示に従って、地図及び地図に関連付けられたデータ(例えば、運転の道順、特定の場所又はその付近の店舗及び他の見どころに関するデータ、並びに他の場所ベースのデータ)を受信、表示、修正、及び記憶するために使用される。
オンラインビデオモジュール155は、タッチスクリーン112、ディスプレイコントローラ156、接触/動きモジュール130、グラフィックモジュール132、オーディオ回路110、スピーカ111、RF回路108、テキスト入力モジュール134、電子メールクライアントモジュール140、及びブラウザモジュール147と連携して、ユーザが特定のオンラインビデオへのアクセス、特定のオンラインビデオのブラウジング、(例えば、ストリーミング及び/又はダウンロードによる)受信、(例えば、タッチスクリーン上又は外部ポート124を介して接続された外部ディスプレイ上の)再生、特定のオンラインビデオへのリンクを有する電子メールの送信、並びにH.264などの1つ以上のファイル形式のオンラインビデオの他の管理を行うことを可能にする命令を含む。いくつかの実施形態では、特定のオンラインビデオへのリンクを送信するために、電子メールクライアントモジュール140ではなく、インスタントメッセージングモジュール141が使用される。オンラインビデオアプリケーションについての追加の説明は、その内容の全体が参照により本明細書に組み込まれる、2007年6月20日出願の米国仮特許出願第60/936,562号、「Portable Multifunction Device,Method,and Graphical User Interface for Playing Online Videos」、及び2007年12月31日出願の米国特許出願第11/968,067号、「Portable Multifunction Device,Method,and Graphical User Interface for Playing Online Videos」を参照されたい。
上記で識別されたモジュール及びアプリケーションのうちのそれぞれは、1つ以上の上記の機能を実行するための実行可能な命令セット及び本出願に記載の方法(例えば、コンピュータ実装の方法及び本明細書に記載の他の情報処理方法)に対応する。これらのモジュール(例えば、命令セット)は、別個のソフトウェアプログラム、手順、又はモジュールとして実装される必要はなく、したがって、様々な実施形態において、これらのモジュールの様々なサブセットが、任意選択的に、組み合わされ、又は別の方法で再構成される。例えば、ビデオプレーヤモジュールは、任意選択的に、音楽プレーヤモジュールと組み合わされて、単一のモジュール(例えば、図1Aのビデオ及び音楽プレーヤモジュール152)にされる。いくつかの実施形態では、メモリ102は、任意選択で、上記で特定されたモジュール及びデータ構造のサブセットを記憶する。更に、メモリ102は、上記で説明されていない追加のモジュール及びデータ構造を任意選択的に記憶する。
いくつかの実施形態において、デバイス100は、デバイス上の機能の既定のセットの動作がタッチスクリーン及び/又はタッチパッドを介して排他的に実行されるデバイスである。デバイス100が動作するための主要な入力コントロールデバイスとしてタッチスクリーン及び/又はタッチパッドを使用することにより、任意選択的に、デバイス100上の物理的な入力コントロールデバイス(プッシュボタン、ダイヤルなど)の数が削減される。
タッチスクリーン及び/又はタッチパッドを介して排他的に実行される既定のセットの機能は、任意選択的にユーザインタフェース間のナビゲーションを含む。いくつかの実施形態では、タッチパッドは、ユーザによってタッチされたときに、デバイス100上に表示される任意のユーザインタフェースから、メインメニュー、ホームメニュー、又はルートメニューにデバイス100をナビゲートする。このような実施形態では、「メニューボタン」は、タッチパッドを使用して実装される。一部の他の実施形態では、メニューボタンは、タッチパッドではなく、物理プッシュボタン又はその他の物理入力コントロールデバイスである。
図1Bは、いくつかの実施形態に係る、イベント処理のための例示的な構成要素を示すブロック図である。いくつかの実施形態では、メモリ102(図1A)又は370(図3)は、イベントソータ170(例えば、オペレーティングシステム126内)と、それぞれのアプリケーション136-1(例えば、前述のアプリケーション137~151、155、380~390のうちのいずれか)とを含む。
イベントソータ170は、イベント情報を受信し、イベント情報を配信するアプリケーション136-1、及びアプリケーション136-1のアプリケーションビュー191を判定する。イベントソータ170は、イベントモニタ171及びイベントディスパッチャモジュール174を含む。いくつかの実施形態では、アプリケーション136-1は、アプリケーションがアクティブ又は実行中であるときにタッチ感知ディスプレイ112に表示される現在のアプリケーションビューを示すアプリケーション内部状態192を含む。いくつかの実施形態では、デバイス/グローバル内部状態157は、どのアプリケーション(単数又は複数)が現在アクティブであるかを判定するためにイベントソータ170によって使用され、アプリケーション内部状態192は、イベント情報が配信されるアプリケーションビュー191を判定するためにイベントソータ170によって使用される。
いくつかの実施形態において、アプリケーション内部状態192は、追加情報として、例えば、アプリケーション136-1が実行を再開する際に用いられる再開情報、アプリケーション136-1により表示されている又は表示の準備ができている情報を示すユーザインタフェース状態情報、ユーザがアプリケーション136-1の以前の状態又はビューに戻ることを可能にするための状態の待ち行列、及びユーザが以前にとったアクションのリドゥ/アンドゥの待ち行列のうちの1つ以上を含む。
イベントモニタ171は、周辺機器インタフェース118よりイベント情報を受信する。イベント情報は、サブイベント(例えば、タッチ感知ディスプレイ112でのマルチタッチジェスチャの一部としてのユーザタッチ)に関する情報を含む。周辺機器インタフェース118は、I/Oサブシステム106、又は近接センサ166、加速度計(単数又は複数)168、及び/若しくは(オーディオ回路110を介した)マイクロフォン113などのセンサから受信する情報を送信する。周辺機器インタフェース118がI/Oサブシステム106から受信する情報は、タッチ感知ディスプレイ112又はタッチ感知面からの情報を含む。
いくつかの実施形態において、イベントモニタ171は、所定の間隔で周辺機器インタフェース118に要求を送る。それに応じて、周辺機器インタフェース118は、イベント情報を送信する。他の実施形態では、周辺機器インタフェース118は、重要なイベント(例えば、所定のノイズ閾値を上回る及び/又は所定の持続時間を超える入力の受信)があるときのみイベント情報を送信する。
いくつかの実施形態において、イベントソータ170は、ヒットビュー判定モジュール172及び/又はアクティブイベント認識部判定モジュール173も含む。
ヒットビュー判定モジュール172は、タッチ感知ディスプレイ112が1つ以上のビューを表示した際に、1つ以上のビュー内のサブイベントが発生した場所を判定するためのソフトウェア手順を提供する。ビューは、ユーザがディスプレイ上で見ることができる制御装置及び他の要素から構成されている。
アプリケーションに関連付けられたユーザインタフェースの別の態様は、本明細書中では、情報が表示されタッチベースのジェスチャが発生する、アプリケーションビュー又はユーザインタフェースウインドウと呼ばれることもあるビューのセットである。タッチが検出される(それぞれのアプリケーションの)アプリケーションビューは、任意選択的に、アプリケーションのプログラム階層又はビュー階層内のプログラムレベルに対応する。例えば、タッチが検出される最下位レベルビューは、任意選択的に、ヒットビューと呼ばれ、また、適切な入力として認識されるイベントのセットは、任意選択的に、タッチによるジェスチャを開始する初期タッチのヒットビューに少なくとも部分的に基づいて決定される。
ヒットビュー判定モジュール172は、タッチベースのジェスチャのサブイベントに関連した情報を受信する。アプリケーションが階層状に構成された複数のビューを有するとき、ヒットビュー判定モジュール172は、サブイベントを処理すべき階層内の最下位のビューとして、ヒットビューを特定する。ほとんどの状況では、ヒットビューは、開始サブイベント(例えば、イベント又は潜在的イベントを形成するサブイベントシーケンスにおける第1のサブイベント)が発生する最も低いレベルのビューである。ヒットビューがヒットビュー判定モジュール172によって特定されると、ヒットビューは、通常、ヒットビューとして特定されたタッチ若しくは入力ソースと同じタッチ又は入力ソースに関係する全てのサブイベントを受信する。
アクティブイベント認識部判定モジュール173は、ビュー階層内のどのビュー(1つ又は複数)がサブイベントの特定のシーケンスを受信すべきかを判定する。いくつかの実施形態では、アクティブイベント認識部判定モジュール173は、ヒットビューのみがサブイベントの特定のシーケンスを受信すべきであると判定する。他の実施形態では、アクティブイベント認識部判定モジュール173は、サブイベントの物理位置を含む全てのビューがアクティブに関わりがあるビューであると判定し、したがって、全てのアクティブに関わりがあるビューが、サブイベントの特定のシーケンスを受信すべきであると判定する。他の実施形態では、タッチサブイベントが1つの特定のビューに関連付けられたエリアに完全に限定された場合でも、階層内の上位のビューは、依然としてアクティブに関わりがあるビューであり続ける。
イベントディスパッチャモジュール174は、イベント情報をイベント認識部(例えば、イベント識別部180)にディスパッチする。アクティブイベント認識部判定モジュール173を含む実施形態では、イベントディスパッチャモジュール174は、アクティブイベント認識部判定モジュール173により判定されたイベント認識部にイベント情報を配信する。いくつかの実施形態では、イベントディスパッチャモジュール174は、それぞれのイベント受信部182によって取得されるイベント情報をイベントキューに記憶する。
いくつかの実施形態では、オペレーティングシステム126は、イベントソータ170を含む。あるいは、アプリケーション136-1がイベントソータ170を含む。更に他の実施形態では、イベントソータ170は、独立型のモジュールであり、又は接触/動きモジュール130などのメモリ102内に記憶されている別のモジュールの一部分である。
いくつかの実施形態では、アプリケーション136-1は、それぞれがアプリケーションのユーザインタフェースのそれぞれのビュー内で発生するタッチイベントを処理するための命令を含む、複数のイベント処理部190及び1つ以上のアプリケーションビュー191を含む。アプリケーション136-1の各アプリケーションビュー191は、1つ以上のイベント認識部180を含む。典型的には、それぞれのアプリケーションビュー191は、複数のイベント認識部180を含む。他の実施形態では、イベント認識部180のうちの1つ以上は、ユーザインタフェースキット、又は、アプリケーション136-1が方法及び他の属性を継承する上位レベルのオブジェクトなどの、別個のモジュールの一部である。いくつかの実施形態では、それぞれのイベント処理部190は、データ更新部176、オブジェクト更新部177、GUI更新部178、及び/又はイベントソータ170から受信されたイベントデータ179、のうちの1つ以上を含む。イベント処理部190は、任意選択的に、データ更新部176、オブジェクト更新部177、又はGUI更新部178を利用し又は呼び出して、アプリケーション内部状態192を更新する。あるいは、アプリケーションビュー191のうちの1つ以上が、1つ以上のそれぞれのイベント処理部190を含む。また、いくつかの実施形態では、データ更新部176、オブジェクト更新部177、及びGUI更新部178のうちの1つ以上は、それぞれのアプリケーションビュー191に含まれる。
それぞれのイベント認識部180は、イベントソータ170からイベント情報(例えば、イベントデータ179)を受信し、イベント情報からイベントを識別する。イベント認識部180は、イベント受信部182及びイベント比較部184を含む。いくつかの実施形態では、イベント認識部180はまた、メタデータ183及びイベント配信命令188(任意選択的にサブイベント配信命令を含む)の少なくともサブセットも含む。
イベント受信部182は、イベントソータ170よりイベント情報を受信する。イベント情報は、サブイベント、例えば、タッチ又はタッチの移動についての情報を含む。サブイベントに応じて、イベント情報はまた、サブイベントの位置などの追加の情報を含む。サブイベントがタッチの動きに関わるとき、イベント情報はまた任意選択的に、サブイベントの速さ及び方向を含む。いくつかの実施形態では、イベントは、1つの向きから別の向きへの(例えば、縦向きから横向きへ、又はその逆の)デバイスの回転を含み、イベント情報は、デバイスの現在の向き(デバイスの姿勢とも呼ぶ)についての対応する情報を含む。
イベント比較部184は、イベント情報を既定のイベント又はサブイベントの定義と比較し、その比較により、イベント又はサブイベントを判定、又はイベント若しくはサブイベントの状態を判定又は更新する。いくつかの実施形態では、イベント比較部184は、イベント定義186を含む。イベント定義186は、例えばイベント1(187-1)及びイベント2(187-2)などのイベント(例えば、既定のサブイベントのシーケンス)の定義を含む。いくつかの実施形態では、イベント(187)内のサブイベントは、例えば、タッチの開始、タッチの終了、タッチの移動、タッチの取り消し、及び複数のタッチを含む。一実施例では、イベント1(187-1)についての定義は、表示されたオブジェクト上のダブルタップである。ダブルタップは、例えば、所定の段階に対する表示オブジェクト上の第1のタッチ(タッチ開始)、所定の段階に対する第1のリフトオフ(タッチ終了)、所定の段階に対する表示オブジェクト上の第2のタッチ(タッチ開始)、及び所定の段階に対する第2のリフトオフ(タッチ終了)を含む。別の実施例では、イベント2(187-2)の定義は、表示されたオブジェクト上のドラッグである。ドラッグは、例えば、所定の段階に対する表示オブジェクト上のタッチ(又は接触)、タッチ感知ディスプレイ112にわたるタッチの移動、及びタッチのリフトオフ(タッチ終了)を含む。いくつかの実施形態では、イベントは、1つ以上の関連付けられたイベント処理部190に関する情報も含む。
いくつかの実施形態において、イベント定義187は、それぞれのユーザインタフェースオブジェクト用のイベントの定義を含む。いくつかの実施形態では、イベント比較部184は、どのユーザインタフェースオブジェクトがサブイベントに関連付けられているかを判定するヒットテストを実行する。例えば、タッチ感知ディスプレイ112に3つのユーザインタフェースオブジェクトが表示されているアプリケーションビュー内で、タッチ感知ディスプレイ112上でタッチが検出されると、イベント比較部184は、ヒットテストを実行して、3つのユーザインタフェースオブジェクトのうちのどれがタッチ(サブイベント)に関連付けられているかを判定する。表示された各オブジェクトが、それぞれのイベント処理部190に関連付けられている場合、イベント比較部は、ヒットテストの結果を用いて、どのイベント処理部190をアクティブ化すべきかを判定する。例えば、イベント比較部184は、ヒットテストをトリガするサブイベント及びオブジェクトに関連付けられたイベント処理部を選択する。
いくつかの実施形態において、それぞれのイベント(187)の定義は、サブイベントのシーケンスが、イベント認識部のイベントタイプに対応するか対応しないかが判定されるまで、イベント情報の配信を遅延させる遅延動作も含む。
それぞれのイベント認識部180が一連のサブイベントがイベント定義186のイベントのいずれとも一致しないと判断した場合、それぞれのイベント認識部180は、イベント不可能、イベント失敗、又はイベント終了の状態に入り、その後は、タッチに基づくジェスチャの次のサブイベントを無視する。この状況では、ヒットビューについてアクティブのままである他のイベント認識部があれば、そのイベント認識部は、進行中のタッチによるジェスチャのサブイベントの追跡及び処理を続行する。
いくつかの実施形態において、それぞれのイベント認識部180は、イベント配信システムが、アクティブに関わっているイベント認識部へのサブイベント配信を実行する方法を示す、構成可能なプロパティ、フラグ、及び/又はリストを有するメタリスト183を含む。いくつかの実施形態では、メタデータ183は、イベント認識部が互いにどのように対話するか、又はイベント認識部が互いにどのように対話することが可能となるかを示す構成可能なプロパティ、フラグ、及び/又はリストを含む。いくつかの実施形態では、メタデータ183は、サブイベントがビュー階層又はプログラム階層における多様なレベルに配信されるかを示す構成可能なプロパティ、フラグ、及び/又はリストを含む。
いくつかの実施形態において、それぞれのイベント認識部180は、イベントの1つ以上の特定のサブイベントが認識されたときに、イベントに関連付けられたイベント処理部190をアクティブ化する。いくつかの実施形態では、それぞれのイベント認識部180は、イベントに関連付けられたイベント情報をイベント処理部190に配信する。イベント処理部190をアクティブ化することは、それぞれのヒットビューにサブイベントを送信する(及び、送信を延期する)こととは別個である。いくつかの実施形態では、イベント認識部180は、認識したイベントに関連付けられたフラグを投入し、そのフラグに関連付けられたイベント処理部190は、そのフラグを捕らえ、既定のプロセスを実行する。
いくつかの実施形態において、イベント配信命令188は、イベント処理部をアクティブ化せずにサブイベントに関するイベント情報を配布するサブイベント配信命令を含む。代わりに、サブイベント配信命令は、一連のサブイベントと関連付けられたイベント処理部に、又はアクティブに関与しているビューにイベント情報を配信する。一連のサブイベント又はアクティブに関与しているビューと関連付けられたイベント処理部は、イベント情報を受信し、所定の処理を実行する。
いくつかの実施形態において、データ更新部176は、アプリケーション136-1で使用されるデータを作成及び更新する。例えば、データ更新部176は、連絡先モジュール137で使用される電話番号を更新し、又はビデオプレーヤモジュールで使用されるビデオファイルを記憶する。いくつかの実施形態では、オブジェクト更新部177は、アプリケーション136-1で使用されるオブジェクトを作成及び更新する。例えば、オブジェクト更新部177は、新たなユーザインタフェースオブジェクトを作成し、又はユーザインタフェースオブジェクトの位置を更新する。GUI更新部178は、GUIを更新する。例えば、GUI更新部178は、表示情報を準備し、タッチ感知ディスプレイ上に表示するために表示情報をグラフィックモジュール132に送信する。
いくつかの実施形態では、イベント処理部190(1つ又は複数)は、データ更新部176、オブジェクト更新部177、及びGUI更新部178を含む、又はこれらにアクセスする。いくつかの実施形態では、データ更新部176、オブジェクト更新部177、及びGUI更新部178は、それぞれのアプリケーション136-1又はアプリケーションビュー191の単一モジュールに含まれる。他の実施形態では、それらは、2つ以上のソフトウェアモジュールに含まれる。
タッチ感知ディスプレイ上のユーザタッチのイベント処理に関する上記の考察は、入力デバイスを用いて多機能デバイス100を動作させるための他の形態のユーザ入力にも適用されるが、その全てがタッチスクリーン上で開始されるわけではないことを理解されたい。例えば、キーボードの単一又は複数の押圧若しくは保持と任意選択的に連携される、マウスの移動及びマウスボタンの押圧、タッチパッド上のタップ、ドラッグ、スクロールなどの接触の移動、ペンスタイラス入力、デバイスの移動、口頭による命令、検出された眼球運動、バイオメトリック入力、並びに/又はそれらの任意の組み合わせを、任意選択的に、認識するイベントを定義するサブイベントに対応する入力として利用する。
図2は、いくつかの実施形態に係る、タッチスクリーン112を有するポータブル多機能デバイス100を示す。タッチスクリーンは、任意選択的に、ユーザインタフェース(user interface、UI)200内に1つ以上のグラフィックを表示する。本実施形態、並びに以下で説明される他の実施形態では、ユーザは、例えば、1本以上の指202(図には正確な縮尺では描かれていない)又は1つ以上のスタイラス203(図には正確な縮尺では描かれていない)を使用して、グラフィック上でジェスチャを実施することによって、それらのグラフィックのうちの1つ以上を選択することが可能となる。いくつかの実施形態では、1つ以上のグラフィックの選択は、ユーザが、その1つ以上のグラフィックとの接触を中断する場合に実施される。いくつかの実施形態では、ジェスチャは、デバイス100と接触した指の、1回以上のタップ、1回以上のスワイプ(左から右へ、右から左へ、上向きに及び/若しくは下向きに)、並びに/又は、ローリング(右から左へ、左から右へ、上向きに及び/若しくは下向きに)を、任意選択的に含む。一部の実装形態又は状況では、グラフィックとの不測の接触は、そのグラフィックを選択するものではない。例えば、選択に対応するジェスチャがタップである場合、アプリケーションアイコンの上をスイープするスワイプジェスチャは、任意選択的に、対応するアプリケーションを選択するものではない。
デバイス100は任意選択的に、「ホーム」又はメニューボタン204などの1つ以上の物理ボタンも含む。前述したように、メニューボタン204は、任意選択的にデバイス100上で実行される1組のアプリケーション内の任意のアプリケーション136にナビゲートするために、任意選択的に使用される。あるいは、いくつかの実施形態では、メニューボタンは、タッチスクリーン112に表示されるGUI内のソフトキーとして実装される。
いくつかの実施形態では、デバイス100は、タッチスクリーン112、メニューボタン204、デバイスの電源をオン/オフにしてデバイスをロックするプッシュボタン206、音量調整ボタン208、加入者識別モジュール(SIM)カードスロット210、ヘッドセットジャック212、及びドッキング/充電用外部ポート124を含む。プッシュボタン206は、任意選択的に、ボタンを押し下げて、既定の期間にわたってボタンを押し下げた状態に保持することによって、デバイスの電源をオン/オフするため、ボタンを押し下げて、既定の時間が経過する前にボタンを解放することによってデバイスをロックするため、及び/又はデバイスをロック解除する、若しくはロック解除プロセスを開始するために、使用される。代替の実施形態では、デバイス100は、マイクロフォン113を介して、いくつかの機能をアクティブ化又は非アクティブ化するための口頭入力もまた受け入れる。デバイス100は、任意選択的に、タッチスクリーン112上の接触の強度を検出する1つ以上の接触強度センサ165、及び/又はデバイス100のユーザに対する触知出力を生成する1つ以上の触知出力生成器167もまた含む。
図3は、いくつかの実施形態に係る、ディスプレイ及びタッチ感知面を有する例示的な多機能デバイスのブロック図である。デバイス300は、ポータブル型である必要はない。いくつかの実施形態では、デバイス300は、ラップトップコンピュータ、デスクトップコンピュータ、タブレットコンピュータ、マルチメディアプレーヤデバイス、ナビゲーションデバイス、教育的デバイス(子供の学習玩具など)、ゲームシステム、又は制御デバイス(例えば、家庭用又は業務用コントローラ)である。デバイス300は、通常、1つ以上の処理ユニット(CPU)310、1つ以上のネットワーク又は他の通信インタフェース360、メモリ370、及びこれらの構成要素を相互接続する1つ以上の通信バス320を含む。通信バス320は、任意選択的に、システム構成要素間の通信を相互接続及び制御する回路(チップセットと呼ばれることもある)を含む。デバイス300は、ディスプレイ340を含む入出力(I/O)インタフェース330を含み、ディスプレイ340は、通常、タッチスクリーンディスプレイである。I/Oインタフェース330はまた、任意選択的に、キーボード及び/又はマウス(若しくは他のポインティングデバイス)350並びにタッチパッド355、デバイス300上に触知出力を生成するための(例えば、図1Aを参照して前述した触知出力生成器167と同様の)触知出力生成器357、センサ359(例えば、光、加速度、近接、タッチ感知、及び/又は図1Aを参照して前述した、接触強度センサ165と同様の接触強度センサ)を含む。メモリ370は、DRAM、SRAM、DDR RAM、又は他のランダムアクセスソリッドステートメモリデバイスなどの高速ランダムアクセスメモリを含み、任意選択的に、1つ以上の磁気ディスク記憶デバイス、光ディスク記憶デバイス、フラッシュメモリデバイス、又は他の不揮発性ソリッドステート記憶デバイスなどの不揮発性メモリを含む。メモリ370は、任意選択で、CPU(単数又は複数)310からリモートに位置する1つ以上の記憶デバイスを含む。いくつかの実施形態では、メモリ370は、ポータブル多機能デバイス100(図1A)のメモリ102内に記憶されているプログラム、モジュール、及びデータ構造に類似したプログラム、モジュール、及びデータ構造、又はそのサブセットを記憶する。更に、メモリ370は、任意選択で、ポータブル多機能デバイス100のメモリ102に存在しない追加のプログラム、モジュール、及びデータ構造を記憶する。例えば、デバイス300のメモリ370は、任意選択的に、描画モジュール380、プレゼンテーションモジュール382、ワードプロセッシングモジュール384、ウェブサイト作成モジュール386、ディスクオーサリングモジュール388、及び/又はスプレッドシートモジュール390を記憶するのに対して、ポータブル多機能デバイス100(図1A)のメモリ102は、任意選択的に、これらのモジュールを記憶しない。
図3の上記で特定した要素はそれぞれ、任意選択的に、前述したメモリデバイスのうちの1つ以上の中に記憶される。上記で特定したモジュールはそれぞれ、前述した機能を実行する命令セットに対応する。上記で特定したモジュール又はプログラム(例えば、命令セット)は、別個のソフトウェアプログラム、手順、又はモジュールとして実装される必要はなく、したがって様々な実施形態では、これらのモジュールの様々なサブセットが、任意選択的に組み合わされ、又は他の方法で再構成される。いくつかの実施形態では、メモリ370は、上記で特定されたモジュール及びデータ構造のサブセットを任意選択的に記憶する。更に、メモリ370は、上記で説明されていない追加のモジュール及びデータ構造を任意選択的に記憶する。
次に、任意選択的に、例えばポータブル多機能デバイス100に実装されるユーザインタフェースの実施形態に注意を向ける。
図4Aは、いくつかの実施形態に係る、ポータブル多機能デバイス100上のアプリケーションのメニューの例示的なユーザインタフェースを示す。同様のユーザインタフェースは、デバイス300上に任意選択的に実装される。いくつかの実施形態では、ユーザインタフェース400は、以下の要素、又はそれらのサブセット若しくはスーパーセットを含む。
●セルラー信号及びWi-Fi信号などの無線通信(単数又は複数)用の信号強度インジケータ(単数又は複数)402、
●時刻404、
●Bluetoothインジケータ405、
●バッテリ状態インジケータ406、
●以下のような、頻繁に使用されるアプリケーションのアイコンを有するトレイ408
○不在着信又はボイスメールメッセージの数のインジケータ414を任意選択的に含む、「電話」とラベル付けされた、電話モジュール138のアイコン416、
○未読電子メールの数のインジケータ410を任意選択的に含む、「メール」とラベル付けされた、電子メールクライアントモジュール140のアイコン418、
○「ブラウザ」とラベル付けされた、ブラウザモジュール147のアイコン420、及び
○「iPod」とラベル付けされる、iPod(Apple Inc.の商標)モジュール152とも称されるビデオ及び音楽プレーヤモジュール152用のアイコン422、及び
●以下のような、他のアプリケーションのアイコン、
○「メッセージ」とラベル付けされた、IMモジュール141のアイコン424、
○「カレンダ」とラベル付けされた、カレンダモジュール148のアイコン426、
○「写真」とラベル付けされた、画像管理モジュール144のアイコン428、
○「カメラ」とラベル付けされた、カメラモジュール143のアイコン430、
○「オンラインビデオ」とラベル付けされた、オンラインビデオモジュール155のアイコン432、
○「株価」とラベル付けされた、株価ウィジェット149-2のアイコン434、
○「地図」とラベル付けされた、地図モジュール154のアイコン436、
○「天気」とラベル付けされた、気象ウィジェット149-1のアイコン438、
○「時計」とラベル付けされた、アラーム時計ウィジェット149-4のアイコン440、
○「トレーニングサポート」とラベル付けされた、トレーニングサポートモジュール142のアイコン442、
○「メモ」とラベル付けされた、メモモジュール153のアイコン444、及び
○デバイス100及びその様々なアプリケーション136の設定へのアクセスを提供する、「設定」とラベル付けされた、設定アプリケーション又はモジュールのアイコン446。
図4Aに示すアイコンラベルは、単なる例示であることに留意されたい。例えば、ビデオ及び音楽プレーヤモジュール152のアイコン422は、「音楽」又は「音楽プレーヤ」とラベル付けされる。他のラベルが、様々なアプリケーションアイコンのために、任意選択的に使用される。いくつかの実施形態では、それぞれのアプリケーションアイコンに関するラベルは、それぞれのアプリケーションアイコンに対応するアプリケーションの名前を含む。いくつかの実施形態では、特定のアプリケーションアイコンのラベルは、その特定のアプリケーションアイコンに対応するアプリケーションの名前とは異なる。
図4Bは、ディスプレイ450(例えば、タッチスクリーンディスプレイ112)とは別個のタッチ感知面451(例えば、図3のタブレット又はタッチパッド355)を有するデバイス(例えば、図3のデバイス300)上の例示的なユーザインタフェースを示す。デバイス300はまた、任意選択的に、タッチ感知面451上の接触の強度を検出する1つ以上の接触強度センサ(例えば、センサ359のうちの1つ以上)、及び/又はデバイス300のユーザに対して触知出力を生成する1つ以上の触知出力生成器357を含む。
以下の例のうちのいくつかは、タッチスクリーンディスプレイ112(タッチ感知面及びディスプレイが組み合わされている)上の入力を参照して与えられるが、いくつかの実施形態では、デバイスは、図4Bに示すように、ディスプレイとは別個のタッチ感知面上の入力を検出する。いくつかの実施形態では、タッチ感知面(例えば、図4Bの451)は、ディスプレイ(例えば、450)上の1次軸(例えば、図4Bの453)に対応する1次軸(例えば、図4Bの452)を有する。これらの実施形態によれば、デバイスは、ディスプレイ上のそれぞれの位置に対応する位置(例えば、図4Bでは、460は468に対応し、462は470に対応する)で、タッチ感知面451との接触(例えば、図4Bの460及び462)を検出する。このようにして、タッチ感知面(例えば、図4Bの451)上でデバイスによって検出されるユーザ入力(例えば、接触460及び462、並びにこれらの動き)は、タッチ感知面がディスプレイとは別個であるとき、多機能デバイスのディスプレイ(例えば、図4Bの450)上のユーザインタフェースを操作するために、デバイスによって使用される。同様の方法が、本明細書に記載の他のユーザインタフェースに任意選択的に使用されることを理解されたい。
加えて、以下の実施例が主として指入力(例えば、指接触、指タップジェスチャ、指スワイプジェスチャ)を参照して示されているが、いくつかの実施形態において、これらの指入力のうちの1つ以上は、別の入力デバイス(例えば、マウスに基づく入力、又はスタイラス入力)からの入力と置換されることが理解されたい。例えば、スワイプジェスチャは、任意選択的に、(例えば、接触の代わりに、)マウスクリックであって、その後に(例えば、接触の移動の代わりに)スワイプの経路に沿ったカーソルの移動を伴うマウスクリックによって置き換えられる。別の例として、タップジェスチャは、任意選択的に、カーソルがタップジェスチャの位置上に位置する間は、(例えば、接触を検出して、それに続いて接触の検出を停止する代わりに)マウスクリックによって置き換えられる。同様に、複数のユーザ入力が同時に検出されるとき、複数のコンピュータマウスが、任意選択的に、同時に使用され、又はマウス及び指の接触が、任意選択的に、同時に使用されることを理解されたい。
図5Aは、例示的なパーソナル電子デバイス500を示す。デバイス500は、本体502を含む。いくつかの実施形態では、デバイス500は、デバイス100及び300(例えば、図1A~図4B)に関して説明された特徴のうちのいくつか又は全てを含むことができる。いくつかの実施形態では、デバイス500は、タッチ感知ディスプレイスクリーン504、以下ではタッチスクリーン504、を有する。あるいは、又はタッチスクリーン504に加えて、デバイス500は、ディスプレイ及びタッチ感知面を有する。デバイス100及び300と同様に、いくつかの実施形態では、タッチスクリーン504(又はタッチ感知面)は、任意選択的に、加えられている接触(例えば、タッチ)の強度を検出する1つ以上の強度センサを含む。タッチスクリーン504(又はタッチ感知面)の1つ以上の強度センサは、タッチの強度を表す出力データを提供することができる。デバイス500のユーザインタフェースは、タッチに、その強度に基づいて応答することができ、これは、異なる強度のタッチが、デバイス500上で異なるユーザインタフェース動作を呼び出すことができることを意味する。
タッチ強度を検出し処理する例示的な技法は、例えば、それぞれ全体が参照により本明細書に組み込まれる関連出願である、国際特許第WO/2013/169849号として公開された、2013年5月8日出願の国際特許出願第PCT/US2013/040061号、「Device,Method,and Graphical User Interface for Displaying User Interface Objects Corresponding to an Application」、及び国際特許第WO/2014/105276号として公開された、2013年11月11日出願の国際特許出願第PCT/US2013/069483号、「Device,Method,and Graphical User Interface for Transitioning Between Touch Input to Display Output Relationships」に見いだされる。
いくつかの実施形態では、デバイス500は、1つ以上の入力機構506及び508を有する。入力機構506及び508は、含まれる場合、物理的であり得る。物理的入力機構の例としては、プッシュボタン及び回転可能機構が挙げられる。いくつかの実施形態では、デバイス500は、1つ以上のアタッチメント機構を有する。そのようなアタッチメント機構は、含まれる場合、例えば帽子、眼鏡類、イアリング、ネックレス、シャツ、ジャケット、ブレスレット、腕時計のバンド、チェーン、ズボン、ベルト、靴、財布、バックパックなどにデバイス500を取り付けることを可能にすることができる。これらのアタッチメント機構は、ユーザがデバイス500を着用することを可能にする。
図5Bは、例示的なパーソナル電子デバイス500を示す。いくつかの実施形態では、デバイス500は、図1A、図1B、及び図3に関して説明した構成要素のうちのいくつか又は全てを含むことができる。デバイス500は、I/Oセクション514を1つ以上のコンピュータプロセッサ516及びメモリ518に動作可能に結合するバス512を有する。I/Oセクション514は、ディスプレイ504に接続することができ、ディスプレイ504は、タッチ感知構成要素522、及び任意選択的に強度センサ524(例えば、接触強度センサ)を有することができる。加えて、I/Oセクション514は、Wi-Fi、Bluetooth、近距離通信(NFC)、セルラー、及び/又は他の無線通信技法を使用してアプリケーション及びオペレーティングシステムデータを受信する通信ユニット530と接続することができる。デバイス500は、入力機構506及び/又は508を含むことができる。入力機構506は、任意選択的に、例えば回転可能入力デバイス又は押下可能及び回転可能入力デバイスである。いくつかの例では、入力機構508は、任意選択的にボタンである。
いくつかの例では、入力機構508は、任意選択的にマイクロフォンである。パーソナル電子デバイス500は、任意選択的に、GPSセンサ532、加速度計534、方向センサ540(例えば、コンパス)、ジャイロスコープ536、動きセンサ538、及び/又はそれらの組み合わせなどの様々なセンサを含み、それらは全て、I/Oセクション514に動作可能に接続することができる。
パーソナル電子デバイス500のメモリ518は、コンピュータ実行可能命令を記憶するための1つ以上の非一時的コンピュータ可読記憶媒体を含むことができ、それらの命令は、1つ以上のコンピュータプロセッサ516によって実行されると、例えば、コンピュータプロセッサに、プロセス700、900及び1100(図7A~図7B、図9A~図9B及び図11)を含めた、以下に説明する技法を実行させることができる。コンピュータ可読記憶媒体は、命令実行システム、装置、若しくはデバイスによって、又は命令実行システム、装置、若しくはデバイスに関連して、使用されるコンピュータ実行可能命令を、有形に含み又は記憶することができる任意の媒体であり得る。いくつかの実施例では、記憶媒体は、一時的コンピュータ可読記憶媒体である。いくつかの実施例では、記憶媒体は、非一時的コンピュータ可読記憶媒体である。非一時的コンピュータ可読記憶媒体は、それらに限定されるものではないが、磁気、光学、及び/又は半導体記憶装置を含むことができる。そのような記憶装置の例としては、磁気ディスク、CD、DVD、又はBlu-ray技術に基づく光学ディスク、並びにフラッシュ、ソリッドステートドライブなどの常駐ソリッドステートメモリなどが挙げられる。パーソナル電子デバイス500は、図5Bの構成要素及び構成に限定されるものではなく、他の又は追加の構成要素を複数の構成で含むことができる。
本明細書で使用されるとき、「アフォーダンス」という用語は、任意選択的に、デバイス100、300、及び/又は500(図1A、図3、及び図5A~図5B)のディスプレイスクリーンに表示されるユーザ対話グラフィカルユーザインタフェースオブジェクトを指す。例えば、画像(例えば、アイコン)、ボタン、及びテキスト(例えば、ハイパーリンク)はそれぞれ、任意選択的に、アフォーダンスを構成する。
本明細書で使用されるとき、用語「フォーカスセレクタ」は、ユーザが対話しているユーザインタフェースの現在の部分を指示する入力要素を指す。カーソル又は他の位置マーカを含むいくつかの実装形態では、カーソルが「フォーカスセレクタ」として作用し、したがってカーソルが特定のユーザインタフェース要素(例えば、ボタン、ウインドウ、スライダ、又は他のユーザインタフェース要素)の上に位置する間に、入力(例えば、押下入力)がタッチ感知面(例えば、図3のタッチパッド355又は図4Bのタッチ感知面451)上で検出されたとき、特定のユーザインタフェース要素は、検出された入力に従って調整される。タッチスクリーンディスプレイ上のユーザインタフェース要素との直接対話を可能にするタッチスクリーンディスプレイ(例えば、図1Aのタッチ感知ディスプレイシステム112又は図4Aのタッチスクリーン112)を含むいくつかの実装形態では、タッチスクリーン上の検出された接触が「フォーカスセレクタ」として作用し、したがってタッチスクリーンディスプレイ上の特定のユーザインタフェース要素(例えば、ボタン、ウインドウ、スライダ、又は他のユーザインタフェース要素)の位置で入力(例えば、接触による押下入力)が検出されたとき、特定のユーザインタフェース要素が、検出された入力に従って調整される。いくつかの実装形態では、(例えば、フォーカスを1つのボタンから別のボタンへ動かすためにタブキー又は矢印キーを使用することによって)タッチスクリーンディスプレイ上の対応するカーソルの移動又は接触の移動なしに、フォーカスがユーザインタフェースの1つの領域からユーザインタフェースの別の領域に動かされ、これらの実装形態では、フォーカスセレクタは、ユーザインタフェースの種々の領域間でのフォーカスの移動に従って移動する。フォーカスセレクタがとる具体的な形態にかかわらず、フォーカスセレクタは、一般に、ユーザが意図するユーザインタフェースとの対話について(例えば、ユーザがそれを通じて対話することを意図しているユーザインタフェースの要素をデバイスに示すことによって)伝えるためにユーザによって制御されるユーザインタフェース要素(又はタッチスクリーンディスプレイ上の接触)である。例えば、タッチ感知面(例えば、タッチパッド又はタッチスクリーン)上で押圧入力が検出されている間の、対応のボタンの上のフォーカスセレクタ(例えば、カーソル、接触、又は選択ボックス)の位置は、その対応のボタンを(そのデバイスのディスプレイ上に示される他のユーザインタフェース要素ではなく)アクティブ化することをユーザが意図していることを示すものである。
本明細書及び特許請求の範囲において使用されるとき、接触の「特性強度」という用語は、接触の1つ以上の強度に基づく、その接触の特性を指す。いくつかの実施形態では、特性強度は複数の強度サンプルに基づく。特性強度は、任意選択的に、既定の数の強度サンプル、すなわち、既定のイベント(例えば、接触を検出した後、接触のリフトオフを検出する前、接触の移動の開始を検出する前若しくは後、接触の終了を検出する前、接触の強度の増大を検出する前若しくは後、及び/又は、接触の強度の減少を検出する前若しくは後の)に関連する所定の時間(例えば、0.05、0.1、0.2、0.5、1、2、5、10秒)の間に収集された強度サンプルのセットに基づく。接触の特性強度は、任意選択的に、接触の強度の最大値、接触の強度の平均(mean)値、接触の強度の平均(average)値、接触の強度の上位10パーセンタイル値、接触の強度の最大の2分の1の値、接触の強度の最大の90パーセントの値などのうちの1つ以上に基づいている。いくつかの実施形態では、特性強度を判定する際に(例えば、特性強度が経時的な接触の強度の平均であるときに)、接触の持続期間が使用される。いくつかの実施形態では、特性強度は、動作がユーザにより実行されたかどうかを判定するために、1つ以上の強度閾値のセットと比較される。例えば、1つ以上の強度閾値のセットは、任意選択的に、第1の強度閾値及び第2の強度閾値を含む。この例では、第1の閾値を超えない特性強度を有する接触は第1の動作をもたらし、第1の強度閾値を超えるが第2の強度閾値を超えない特性強度を有する接触は第2の動作をもたらし、第2の閾値を超える特性強度を有する接触は第3の動作をもたらす。いくつかの実施形態では、特性強度と1つ以上の閾値との間の比較は、第1の動作を実行するべきか、それとも第2の動作を実行するべきかを判定するために使用されるのではなく、1つ以上の動作を実行するべきか否か(例えば、それぞれの動作を実行するべきか、それともそれぞれの動作を実行するのを見送るべきか)を判定するために使用される。
いくつかの実施形態では、特性強度を判定する目的のために、ジェスチャの一部分が特定される。例えば、タッチ感知面は、任意選択的に、開始位置から遷移して終了位置に到達し、その位置で接触の強度が増大している、連続するスワイプ接触を受信する。この例では、終了位置での接触の特性強度は、任意選択的に、スワイプ接触全体ではなく、連続するスワイプ接触の一部分のみ(例えば、スワイプ接触のうち終了位置の部分のみ)に基づいている。いくつかの実施形態では、任意選択的に、接触の特性強度を判定する前に、平滑化アルゴリズムがスワイプ接触の強度に適用される。例えば、平滑化アルゴリズムは、任意選択的に、非加重移動平均平滑化アルゴリズム、三角平滑化アルゴリズム、中央値フィルタ平滑化アルゴリズム、及び/又は指数平滑化アルゴリズムのうちの1つ以上を含む。いくつかの状況では、これらの平滑化アルゴリズムは、特性強度を判定する目的のために、スワイプ接触強度の幅の狭いスパイク又は下落を排除する。
タッチ感知面上の接触の強度は、任意選択的に、接触検出強度閾値、軽い押下強度閾値、深い押下強度閾値、及び/又は1つ以上の他の強度閾値などの1つ以上の強度閾値に対して特徴付けられる。いくつかの実施形態では、軽い押下強度閾値は、通常、物理マウスのボタン又はトラックパッドをクリックすることに関連付けられた動作をデバイスが実行する強度に相当する。いくつかの実施形態では、深い押下強度閾値は、通常、物理マウスのボタン又はトラックパッドをクリックすることに関連付けられた動作とは異なる動作をデバイスが実行する強度に相当する。いくつかの実施形態では、軽い押下強度閾値を下回る(例えば、かつそれを下回ると接触が検出されなくなる公称接触検出強度閾値を上回る)特性強度を有する接触が検出されたとき、デバイスは、タッチ感知面上の接触の移動に従い、軽い押下強度閾値又は深い押下強度閾値に関連付けられた動作を実行することなく、フォーカスセレクタを動かす。一般に、特に明記しない限り、これらの強度閾値は、ユーザインタフェースの値の様々なセットの間で一貫している。
軽い押下強度閾値を下回る強度から、軽い押下強度閾値と深い押下強度閾値との間の強度への、接触の特性強度の増大は、「軽い押下」の入力と呼ばれることがある。深い押下強度閾値を下回る強度から、深い押下強度閾値を上回る強度への、接触の特性強度の増大は、「深い押下」の入力と呼ばれることがある。接触検出強度閾値を下回る強度から、接触検出強度閾値と軽い押下強度閾値との間の強度への、接触の特性強度の増大は、タッチ面上の接触の検出と呼ばれることがある。接触検出強度閾値を上回る強度から、接触検出強度閾値を下回る強度への、接触の特性強度の減少は、タッチ面からの接触のリフトオフの検出と呼ばれることがある。いくつかの実施形態では、接触検出強度閾値はゼロである。いくつかの実施形態では、接触検出強度閾値はゼロより大きい。
本明細書に記載するいくつかの実施形態では、それぞれの押下入力を含むジェスチャを検出したことに応じて、又はそれぞれの接触(若しくは複数の接触)によって実行されたそれぞれの押下入力を検出したことに応じて、1つ以上の動作が実行され、それぞれの押下入力は、押下入力強度閾値を上回る接触(又は複数の接触)の強度の増大を検出したことに少なくとも部分的に基づいて検出される。いくつかの実施形態では、それぞれの動作は、押下入力強度閾値を上回るそれぞれの接触の強度の増大(例えば、それぞれの押下入力の「ダウンストローク」)を検出したことに応じて実行される。いくつかの実施形態では、押下入力は、押下入力強度閾値を上回るそれぞれの接触の強度の増大、及びそれに続く押下入力強度閾値を下回る接触の強度の減少を含み、それぞれの動作は、それに続く押下入力閾値を下回るそれぞれの接触の強度の減少(例えば、それぞれの押下入力の「アップストローク」)を検出したことに応じて実行される。
いくつかの実施形態では、デバイスは、「ジッタ」と呼ばれる場合がある偶発的な入力を回避するために強度ヒステリシスを採用し、デバイスは、押下入力強度閾値との既定の関係を有するヒステリシス強度閾値を定義又は選択する(例えば、ヒステリシス強度閾値は、押下入力強度閾値よりもX強度単位低い、又はヒステリシス強度閾値は、押下入力強度閾値の75%、90%、若しくは何らかの妥当な割合である)。したがって、いくつかの実施形態では、押下入力は、押下入力強度閾値を上回るそれぞれの接触の強度の増大、及びそれに続く押下入力強度閾値に対応するヒステリシス強度閾値を下回る接触の強度の減少を含み、それぞれの動作は、それに続くヒステリシス強度閾値を下回るそれぞれの接触の強度の減少(例えば、それぞれの押下入力の「アップストローク」)を検出したことに応じて実行される。同様に、いくつかの実施形態では、押下入力は、デバイスが、ヒステリシス強度閾値以下の強度から押下入力強度閾値以上の強度への接触の強度の増大、及び任意選択的に、その後のヒステリシス強度以下の強度への接触の強度の減少を検出するときにのみ検出され、それぞれの動作は、押下入力(例えば、状況に応じて、接触の強度の増大又は接触の強度の減少)を検出したことに応じて実行される。
説明を容易にするために、押下入力強度閾値に関連付けられた押下入力、又は押下入力を含むジェスチャに応じて実行される動作の説明は、任意選択的に、押下入力強度閾値を上回る接触の強度の増大、ヒステリシス強度閾値を下回る強度から押下入力強度閾値を上回る強度への接触の強度の増大、押下入力強度閾値を下回る接触の強度の減少、及び/又は押下入力強度閾値に対応するヒステリシス強度閾値を下回る接触の強度の減少のいずれかを検出したことに応じてトリガされる。更に、押下入力強度閾値を下回る接触の強度の減少を検出したことに応じて実行されるように動作が記載される例では、動作は、任意選択的に、押下入力強度閾値に対応し、かつそれよりも低いヒステリシス強度閾値を下回る接触の強度の減少を検出したことに応じて実行される。
次に、ポータブル多機能デバイス100、デバイス300、又はデバイス500などの電子デバイス上で実施されるユーザインタフェース(「UI」)及び関連プロセスの実施形態に注意を向ける。
図6A~図6Tは、いくつかの実施形態に係る、シミュレートされた深度効果(例えば、ボケ効果)を調整するための例示的なユーザインタフェースを示す。それらの図におけるユーザインタフェースは、図7A~図7Bにおける処理を含む、以下で説明される処理を例示するために使用される。
図6Aは、電子デバイス600(例えば、スマートフォン)の正面図600A及び背面図600Bを示す。電子デバイス600は、(例えば、タッチ感知面と一体化された)ディスプレイ602、入力デバイス604(例えば、機械式入力ボタン、押下可能入力ボタン)、(例えば、1つ以上の前面カメラを含む)前面センサ606、及び(例えば、1つ以上の背面カメラを含む)背面センサ608を含む。いくつかの実施形態では、電子デバイス600はまた、1つ以上のバイオメトリックセンサ(例えば、指紋センサ、顔認識センサ、虹彩/網膜スキャナ)も含む。
電子デバイス600は、任意選択的に、(例えば、図1Aを参照して説明された1つ以上の深度カメラセンサ175と同様の)1つ以上の深度カメラセンサを含む。1つ以上の深度カメラセンサは、環境からデータを受信して、視点(例えば、深度カメラセンサ)からのシーン内のオブジェクト(例えば、顔面)の3次元モデルを作成する。いくつかの実施形態では、(例えば、図1Aを参照して説明され、カメラモジュールとも呼ばれる撮像モジュール143と同様の)撮像モジュールと連携して、1つ以上の深度カメラセンサは任意選択的に、撮像モジュールによってキャプチャされた画像の異なる部分の深度マップを決定するために使用される。いくつかの実施形態では、1つ以上の深度カメラセンサは、デバイスの前面に配置されているので、ユーザが他のテレビ会議参加者をタッチスクリーンディスプレイ上で閲覧する間に、深度情報を有するユーザの画像が、任意選択的に、テレビ会議のために取得され、深度マップデータを有する自撮り画像をキャプチャする。いくつかの実施形態では、1つ以上の深度カメラセンサは、デバイスの背面に、又はデバイスの背面及び前面に配置される。いくつかの実施形態では、1つ以上の深度カメラセンサの位置(単数又は複数)は、ユーザによって(例えば、デバイスハウジング内でレンズ及びセンサを回転させることによって)変更することができ、したがって深度カメラセンサが、タッチスクリーンディスプレイとともに、テレビ会議にも静止画像及び/又はビデオの取得にも使用される。いくつかの実施形態では、1つ以上の深度カメラセンサは、前面カメラ606及び/又は背面カメラ608と統合される。
いくつかの実施形態では、深度マップ(例えば、深度マップ画像)は、視点(例えば、カメラ、光センサ、深度カメラセンサ)からのシーン内のオブジェクトの距離に関する情報(例えば、値)を含む。深度マップの一実施形態では、各深度画素は、その対応する2次元画素が位置する、視点のZ軸内の位置を規定する。いくつかの実施形態では、深度マップは画素で構成されており、各画素は、値(例えば、0~255)によって定義される。例えば、値「0」は、「3次元」シーン内で最も遠い場所に位置している画素を表し、値「255」は、その「3次元」シーン内で視点(例えば、カメラ、光センサ、深度カメラセンサ)の最も近くに位置している画素を表す。他の実施形態では、深度マップは、シーン内のオブジェクトと視点の平面との間の距離を表す。いくつかの実施形態では、深度マップは、深度カメラから見た、関心対象物の様々な特徴部の相対深度(例えば、ユーザの顔面の目、鼻、口、耳の相対深度)に関する情報を含む。いくつかの実施形態では、深度マップは、関心対象物のz方向における輪郭をデバイスが判定することを可能にする、情報を含む。
図6Aでは、電子デバイス600は、画像キャプチャアプリケーション(例えば、カメラアプリケーション、画像/写真キャプチャ及び編集アプリケーション)を起動するためのアフォーダンス612を含むユーザインタフェース610(例えば、ロックスクリーンユーザインタフェース)をディスプレイ602上に表示する。ユーザインタフェース610を表示している間に、電子デバイス600は、アフォーダンス612のアクティブ化601(例えば、アフォーダンス612上のタップジェスチャ)を(例えば、ディスプレイ602のタッチ感知面を介して)検出する。
図6Bでは、アクティブ化601を検出したことに応じて、電子デバイス600は、画像キャプチャアプリケーションのユーザインタフェース614をディスプレイ602上に表示する。この例では、画像キャプチャアプリケーションは写真モードである。画像キャプチャアプリケーションのユーザインタフェース614を表示している間に、電子デバイス600は、背面カメラ608を介して、背面カメラ608の視野内の環境に対応する画像データを受信する。いくつかの実施例では、画像キャプチャアプリケーションが背面モードとは対向した前面モードになっている場合、電子デバイス600は、前面カメラ606を介して、前面カメラ606の視野内の環境に対応する画像データを受信する。
電子デバイス600は、画像キャプチャアプリケーションのユーザインタフェース614の画像表示領域616に、背面カメラ608を介して受信した画像データの画像表現618を表示する。この例では、画像表現618は、被写体620(例えば、人物の顔面、及び人物の上半身の少なくとも一部分を含む人物のビュー)を含む。この例では、画像表現618はまた、(実際の環境内の実際の発光オブジェクトに対応する)発光オブジェクト622A、(実際の環境内の実際の発光オブジェクトに対応する)発光オブジェクト622B、及び(実際の環境内の実際の発光オブジェクトに対応する)発光オブジェクト622Cを含む。この例では、画像表現618はまた、(実際の環境内の実際の非発光オブジェクトに対応する)非発光オブジェクト624も含む。
画像キャプチャアプリケーションのユーザインタフェース614は、第1のメニュー領域628A及び第2のメニュー領域628Bも含む。第1のメニュー領域628Aは、画像効果及び/又は特性を調整することに関連付けられた複数のアフォーダンスを含む。第2のメニュー領域628Bは、複数の画像キャプチャモードオプション(例えば、写真モード、ビデオモード、ポートレートモード、スクエアモード、スローモーションモード)を含む。図6Bでは、電子デバイス600は、ポートレートモードに対応するポートレートモードアフォーダンス626のアクティブ化603を(例えば、ディスプレイ602のタッチ感知面を介して)検出する。
図6Cでは、ポートレートモードアフォーダンス626のアクティブ化603を検出したことに応じて、電子デバイス600は、画像キャプチャアプリケーションの現在の画像キャプチャモードを、写真モードからポートレートモードに変更する。ポートレートモードでは、電子デバイス600は、(例えば、fストップ(f-stop)、f比(f-ratio)、又は焦点比としても知られるシミュレートされたf値を調整することによって、画像表現618の被写界深度を調整するための)深度効果アフォーダンス630を、ユーザインタフェース614の第1のメニュー領域628A内に表示する。
更に、ポートレートモードでは、電子デバイス600は、シミュレートされた深度効果(例えば、ボケ効果、被写界深度効果、デフォルトの4.5f値数を有する)を画像表示領域616に表示された画像表現618に適用する。いくつかの実施形態では、シミュレートされた深度効果は、被写体620を焦点として画像表現618の背景に適用される。いくつかの実施形態では、シミュレートされた深度効果は、被写体620内の焦点(例えば、被写体620の鼻などの被写体620の顔面の中心領域)に基づいて画像表現618全体に適用される。
図6Cに示すように、シミュレートされた深度効果が適用されると、画像表現618内のオブジェクトの被写界深度特性は、特定のオブジェクトの1つ以上の特性(例えば、オブジェクトが発光オブジェクトに対応するか、又は非発光オブジェクトに対応するかといったオブジェクトの種類、オブジェクトの形状、オブジェクトの焦点からの距離)に基づいて調整される。例えば、画像表現618内の発光オブジェクト622A、622B及び622Cの被写界深度特性は、(例えば、発光オブジェクトが、非発光オブジェクトよりもぼかされ、より大きく、より明るい、彩度がより高く、かつ/又はより歪んだ形状を有するように見えるように)画像表現618内の非発光オブジェクト624に対して、より劇的に調整される。オブジェクトの1つ以上の特性に基づいてオブジェクトの被写界深度特性を調整することは、図8A~図8Rのユーザインタフェースを参照して以下でより詳細に説明される。
図6Dでは、ポートレートモード中に、電子デバイス600は、深度効果アフォーダンス630のアクティブ化605(例えば、深度効果アフォーダンス630上のタップジェスチャ)を(例えば、ディスプレイ602のタッチ感知面を介して)検出する。いくつかの実施形態では、電子デバイス600は、アフォーダンスのアクティブ化を検出すると、深度効果アフォーダンスの視覚特性を変更する(例えば、アフォーダンスの色を変更する)。あるいは、図6Eでは、ポートレートモード中に、電子デバイス600は、画像表示領域616内のスワイプジェスチャ607(例えば、垂直スワイプジェスチャ、スワイプアップジェスチャ)を(例えば、ディスプレイ602のタッチ感知面を介して)検出する。
図6Fでは、画像表示領域616上の深度効果アフォーダンス630のアクティブ化605又はスワイプジェスチャ607を検出したことに応じて、電子デバイス600は、(第1のメニュー領域628Aが垂直に狭くなり、第2のメニュー領域628Bが垂直に幅広になるように)ユーザインタフェース614内で上向きに画像表示領域616をシフトさせて、第2のメニュー領域628B内に深度調整スライダ632を表示する。
深度調整スライダ632は、f値に対応する複数の目盛り634、及び現在選択された目盛り(したがって、現在選択されたf値)を示す指針636を含む。深度調整スライダ632はまた、現在選択されたf値の値を示すf値インジケータ638(例えば、指針636の上又は隣接して位置する)も含む。前述のように、いくつかの実施形態では、デフォルトのf値は4.5である。いくつかの実施形態では、f値インジケータ638内に現在のf値を表示することに加えて、電子デバイス600はまた、深度効果アフォーダンス630内に現在のf値も表示する。
図6Gでは、深度調整スライダ632を表示している間に、電子デバイス600は、深度調整スライダ632上で(例えば、目盛り634上ので)スワイプジェスチャ609(例えば、水平スワイプジェスチャ、右スワイプジェスチャ)を(例えば、ディスプレイ602のタッチ感知面を介して)検出する。いくつかの実施例では、目盛り634は、スワイプジェスチャ609に応じて(水平に)シフトされ、指針636は固定されたままである。いくつかの実施例では、指針636は、深度調整スライダ632上のスワイプジェスチャに応じて、固定された目盛り634の上でシフトされる。
図6Hでは、スワイプジェスチャ609を検出したことに応じて、電子デバイス600は、画像表現618の焦点(例えば、被写体620の鼻)に基づいて、画像表現618内でオブジェクト(例えば、発光オブジェクト622A、622B及び622C並びに非発光オブジェクト624)の被写界深度特性を調整する。
f値インジケータ638によって(いくつかの実施形態では、深度効果アフォーダンス630によっても)示されるように、スワイプジェスチャ609の結果として現在のf値(3.9)は、以前の(デフォルトの)f値(4.5)から減少する。発光オブジェクト622A、622B及び622Cは、(4.5f値を有する)図6Gよりも(3.9f値を有する)図6Hにおいてぼかされ、より大きく、より明るく、より彩度が高く、かつ/又はより歪んだ形状を有し、同様に、非発光オブジェクト624は、図6Gよりも図6Hにおいてよりぼかされ、より大きく、より大きく、より彩度が高く、かつ/又はより歪んだ形状を有する。以前のf値(4.5)から低いf値(3.9)へのオブジェクトのぼやけ度、サイズ、輝度、彩度、及び/又は形状歪みの程度における変化の程度は、非発光オブジェクトと比較して、発光オブジェクトに対してより劇的である。
更に、各オブジェクトの形状は、画像表現618の焦点(例えば、被写体620の鼻)からの各オブジェクトの距離に基づいて更に歪曲される(例えば、画像表現618が、焦点が平面の中心であるx、y平面と見なされる場合、距離は、オブジェクトの中心から平面の中心までの直線距離として測定される)。例えば、オブジェクト622B-1の形状歪みの程度は、オブジェクト622B-2の形状歪みの程度よりも(例えば、オブジェクトは円形が少なくなり、楕円形が大きくなり/より伸張されるように)劇的である。同様に、オブジェクト622C-1の形状歪みの程度は、オブジェクト622C-2の形状歪みの程度よりも(例えば、オブジェクトは円形が少なく、楕円形が大きくなり/より伸張されるように)劇的である。上述したように、画像表現内のオブジェクトの被写界深度特性の変化は、図8A~図8Rを参照して以下でより詳細に説明される。
図6Hでは、電子デバイス600は、深度調整スライダ632上のスワイプジェスチャ611(例えば、スワイプジェスチャ609の継続)を(例えば、ディスプレイ602のタッチ感知面を介して)検出する。
図6Iでは、スワイプジェスチャ611を検出したことに応じて、電子デバイス600は、画像表現618の焦点(例えば、被写体620の鼻)に基づいて、画像表現618内でオブジェクト(例えば、発光オブジェクト622A、622B及び622C並びに非発光オブジェクト624)の被写界深度特性を更に調整する。
f値インジケータ638によって(及び、いくつかの実施形態では、深度効果アフォーダンス630によっても)示されるように、スワイプ611の結果として現在のf値(1.6)は、以前のf値(3.9)から更に減少する。発光オブジェクト622A、622B、及び622Cは、(3.9f値を有する)図6Hよりも、(1.6f値を有する)図6Iにおいて、よりぼかされ、より大きく、より明るく、より彩度が高く、かつ/又はより歪んだ形状を有し、同様に、非発光オブジェクト624は、図6Hよりも図6Iにおいてよりぼかされ、より大きく、より明るい、より彩度が高く、及び/又はより歪んだ形状を有する。前のf値(3.9)から低いf値(1.6)へのオブジェクトのぼやけ、サイズ、輝度、彩度、及び/又は形状歪みの程度における変化の程度は、非発光オブジェクトと比較して、発光オブジェクトに対してより劇的である。
図6Jでは、画像表示領域616内で、背面カメラ608を介して検出された画像データに対応する画像表示618を表示している間に、かつ、シミュレートされた被写界深度が図6Iで事前に設定されたように(f値インジケータ1.6によって示されるように)1.6f値に設定される間、電子デバイス600は、画像キャプチャアフォーダンス640のアクティブ化613(例えば、画像キャプチャアフォーダンス640上のタップジェスチャ)を(例えば、ディスプレイ602のタッチ感知面を介して)検出する。
画像キャプチャアフォーダンス640のアクティブ化613を検出したことに応じて、電子デバイス600は、(1.6f値を有する)シミュレートされた画像効果を有する画像表現618に対応する画像データを(例えば、デバイスのローカルメモリ及び/又はデバイスによってアクセス可能なリモートサーバ内に)記憶する。
図6Kでは、電子デバイス600は、記憶された画像アフォーダンス642のアクティブ化615(例えば、記憶された画像アフォーダンス642上のタップジェスチャ)を(例えば、ディスプレイ602のタッチ感知面を介して)検出する。
図6Lでは、記憶された画像アフォーダンス642のアクティブ化615を検出したことに応じて、電子デバイスは、記憶された画像アプリケーションのユーザインタフェース644をディスプレイ602上に表示する。ユーザインタフェース644は、記憶された画像を表示するための画像表示領域646を含む。図6Lでは、電子デバイス600は、図6Jでキャプチャされた画像表現618に対応する記憶された画像表現648を画像表示領域646内に表示する。画像表現618と同様に、記憶された画像表現648は、(被写体620に対応する)被写体650、(発光オブジェクト622Aに対応する)発光オブジェクト652A、(発光オブジェクト622Bに対応する)発光オブジェクト652B、(発光オブジェクト622Cに対応する)発光オブジェクト652C、及び(非発光オブジェクト624に対応する)非発光オブジェクト654を含む。更に、(図6Jで)キャプチャされた場合の画像表現618と同様に、記憶された画像表現648は、1.6f値でシミュレートされた被写界深度設定で調整される。
図6Lでは、記憶された画像表現648を表示している間に、電子デバイス600は、ユーザインタフェース644の編集アフォーダンス656のアクティブ化617(例えば、編集アフォーダンス656上のタップジェスチャ)を(例えば、ディスプレイ602のタッチ感知面を介して)検出する。
図6Mでは、編集アフォーダンス656のアクティブ化617を検出したことに応じて、電子デバイス600は、(例えば、記憶された画像表現を示す画像表示領域646の下のユーザインタフェース644のメニュー領域内に)(f値インジケータ638によって示されるような1.6f値に設定された)深度調整スライダ632を表示する。いくつかの実施例では、(例えば、図6Fを参照して説明されているように、画像表示領域616が上向きにシフトするのと同様に)画像表示領域646は、ユーザインタフェース644内で上向きにシフトして、深度調整スライダ632を表示する。電子デバイス600はまた、(例えば、記憶された画像表現を示す画像表示領域646の上のユーザインタフェース644の領域内に)、現在表示された記憶画像表現(記憶された画像表現648)がシミュレートされた深度効果で調整されていることを示す深度効果インジケータ658を表示する。
図6Nでは、深度調整スライダ632を表示している間に、電子デバイス600は、深度調整スライダ632上で(例えば、目盛り634の上で)スワイプジェスチャ619(例えば、水平スワイプジェスチャ、左スワイプジェスチャ)を、(例えば、ディスプレイ602のタッチ感知面を介して)検出する。いくつかの実施例では、目盛り634は、スワイプジェスチャ619に応じて(水平に)シフトされ、指針636は固定されたままである。いくつかの実施例では、指針636は、深度調整スライダ632上のスワイプに応じて固定された目盛り634の上でシフトされる。
図6Oでは、スワイプジェスチャ619を検出したことに応じて、電子デバイス600は、記憶された画像表現648の焦点(例えば、被写体650の鼻)に基づいて、記憶された画像表現648内のオブジェクト(例えば、発光オブジェクト652A、652B及び652C、並びに非発光オブジェクト654)の被写界深度特性を調整する。
f値インジケータ638によって示されるように、スワイプジェスチャ619の結果として現在のf値(4.9)は、以前の(保存された)f値(1.6)から増加する。したがって、発光オブジェクト652A、652B及び652Cは、(1.6f値を有する)図6Nよりも、(4.9f値を有する)図6Oにおいて、ぼかしがより少なく、より小さく、輝度がより低く、彩度がより低く、かつ/又は歪みが小さい形状(及びより「鮮明な」)を有し、同様に、非発光オブジェクト654は、図6Nよりも、図6Oにおいて、ぼやけがより少なく、より小さく、輝度がより低く、彩度がより低く、かつ/又は歪みがより小さい形状を有し、むしろより鮮明である。以前のf値(1.6)から高いf値(4.9)までのオブジェクトのぼやけ度、サイズ、輝度、彩度、及び/又は形状歪みの程度(及び鮮明度の増加)における変化の程度は、非発光オブジェクトと比較して、発光オブジェクトに対してより劇的である。上述したように、画像表現内のオブジェクトの被写界深度特性の変化は、図8A~図8Rを参照して以下でより詳細に説明される。
図6Oでは、電子デバイス600は、深度調整スライダ632上のスワイプジェスチャ621(例えば、スワイプジェスチャ619の継続)を(例えば、ディスプレイ602のタッチ感知面を介して)検出する。
図6Pでは、スワイプジェスチャ621を検出したことに応じて、電子デバイス600は、記憶された画像表現648の焦点(例えば、被写体650の鼻)に基づいて、記憶された画像表現648内のオブジェクト(例えば、発光オブジェクト652A、652B及び652C並びに非発光オブジェクト654)の被写界深度特性を更に調整する。
f値インジケータ638によって示されるように、スワイプジェスチャ621の結果として現在のf値(8.7)は以前のf値(4.9)から増加する。したがって、発光オブジェクト652A、652B、及び652Cは、(4.9 f値を有する)図6Oよりも、(8.7f値を有する)図6Pにおいて、ぼやけが少なく、より小さく、輝度がより低く、彩度がより低く、かつ/又は歪みが小さい形状であり(かつ、より鮮明であり、したがって、画像歪みがない実際の形状により近い)、同様に、非発光オブジェクト654は、図6Oよりも、図6Pにおいて、ぼやけがより少なく、より小さく、輝度がより低く、彩度がより低く、及び/又は歪みが小さい形状である(かつ、より鮮明であり、したがって、画像歪みがない実際の形状により近い)。以前のf値(5)からより高いf値(10)へのぼやけ度、サイズ、輝度、彩度、及び/又はオブジェクトの形状歪みの程度(及び鮮明度の増加)における変化の程度は、非発光オブジェクトと比較して、発光オブジェクトに対してより劇的である。上述したように、画像表現内のオブジェクトの被写界深度特性の変化は、図8A~図8Rを参照して以下でより詳細に説明される。
図6Qは、画像キャプチャアプリケーションの設定ユーザインタフェース660をディスプレイ602に表示する電子デバイス600を示す。図6Qでは、設定ユーザインタフェース660を表示している間に、電子デバイスは、設定ユーザインタフェース660の保存設定アフォーダンス662のアクティブ化623(例えば、設定アフォーダンス662を保存するタップジェスチャ)を(例えば、ディスプレイ602のタッチ感知面を介して)検出する。
図6Rでは、保存設定アフォーダンス662のアクティブ化623を検出したことに応じて、電子デバイス600は、画像キャプチャアプリケーション及び記憶された画像アプリケーションに関連付けられた保存設定ユーザインタフェース664をディスプレイ602上に表示する。保存設定ユーザインタフェース664は、クリエイティブ制御をアクティブ化又は非アクティブ化するための、クリエイティブ制御オプション666(例えば、対応するトグル668を有する)を含む。いくつかの実施形態では、クリエイティブ制御がアクティブである場合、電子デバイス600は、(以前に設定されたf値などの以前に設定された画像効果設定が自動的に再ロードされ、表示された画像表現に適用されるように)画像キャプチャアプリケーション及び/又は記憶された画像アプリケーションが閉じられ、かつ再起動されるとき、(例えば、シミュレートされた深度効果設定を含む)以前に設定された画像効果設定を保存する。いくつかの実施形態では、クリエイティブ制御が非アクティブである場合、電子デバイス600は、以前に設定された画像効果設定を保存せず、画像キャプチャアプリケーション及び/又は記憶された画像アプリケーションが再起動されると、(深度効果設定を含む)画像効果設定がデフォルト値に復元される。
図6Sは、ディスプレイ672及び前面カメラ674を有する電子デバイス670(例えば、ラップトップコンピュータ)を示す。いくつかの実施形態では、電子デバイス670はまた、背面カメラを含む。
図6Sでは、電子デバイス670は、(例えば、画像キャプチャアプリケーション又は記憶された画像アプリケーションに対応する)画像アプリケーションのユーザインタフェース676をディスプレイ672に表示し、画像表現618に対応する画像表現678がユーザインタフェース676内に表示される。電子デバイス670はまた、ユーザインタフェース676内に(例えば、画像表現678の下に)、深度調整スライダ632と同様の深度調整スライダ680を表示する。深度調整スライダ680は、f値に対応する複数の目盛り682、及び現在選択された目盛り(したがって、現在選択されたf値)を示す指針684を含む。深度調整スライダ680はまた、現在選択されたf値の値を示すf値インジケータ686(例えば、スライダに隣接して位置する)も含む。いくつかの実施例では、カーソル688を使用して目盛り682上にわたって指針684をナビゲートし、それによって、画像表示678のシミュレートされた深度効果を調整するようにf値を変更することができる。
図6Tは、ディスプレイ692を有する電子デバイス690(例えば、タブレットコンピュータ、タッチ感知ディスプレイを有するラップトップコンピュータ)を示す。いくつかの実施形態では、電子デバイス690はまた、前面カメラ及び/又は背面カメラを含む。
図6Tでは、電子デバイス690は、(例えば、画像キャプチャアプリケーション又は記憶された画像アプリケーションに対応する)画像アプリケーションのユーザインタフェース694をディスプレイ692に表示し、画像表現618に対応する画像表現696がユーザインタフェース694に表示される。電子デバイス690はまた、ユーザインタフェース694内に(例えば、画像表現696に隣接して)、深度調整スライダ632と同様の深度調整スライダ698を(例えば、垂直方向に)表示する。深度調整スライダ698は、f値に対応する複数の目盛り699、及び現在選択された目盛り(したがって、現在選択されたf値)を示す指針697を含む。深度調整スライダ698はまた、(例えば、スライダの下又は隣に位置する)現在選択されたf値の値を示すf値インジケータ695も含む。
いくつかの実施例では、深度調整スライダ698は、固定された指針697に対して目盛り699が移動するように垂直スワイプジェスチャを介して調整することができる。いくつかの実施例では、深度調整スライダ698は、固定された目盛り699に対して指針697が移動するように垂直スワイプジェスチャを介して調整することができる。
いくつかの実施例では、電子デバイス690はまた、画像表現696に適用することができ、かつ、垂直スワイプジェスチャを介して変更することができる、様々な照明/光フィルタリングオプションに対応する複数の照明設定693を(例えば、画像表現696に隣接するユーザインタフェース694の領域内に、画像表現696に隣接し、かつ深度調整スライダ698とは反対側のユーザインタフェース694の領域内に)表示する。いくつかの実施例では、深度調整スライダ698及び照明設定693を並行して調整することができ、並列調整を同時に画像表現696で反映することができる。
図7A~図7Bは、いくつかの実施形態に係る、シミュレートされた深度効果を調整するためのユーザインタフェースを管理する方法を示すフロー図である。方法700は、ディスプレイ及び1つ以上の入力デバイス(例えば、ディスプレイのタッチ感知面、機械式入力デバイス)を有するデバイス(例えば、100、300、500、600)で実行される。方法700のいくつかの動作は、任意選択的に組み合わされ、いくつかの動作の順序は、任意選択的に変更され、いくつかの動作は、任意選択的に省略される。
後述するように、方法700は、シミュレートされた深度効果のためのユーザインタフェースを管理するための直感的方法を提供する。この方法は、シミュレートされた深度効果のためのユーザインタフェースを管理しナビゲートするためのユーザの認識的負担を軽減し、それにより、より効率的なヒューマン-マシンインタフェースを作り出す。バッテリ動作式コンピューティングデバイスの場合、深度効果をシミュレートするためのユーザインタフェースの容易な管理を提供することにより、ユーザがユーザインタフェースをより高速かつより効率的にナビゲートすることを可能にすることで、電力を節約し、バッテリ充電間の時間を増加させる。
電子デバイス(例えば、600)は、画像データの表現(例えば、618、画像データに対応する表示された画像、人物/被写体のポートレート)を、ディスプレイ(例えば、602)上に表示する(702)。
いくつかの実施形態では、画像データの表現(例えば、618)は、現在、電子デバイス(例えば、600)の1つ以上のカメラによってキャプチャされているライブフィード画像である。いくつかの実施形態では、画像データ(例えば、648)の表現は、(電子デバイス又は外部サーバの)メモリ内に記憶され、そこから取得された以前に撮られた画像である。いくつかの実施形態では、画像の深度データを調整/操作して、画像データの表現に深度効果を適用することができる。
いくつかの実施形態では、画像データは、少なくとも2つの成分、すなわち、キャプチャされた画像の視覚特性を符号化するRGB成分、及びキャプチャされた画像内の要素の相対的な空間的関係についての情報を符号化する深度データ(例えば、深度データは、ユーザが前景にあり、ユーザの背後に位置する木などの背景要素は、背景にあることを符号化する)を含む。
いくつかの実施形態では、深度データは深度マップである。いくつかの実施形態では、深度マップ(例えば、深度マップ画像)は、視点(例えば、カメラ)からのシーン内のオブジェクトの距離に関連する情報(例えば、値)を含む。深度マップの一実施形態では、各深度画素は、その対応する2次元画素が位置する、視点のZ軸内の位置を規定する。いくつかの例では、深度マップは、各画素が値(例えば、0~255)によって定義されている画素から成る。例えば、「0」値は、「3次元」シーンにおいて最も離れた位置に配置される画素を表し、「255」値は、「3次元」シーンにおいて視点(例えば、カメラ)の最も近くに配置される画素を表す。他の例では、深度マップは、シーン内のオブジェクトと視点の平面との間の距離を表す。いくつかの実施形態では、深度マップは、深度カメラから見た、関心対象物の様々な特徴部の相対深度(例えば、ユーザの顔面の目、鼻、口、耳の相対深度)に関する情報を含む。いくつかの実施形態では、深度マップは、関心対象物のz方向における輪郭をデバイスが判定することを可能にする、情報を含む。いくつかの実施形態では、深度データは、第1の深度成分とは別個の、第2の深度成分(例えば、カメラ表示領域内の背景の空間位置を符号化する深度データの第2の部分、背景などの、深度マップの離散部分を形成する複数の深度画素)を有し、第2の深度アスペクトは、カメラ表示領域における背景の表現を含む。いくつかの実施形態では、第1の深度アスペクト及び第2の深度アスペクトは、カメラ表示領域内の被写体とカメラ表示領域内の背景との間の空間的関係を判定するために使用される。この空間的関係は、被写体を背景から識別するために使用することができる。この識別は、例えば、異なる視覚効果(例えば、深度成分を有する視覚効果)を被写体及び背景に適用するために利用することができる。いくつかの実施形態では、第1の深度成分に対応しない画像データの全てのエリア(例えば、深度カメラの範囲外の画像データのエリア)は、ボケ効果などの深度効果をシミュレートするために、異なるぼやけ度/鮮明度、サイズ、輝度、彩度、及び/又は形状歪みの程度に基づいて調整される。
いくつかの実施形態では、画像データの表現をディスプレイ上に表示することは、画像データの表現が記憶された画像データ(例えば、記憶された/保存された画像又は以前にキャプチャされた画像の表現)に対応するとの判定に従って、シミュレートされた深度効果に関する以前の第1の値によって以前に修正された前のシミュレートされた深度効果で画像データの表現を表示すること、を更に含む。いくつかの実施形態では、画像データの表示(例えば、648)は、画像データの表現を表示するためのカメラ/画像アプリケーションが編集モード(例えば、既存の/以前にキャプチャされた画像又は写真を編集するためのモード)であるときの記憶された画像データに対応する。いくつかの実施形態では、画像データの表現が、以前のシミュレートされた深度効果を有する記憶された画像データに対応する場合、電子デバイス(例えば、600)は、(例えば、カメラ/画像アプリケーション内で)画像データの表現を表示するとすぐに(例えば、表示すると並行して)自動的に調整可能スライダを表示する 。したがって、いくつかの実施形態では、調整可能スライダ(例えば、632)は、第1の入力がなくても画像データの表現で表示される。いくつかの実施形態では、(画像データが以前のシミュレートされた深度効果に既に関連付けられている場合)画像データの表現を表示すると、調整可能スライダが自動的に表示されるかどうかは、電子デバイスのタイプ(例えば、電子デバイスがスマートフォン、スマートウォッチ、ラップトップコンピュータ、又はデスクトップコンピュータであるかどうか)に依存する。
シミュレートされた深度効果に関する複数の選択可能値のうち第1の値によって修正された、シミュレートされた深度効果(例えば、効果を人為的に生成するための基礎となるデータの操作に基づいて表現に適用される、ボケ効果などの深度効果)を有する画像データの表現(例えば、618、648)を表示している間に、電子デバイス(例えば、600)は、1つ以上の入力デバイスを介して、第1の入力(例えば、605、607、ディスプレイ上に表示されたアフォーダンスのアクティブ化、ディスプレイのタッチ感知面を介して検出される画像上のスライドアップジェスチャなどのジェスチャ)を検出する(706)。
いくつかの実施形態では、ディスプレイ(例えば、602)上に画像データの表現(例えば、618、648)を表示している間に、電子デバイス(例えば、600)は、ディスプレイ上に(例えば、画像データの表現に適用することができる異なるタイプの効果に対応するアフォーダンス領域(例えば、628A)内に)、シミュレートされた深度効果調整アフォーダンス(例えば、630)を表示し(704)、第1の入力は、シミュレートされた深度効果調整アフォーダンスのアクティブ化(例えば、605、タップジェスチャ)である。いくつかの実施形態では、シミュレートされた深度効果調整アフォーダンスは、アフォーダンスがf値記号などの深度効果に関連することを示す記号を含む。画像データの表現を表示している間の、このアフォーダンスが深度効果に関連することを示す記号を含むシミュレートされた深度効果調整アフォーダンスを表示することにより、ユーザは、被写界深度特性に対する調整が画像データの表現に対して行われ得ることを迅速かつ容易に認識することが可能になることで、視覚的フィードバックが改善される。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ-デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を低減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、(例えば、1つ以上のカメラを介して最初にキャプチャされた基礎となるデータに基づいた「自然な」効果とは対照的に)、シミュレートされた深度効果は、基礎となる画像データの操作に基づいて(人為的に)生成され、効果を創造し、それを画像データの対応する表現(例えば、618、648)に適用する点で「シミュレートされる」。
いくつかの実施形態では、第1の入力(例えば、605、607)を検出する前に、シミュレートされた深度効果調整アフォーダンス(例えば、630)は、第1の視覚特性(例えば、デフォルト色又は白色のような、アフォーダンスが現在選択されていないことを示す特定の色)で表示される。いくつかの実施形態では、第1の入力を検出した後に、シミュレートされた深度効果調整アフォーダンスは、第1の視覚特性とは異なる第2の視覚特性(例えば、強調表示の色又は黄色のような、アフォーダンスが現在選択されていることを示す特定の色)で表示される。シミュレートされた深度効果調整アフォーダンスの視覚特性を変更することにより、ユーザは、シミュレートされた深度効果特徴がアクティブであることを迅速かつ容易に認識することが可能になることで、視覚的フィードバックが改善される。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ-デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を低減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、シミュレートされた深度効果調整アフォーダンス(例えば、630)を表示することは、現在選択された深度効果値がデフォルトの深度効果値(例えば、電子デバイスによって決定/設定されたデフォルトのf値の値)に対応するとの判定に従って、シミュレートされた深度効果調整アフォーダンス内に、現在選択された深度効果値を表示するのを見合わせることを含む。いくつかの実施形態では、デフォルトの深度効果値は、4.5f値である。いくつかの実施形態では、シミュレートされた深度効果調整アフォーダンスを表示することは、現在選択された深度効果値がデフォルトでない深度効果値(例えば、デフォルトのf値に対応しない使用可能なf値の範囲内の任意のf値)に対応するとの判定に従って、シミュレートされた深度効果調整アフォーダンス内に(例えば、f値記号の隣に)、現在選択された深度効果値を表示することを含む。
いくつかの実施形態では、第1の入力(例えば、605、607)を検出する前に、電子デバイス(例えば、600)は、ディスプレイ(例えば、602)上に、1つ以上のモードセレクタアフォーダンス(例えば、カメラモードセレクタアフォーダンスなどの、電子デバイスのカメラ関連動作モードを変更するための1つ以上のアフォーダンスを有する領域)を表示し、調整可能スライダ(例えば、632)を表示することは、1つ以上のモードセレクタアフォーダンスの表示を調整可能スライダと置き換えることを含む。1つ以上のモードセレクタアフォーダンスの表示を調整可能スライダと置き換えることにより、視覚的フィードバックが改善され、デバイスが現在深度効果調整モードにあることを、ユーザが迅速かつ容易に認識することが可能になる。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ-デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を低減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、第1の入力を検出する前に、電子デバイス(例えば、600)は、ディスプレイ(例えば、602)上に、ズーム制御要素(例えば、カメラのズームレベルを変更するための1つ以上のアフォーダンスを有する領域)を表示し、調整可能スライダ(例えば、632)を表示することは、ズーム制御要素の表示を置き換えることを含む。
いくつかの実施形態では、第1の入力(例えば、607)は、ユーザインタフェースの第1の部分における第1の方向のスワイプジェスチャ(例えば、614、ディスプレイのタッチ感知面上のスワイプアップジェスチャ)である。いくつかの実施形態では、スワイプジェスチャは、画像データの表現に対応するディスプレイの領域上でのスワイプアップジェスチャである。いくつかの実施形態では、スワイプジェスチャは、表現画像データ(例えば、618)の底縁部に対応するディスプレイの領域上のスワイプアップジェスチャである。いくつかの実施形態では、スワイプが第2の方向にある場合、調整可能スライダは表示されず、任意選択的に、異なる動作が実行される(例えば、カメラモードを切り替える、又はズーム操作を実行する)。いくつかの実施形態では、スワイプがユーザインタフェースの第2の部分である場合、調整可能スライダは表示されず、任意選択的に、異なる動作が実行される。(表示される追加コントローラによってユーザインタフェースを雑然とさせることなく)追加の制御オプションを提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに、適切な入力を提供するようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ-デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を低減し、デバイスのバッテリ寿命を改善する。
第1の入力(例えば、605、607)を検出したことに応じて、電子デバイス(例えば、600)は、ディスプレイ(例えば、602)上に(例えば、画像データの表現の下に、画像データの表現に隣接して)、画像データの表現の操作(例えば、画像データの表現の深度効果、画像データの表現の被写界深度効果の操作)に関連付けられた調整可能スライダ(例えば、632)(例えば、複数の目盛り及び指針を含む水平又は垂直スライダ)を表示する(708)。調整可能スライダは、シミュレートされた深度効果(例えば、(シミュレートされた)被写界深度、f値/fストップ)に関する複数の選択可能値に対応する複数のオプションインジケータ(例えば、634、目盛り、標点マークとして表される)を含む(710)。いくつかの実施形態では、複数のオプションインジケータは、調整可能スライダ内で(例えば、水平又は垂直に)スライド可能である。調整可能スライダはまた、第1の値が現在選択されたシミュレートされた深度効果値であることを示す選択インジケータ(例えば、636、指針として表される)を含む(712)。
いくつかの実施形態では、選択インジケータ(例えば、636、指針)の位置が固定され、複数のオプションインジケータ(例えば、634、目盛り)は、複数のオプションインジケータは選択インジケータに対して移動し、現在選択された被写界深度値を調整するように、スライダ(例えば、632)内で調整可能である。いくつかの実施形態では、利用可能なオプションインジケータの全てのうちサブセットのみがスライダ内に並行して表示される-スライダの調整(例えば、オプションインジケータを水平又は垂直方向に移動させるユーザ入力)に応じて、表示されていないオプションインジケータがスライダ内に表示される。
いくつかの実施形態では、複数のオプションインジケータ(例えば、634)が固定され、選択インジケータ(例えば、636)の位置は、選択インジケータが複数のオプションインジケータに対して移動して、現在選択された被写界深度値を調整するように、スライダ内で調整可能である。
いくつかの実施形態では、第1の入力(例えば、605、607)を検出したことに応じて、電子デバイス(例えば、600)は、ディスプレイ(例えば、602)上で、画像データの表現(例えば、618)をスライドさせて(714)(例えば、所定量だけ垂直にスライドアップさせ)、調整可能スライダ(例えば、632)を表示する(例えば、明らかにする)(例えば、スワイプ入力の方向に対応する方向に画像データの表現をスライドさせる)。
調整可能スライダ(例えば、632)を表示している間に、電子デバイス(例えば、600)は、1つ以上の入力デバイスを介して、調整可能スライダへの入力を検出する(716)。
いくつかの実施形態では、調整可能スライダ(例えば、632)への入力(例えば、609、611、619、621)は、調整可能スライダ上の(水平な)スワイプジェスチャ(例えば、左スワイプジェスチャ又は右スワイプジェスチャ)であり、スワイプジェスチャは、スワイプジェスチャの終了時に少なくとも第1の速度(閾値速度よりも大きい)(例えば、接触がタッチ感知面からリフトオフされるとき又はその近くでの、スワイプジェスチャを実行する接触の移動速度)を有する第1の方向の(例えば、指を使用した)ユーザの動きを含む。
調整可能スライダ(例えば、632)への入力(例えば、609、611、619、621)(例えば、調整可能スライダに対応する位置でのタップ又はスワイプ)を検出した(718)ことに応じて、電子デバイス(例えば、600)は、調整可能スライダを移動させ(720)、シミュレートされた深度効果に関する複数の選択可能値のうちの第2の値が、現在選択されたシミュレートされた深度効果値であることを示す。
調整可能スライダへの入力(例えば、調整可能スライダに対応する位置でのタップ又はスワイプ)を検出した(718)ことに応じて、電子デバイス(例えば、600)は、第2の値によって修正されたシミュレートされた深度効果に従って、画像データの表現(例えば、618、648)の外観を変更する(722)。調整可能スライダへの入力を検出したことに応じて、画像データの表現の外観を変更することにより、ユーザは、ユーザの入力によって引き起こされる画像データの表現に対する変化を迅速かつ容易に閲覧することが可能になることで、視覚的フィードバックが改善される。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ-デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を低減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、調整可能スライダ(例えば、632)を移動させることは、選択インジケータ(例えば、指針として表される636)は固定されたままである間に、複数のオプションインジケータ(例えば、目盛りとして表される634)を移動させることを含む。したがって、いくつかの実施形態では、調整可能スライダを移動させることは、指針がスライダ内の同じ位置に固定されている間に、f値に対応する複数の目盛りをスライドさせることを含む。いくつかの実施形態では、調整可能スライダを移動させることは、(例えば、目盛りとして表される)複数のオプションインジケータが固定されたままである間に、(例えば、指針として表される)選択インジケータを移動させることを含む。したがって、いくつかの実施形態では、調整可能スライダを移動させることは、目盛りがスライダ内の同じ位置に固定されたままである間に、f値に対応する複数の目盛りの上で前後に指針をスライドさせることを含む。
いくつかの実施形態では、(例えば、複数のオプションインジケータを固定した選択インジケータに対して移動させることによって、又は選択インジケータを固定したオプションインジケータに対して移動させることによって)調整可能スライダ(例えば、632)を移動させる間に、電子デバイス(例えば、600)は、調整可能スライダによって制御されるパラメータに対して異なる値が選択されると、調整スライダの移動と同期して(例えば、電子デバイスの1つ以上の触知出力生成器及び/又は1つ以上のスピーカを介して)第1のタイプの出力(例えば、触知出力、オーディオ出力)を生成する(724)。いくつかの実施形態では、電子デバイスは、選択インジケータが複数のオプションインジケータのうちのあるオプションインジケータと位置合わせされるたびに、又はそれを通過するたびに、離散出力(例えば、離散触知出力、離散オーディオ出力)を生成する。調整可能スライダによって制御されるパラメータに対して異なる値が選択されると、調整可能スライダの移動と同期して第1のタイプの出力(例えば、触知出力、オーディオ出力)を生成することにより、ユーザの入力に調和した応答を提供することでフィードバックが改善される。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ-デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を低減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、調整可能スライダ(例えば、632)を移動させている間に、画像データの表現(例えば、618、648)が、記憶された画像データ(例えば、記憶/保存済み画像又は以前にキャプチャされた画像の表現)に対応するとの判定に従って、第1のタイプの出力は、(例えば、電子デバイスの1つ以上のスピーカを介して生成される、及び/又は電子デバイスの1つ以上の触知出力生成器を介して生成される)オーディオ出力を含む(726)。いくつかの実施形態では、調整可能スライダを移動させている間に、画像データの表現が、1つ以上のカメラによってキャプチャされている画像データのライブプレビューに対応するとの判定に従って、第1のタイプの出力は、(例えば、電子デバイスの1つ以上のスピーカを介して生成される、及び/又は電子デバイスの1つ以上の触知出力生成器を介して生成される)オーディオ出力を含まない(728)。いくつかの実施形態では、画像データの表現は、画像データの表現を表示するためのカメラ/画像アプリケーションが編集モード(例えば、既存の/以前にキャプチャされた画像又は写真を編集するためのモード)であるときに、記憶された画像データに対応する。
方法700に関して上述したプロセス(例えば、図7A~図7B)の詳細はまた、以下で説明する方法にも、類似の方式で適用可能であることに留意されたい。例えば、方法900は、方法700を参照して上述した様々な方法の特性のうちの1つ以上を任意選択的に含む。例えば、方法900に記載されるように、画像表現に適用されるシミュレートされた深度効果は、方法700に記載の深度調整スライダを使用して調整することができる。別の例では、方法1100は、方法700に関して上述した様々な方法の特性のうちの1つ以上を任意選択的に含む。例えば、方法1100に記載されているように、検出された干渉に関する通知は、深度効果をシミュレートするために使用される1つ以上の深度センサを妨害し得る検出された磁気干渉に関連付けることができる。簡潔にするために、これらの詳細は、以下で繰り返さない。
図8A~図8Rは、いくつかの実施形態に係る、シミュレートされた深度効果(例えば、ボケ効果)に対する調整を表示するための例示的なユーザインタフェースを示す。これらの図中のユーザインタフェースは、図9A、図9Bでのプロセスを含めた、以下で説明されるプロセスを例示するために使用される。
図8Aは、図6A~図6Tを参照して上述したような電子デバイス600を示す。図8Aでは、電子デバイス600は、画像キャプチャアプリケーションのユーザインタフェース804をディスプレイ602上に表示し、画像キャプチャアプリケーションはポートレートモードになっている。ポートレートモード中、ユーザインタフェース804は、(例えば、深度効果アフォーダンス630に対応する)深度効果アフォーダンス810を(例えば、画像表示領域806の上又は隣に)表示する。
電子デバイス600はまた、画像表示領域806に、背面カメラ608を介してキャプチャされた画像データの画像表現808を表示する。この例では、画像表現808は、被写体が背面カメラ608の視野内にないため、被写体(例えば、人物)を含まない。
ポートレートモードでは、電子デバイス600は、適切にポートレートモードを実現するため、被写体がマーカによって占有されている画像表現808の一般領域内に配置される必要があることを示す被写体マーカ812を画像表現808に表示する。被写体が現在検出されていないため、電子デバイス600は、被写体が被写体マーカ812によって占有されている画像表現808の領域に対応する環境内に配置されることを要求するメッセージ814を(例えば、画像表示領域806の上部に)表示する。
図8Bでは、実際の環境内の実際の被写体が背面カメラ608の視野内で検出される。実際の被写体を検出すると、電子デバイス600は、画像表現808において、背面カメラ608の視野内で検出された実際の被写体に対応する被写体816を表示する。
図8Cでは、被写体816が被写体マーカ812によって示された画像表現808の一般領域内にあるとの判定に従って、電子デバイス600は、被写体マーカ812を介して(例えば、被写体に対して「ロックオンする」マーカによって、異なる色に変更するなど、視覚特性を変更するマーカによって)、被写体が、被写体マーカ812によって占有される画像表現808の一般領域内にあるという指示を提供して、ポートレートモードを適切に実現する。
いくつかの実施形態では、被写体は検出されるが、電子デバイス600から遠く離れすぎて(例えば、デバイスから10フィート超離れているなどの、デバイスから所定距離を超えて離れていて)ポートレートモードを完全には実現できない場合、電子デバイス600は、被写体がデバイスに近接して配置されるべきであることを示す通知を表示する。いくつかの実施形態では、被写体が検出されるが、電子デバイス600に近接しすぎて(例えば、デバイスから1フィートより近いなどの、デバイスから既定の距離未満しか離れていないので)ポートレートを完全には実現できない場合、電子デバイス600は、被写体がデバイスからより遠く離れて配置されるべきであることを示す通知を表示する。
被写体のマーカ812によって示される画像表現808の一般領域内で被写体816を検出すると、電子デバイス600は、ポートレートモードをアクティブ化する。ポートレートモードをアクティブ化すると、電子デバイス600は、画像表現808内の焦点(例えば、被写体816の鼻)に基づいて、シミュレートされた深度効果(例えば、ボケ効果、画像表現618に関して上記したシミュレートされた深度効果)を、デフォルトのf値(例えば、4.5)を用いて画像表現808内のオブジェクトに適用することによって、画像表現812を調整する。この例では、画像表現808は、発光オブジェクト818A、818B、818C及び818D、並びに非発光オブジェクト820A及び820Bを含む。いくつかの実施形態では、シミュレートされた深度効果はまた、焦点(例えば、被写体の鼻以外の被写体816の部分)に対応しない被写体816の部分にも適用される。
図8Dでは、被写体816が検出された画像表現808を表示している間に、電子デバイス600は、深度効果アフォーダンス810のアクティブ化801を(例えば、ディスプレイ602のタッチ感知面を介して)検出する。
図8Eでは、深度効果アフォーダンス810のアクティブ化810を検出したことに応じて、電子デバイス600は、(例えば、画像表示領域806の下のユーザインタフェース804のメニュー領域内に)(図6A~図6Rを参照して上記した深度調整スライダ632に対応する)深度調整スライダ822を表示する。深度調整スライダ632と同様に、深度調整スライダ822は、f値に対応する複数の目盛り824、現在選択された目盛り(したがって、現在選択されたf値)を示す指針824 、及び現在選択されたf値の値を示す(例えば、スライダの下又は隣に位置する)f値インジケータ828を含む。図8Eでは、現在のf値がデフォルトのf値であるため、f値インジケータ828はデフォルトのf値(例えば、4.5)を示す。いくつかの実施形態では、深度調整スライダ822がアクティブ化されると、f値インジケータ828に加えて、深度効果アフォーダンス810は、現在のf値も表示する。
図8Eでは、深度調整スライダ822を表示している間に、電子デバイス600は、深度調整スライダ822上のスワイプジェスチャ803(例えば、水平スワイプジェスチャ、右スワイプジェスチャ)を(例えば、ディスプレイ602のタッチ感知面を介して)検出し、それによって、固定された指針826に対して目盛り824を水平にスライドさせる。
図8Fに示すように、スワイプジェスチャ803は、深度調整スライダ822をスライドさせ、f値インジケータ828によって(及び、いくつかの実施形態では、深度効果アフォーダンス810によっても)示されるように、低いf値(例えば、1.6)が現在のf値として設定される。
図8Fでは、電子デバイス800は、画像表現808を調整して、新しい被写界深度の値を反映する。(例えば、1.6)。具体的には、より小さなシミュレートされた被写界深度値のために、発光オブジェクト818Aは、(f値4.5を有する)図8Eよりも(f値1.6を有する)図8Fにおいて、より歪んでいる(例えば、よりぼやけた、より大きな、より明るい、彩度がより高く、かつ/又はより歪んだ形状を有する)。同様に、より小さなシミュレートされた被写界深度値のため、発光オブジェクト818Bは、(f値4.5を有する)図8Eよりも(f値1.6を有する)図8Fにおいて、より歪んでいる(例えば、よりぼやけた、より大きな、より明るい、彩度がより高く、かつ/又はより歪んだ形状を有する)。同様に、より小さなシミュレートされた被写界深度値のため、発光オブジェクト818Cは、(f値4.5を有する)図8Eよりも(f値1.6を有する)図8Fにおいて、より歪んでいる(例えば、よりぼやけた、より大きな、より明るい、彩度がより高く、かつ/又はより歪んだ形状を有する)。同様に、より小さなシミュレートされた被写界深度値のため、非発光オブジェクト820Aは、(f値4.5を有する)図8Eよりも(f値1.6を有する)図8Fにおいて、より歪んでいる(例えば、よりぼやけた、より大きな、より明るい、彩度がより高く、かつ/又はより歪んだ形状を有する)。同様に、より小さなシミュレートされた被写界深度値のため、非発光オブジェクト820Bは、(f値4.5を有する)図8Eよりも(f値1.6を有する)図8Fにおいて、より歪んでいる(例えば、よりぼやけた、より大きな、より明るい、彩度がより高く、かつ/又はより歪んだ形状を有する)。
更に、オブジェクトの歪みの程度(例えば、ぼやけ度、サイズ、輝度、彩度、及び/又は焦点に対するオブジェクトの形状における歪みの程度)は、各オブジェクトの画像表現808の焦点(例えば、被写体816の鼻)までの距離に基づいて異なる。具体的には、画像表現808内の(例えば、特定のオブジェクトを含む)各深度画素が、対応する2次元画素が位置する視点のz軸における位置を規定し、各画素は値(例えば、0-255、その場合、「0」値が、「3次元」シーン内の最も遠い場所に位置する画素を表し、「255」値は、「3次元」シーン内の視点(例えば、カメラ)に最も近くに位置する画素を表す)によって規定され、ぼやけ度/鮮明度、サイズ、輝度、彩度、及び/又は形状歪みの程度は、z軸方向の距離(0-255の値)に依存する。すなわち、オブジェクト内の深度画素がz方向において遠くなるほど、より「ぼやけた」オブジェクトが画像表現808に現れ、オブジェクト内の深度画素がz方向においてより近くなるほど、より鮮明なオブジェクトが画像表現808に現れる。一方、画像表現808が、焦点(例えば、被写体820の鼻)が平面の中心(例えば、原点)である2次元x、y平面と見なされる場合、画像表現808内のオブジェクトを構成する画素の(x、y)点から平面の中心までの直線距離は、オブジェクトの形状歪みの程度に影響し、中心(焦点)からの画素の距離が大きいほど、形状歪みの程度が大きくなり、中心からの画素の距離が小さいほど、形状歪みがより小さくなる。
例えば、図8Fでは、オブジェクト818B-1がオブジェクト818B-2よりも焦点(例えば、被写体816の鼻)から遠く離れているため、オブジェクト818B-1の歪みの程度は、オブジェクト818B-2の歪みの程度の変化よりも大きい(例えば、オブジェクト818B-1は、オブジェクト818B-2より比較的ぼやけており、より大きく、より明るく、より彩度が大きく、かつ/又は焦点に対して形状歪みが大きい)。同様に、図8Fでは、オブジェクト818C-1がオブジェクト818C-2よりも焦点(例えば、被写体816の鼻)から遠く離れているため、オブジェクト818C-1の歪みの程度は、オブジェクト818C-2の歪みの程度よりも大きい(例えば、オブジェクト818C-1は、オブジェクト818C-2よりも相対的に「ぼやけ」ており、焦点に対する形状歪みが大きい)。焦点までのオブジェクトの距離に基づく歪みの程度の差はまた、非発光オブジェクト(例えば、オブジェクト820A及び820B)にも適用され、いくつかの実施形態では、焦点に対応しない被写体816の部分(例えば、被写体の上半身、焦点を取り囲む被写体の顔面及び頭部の部分)にも適用される。
また、オブジェクトの歪みの程度(例えば、ぼやけ度、サイズの違い、輝度、彩度、及び/又は焦点に対するオブジェクトの形状における歪みの程度)は、オブジェクトのタイプに基づいて-オブジェクトが発光オブジェクトに対応するか、それとも非発光オブジェクトに対応するかどうかによって異なる。結果として得られる歪みの変化は、一般に、被写界深度が同一の調整の場合は、非発光オブジェクトの場合よりも、発光オブジェクトの場合のほうが大きい。
いくつかの実施形態では、深度調整スライダ822が(例えば、図8Eの4.5から図8Fの1.6まで)ナビゲートされるにつれて、オブジェクトの被写界深度特性は連続的に調整される。
図8Gでは、f値が1.6に設定されている間に、電子デバイス600は、深度調整スライダ822上でスワイプジェスチャ805(例えば、水平スワイプジェスチャ、左スワイプジェスチャ)を(例えば、ディスプレイ602のタッチ感知面を介して)検出し、それによって、固定された指針826に対して反対方向に目盛り824を水平にスライドさせる。
図8Hに示すように、スワイプジェスチャ805は、深度調整スライダ822をスライドさせ、f値インジケータ828によって(及び、いくつかの実施形態では、深度調整スライダ810によっても)示されるように、現在のf値として、より高いf値(例えば、8.7)が設定される。
図8Hでは、電子デバイス800は、画像表現808を調整して、新しい被写界深度値を反映する。(例えば、8.7)。具体的には、より大きなシミュレートされた被写界深度値のために、発光オブジェクト818Aは、(f値1.6を有する)図8F及び(f値4.5を有する)図8Eよりも、(f値8.7を有する)図8Hにおいて、歪みが小さい(例えば、より鮮明で、より実際の形態の正確な表現に近い)。同様に、より大きなシミュレートされた被写界深度値のために、発光オブジェクト818Bは、(f値1.6を有する)図8F及び(f値4.5を有する)図8Eよりも、(f値8.7を有する)図8Hにおいて、歪みが小さい(例えば、より鮮明で、より実際の形態の正確な表現に近い)。同様に、より大きなシミュレートされた被写界深度値のため、発光オブジェクト818Cは、(f値1.6を有する)図8F及び(f値4.5を有する)図8Eよりも、(f値8.7を有する)図8Hにおいて歪みが小さい(例えば、より鮮明で、より実際の形態の正確な表現に近い)。同様に、より大きなシミュレートされた被写界深度値のために、非発光オブジェクト820Aは、(f値1.6を有する)図8F及び(f値4.5を有する)図8Eよりも、(f値8.7を有する)図8Hにおいて歪みが小さい(例えば、より鮮明で、より実際の形態の正確な表現に近い)。同様に、より大きなシミュレートされた被写界深度値のために、非発光オブジェクト820Bは、(f値1.6を有する)図8F及び(f値4.5を有する)図8Eよりも、(f値8.7を有する)図8Hにおいて歪みが小さい(例えば、より鮮明で、より実際の形態の正確な表現に近い)。
既に上記で考察したように、オブジェクトの歪みの程度(例えば、ぼやけ度、サイズの差、輝度、彩度、焦点に対するオブジェクトの形状における歪みの程度)は、各オブジェクトの画像表現808の焦点(例えば、被写体816の鼻)までの距離に基づいて異なる。したがって、例えば、図8Hでは、オブジェクト818B-1がオブジェクト818B-2よりも焦点(例えば、被写体816の鼻)から遠く離れているため、オブジェクト818B-1の歪みの程度は依然として、オブジェクト818B-2の歪みの程度よりもいっそう大きい(例えば、オブジェクト818B-1は、オブジェクト818B-2より依然として比較的ぼやけており、より大きく、より明るく、より彩度が大きく、かつ/又は焦点に対する形状歪みが大きい)。同様に、図8Hでは、オブジェクト818C-1がオブジェクト818C-2よりも焦点(例えば、被写体816の鼻)から遠く離れているため、オブジェクト818C-1の歪みの程度は、オブジェクト818C-2の歪みの程度よりもいっそう大きい(例えば、オブジェクト818C-1は、オブジェクト818C-2よりも相対的にぼやけており、より大きく、より明るく、より彩度が大きく、かつ/又は焦点に対する形状歪みが大きい)。
図8I~図8Mは、中心オブジェクト832における焦点を有する5×5のグリッド状パターンに配置された複数の円形オブジェクト830(発光オブジェクト又は非発光オブジェクトであり得る)を示す。図8I~図8Mはまた、図8A~図8Hを参照して上述した深度調整スライダ822に対応する深度調整スライダ834を示す。図8I~図8Mは、一実施形態では、異なるf値設定下でのオブジェクトの歪みを更に示すために提供され、歪みの程度は、焦点からのオブジェクトの距離に基づいて異なる。
図8Iでは、f値インジケータ836によって示されるように、現在のf値は4.5(例えば、デフォルトのf値)に設定される。図8Iは、焦点としてオブジェクト832に対して4.5f値で調整された円形オブジェクト830を示す。図8Iに示すように、焦点から更に離れたオブジェクトは、焦点上にある又は焦点に近いオブジェクトよりも歪みが大きい(例えば、よりぼかされた、より大きな、より明るい、より彩度が大きい、かつ/又はより歪んだ形状を有する)。
図8Jでは、f値インジケータ836が示すように、現在のf値は2.8に設定される。図8Jは、焦点としてオブジェクト832に対して2.8f値で調整された円形オブジェクト830を示す。より小さいf値の下で、オブジェクトは、図8Iの対応するオブジェクト830よりもぼかされ、より大きく、より明るい、より彩度が大きく、かつ/又はより歪んだ形状を有するため、図8Jのオブジェクト830は、「より大きい」ように見える。図8Iと同様に、図8Jでは、焦点から更に離れたオブジェクトは、焦点上にある又は焦点に近いオブジェクトよりも歪みが大きい(例えば、よりぼかされた、より大きな、より明るい、より彩度が大きい、かつ/又はより歪んだ形状を有する)。
図8Kでは、f値インジケータ836によって示されるように、現在のf値は1.0に設定される。図8Kは、焦点としてオブジェクト832に対して1.0f値で調整された円形オブジェクト830を示す。更に小さいf値の下で、オブジェクトは、図8Jの対応するオブジェクト830よりもぼかされ、より大きく、より明るい、より彩度が高い、かつ/又はより歪んだ形状を有するため、図8Kのオブジェクト830は、更に「より大きい」ように見える。図8I~図8Jと同様に、図8Kでは、焦点から更に離れたオブジェクトは、焦点上又は焦点に近いオブジェクトよりも歪みが大きい(例えば、よりぼかされた、より大きな、より明るい、より彩度が大きい、かつ/又はより歪んだ形状を有する)。
図8Lでは、f値インジケータ836によって示されるように、現在のf値は7.6に設定される。図8Lは、焦点としてオブジェクト832に対して7.6f値で調整された円形オブジェクト830を示す。より大きいf値の下では、オブジェクトは、図8Iの対応するオブジェクト830よりもぼかしが少なく、より小さく、輝度がより低く、彩度がより低く、むしろ鮮明であるため、図8Kのオブジェクト830は、図8Iの対応するオブジェクト830よりも「小さい」ように見える。更に、図8I~図8Kと同様に、図8Lでは、焦点から更に離れたオブジェクトは、焦点上又は焦点に近いオブジェクトよりも歪みが大きい(例えば、よりぼかされた、より大きく、より明るく、彩度がより高く、かつ/又はより歪んだ形状を有する)。
図8Mでは、f値インジケータ836によって示されるように、現在のf値は14に設定される。図8Mは、焦点としてオブジェクト832に対して14f値で調整された円形オブジェクト830を示す。更に大きいf値の下で、オブジェクトは、図8Lの対応するオブジェクト830よりもぼかしが少なく、より小さく、輝度がより低く、彩度がより低く、かつ/又は、歪み形状がより小さく、むしろより鮮明であるため、図8Mのオブジェクト830は、図8Lの対応するオブジェクト830よりも更に「小さい」ように見える。したがって、図8Mのオブジェクト830は、図8I~図8Lのオブジェクト830よりも「真」の円がより多い。なお、図8I~図8Lと同様に、図8Mでは、焦点から更に離れているオブジェクトは、焦点上又は焦点に近いオブジェクトよりも歪みが大きい(例えば、よりぼかされた、より大きな、より明るく、彩度がより高く、かつ/又はより歪んだ形状を有する)。
図8N~図8Rは、(図8I~図8Mと同様に)中心オブジェクト840における焦点を有する5×5のグリッド状パターンに配置された複数の円形オブジェクト838(発光オブジェクト又は非発光オブジェクトであり得る)を示す。図8N~図8Rはまた、図8A~図8Hを参照して上述した深度調整スライダ822に対応する深度調整スライダ834を示す。図8N~図8Rは、別の実施形態では、異なるf値設定下でのオブジェクトの歪みを更に示すために提供され、歪みの程度は、焦点からのオブジェクトの距離に基づいて異なる。
図8Nでは、f値インジケータ836によって示されるように、現在のf値は4.5(例えば、デフォルトのf値)に設定される。図8Nは、焦点としてオブジェクト840に対して4.5f値で調整された円形オブジェクト838を示す。図8Nに示されるように、焦点から更に離れたオブジェクトは、焦点上にある又は焦点に近いオブジェクトよりも歪みが大きい(例えば、よりぼかされた、より大きな、より明るい、彩度がより高く、かつ/又はより歪んだ形状を有する)。
図8Oでは、f値インジケータ836によって示されるように、現在のf値は2.8に設定される。図8Oは、焦点としてオブジェクト834に対して2.8f値で調整された円形オブジェクト838を示す。より小さいf値の下で、オブジェクトは、図8Nの対応するオブジェクト838よりもぼかされ、より大きく、より明るい、彩度がより高く、かつ/又はより歪んだ形状を有するため、図8Oのオブジェクト838は、「より大きい」ように見える。図8Nと同様に、図8Oでは、焦点から更に離れたオブジェクトは、焦点上にある又は焦点に近いオブジェクトよりも歪みが大きい(例えば、よりぼかされた、より大きな、より明るい、彩度がより高く、かつ/又はより歪んだ形状を有する)。
図8Pでは、f値インジケータ836によって示されるように、現在のf値は1.0に設定される。図8Pは、焦点としてオブジェクト840に対して1.0f値で調整された円形オブジェクト838を示す。更により小さいf値の下で、オブジェクトは、図8Oの対応するオブジェクト838よりもぼかされ、より大きい、より明るい、彩度がより高く、かつ/又はより歪んだ形状を有するため、図8Pのオブジェクト838は、更に「より大きい」ように見える。図8N~図8Oと同様に、図8Pでは、焦点から更に離れたオブジェクトは、焦点上にある又は焦点に近いオブジェクトよりも歪みが大きい(例えば、よりぼかされた、より大きな、より明るい、彩度がより高く、かつ/又はより歪んだ形状を有する)。
図8Qでは、f値インジケータ836によって示されるように、現在のf値は7.6に設定される。図8Qは、焦点としてオブジェクト840に対して7.6のf値で調整された円形オブジェクト838を示す。より大きなf値の下では、オブジェクトは、図8Nの対応するオブジェクト838よりもぼかしが少なく、より小さく、輝度がより低く、彩度がより低く、むしろより鮮明であるため、図8Qのオブジェクト838は、図8Nの対応するオブジェクト838よりも「小さい」ように見える。なお、図8N~図8Pと同様に、図8Qでは、焦点から更に離れたオブジェクトは、焦点上にある又は焦点に近いオブジェクトよりも歪みが大きい(例えば、よりぼかされた、より大きな、より明るい、彩度がより高く、かつ/又はより歪んだ形状を有する)。
図8Rでは、f値インジケータ836によって示されるように、現在のf値は14に設定される。図8Rは、焦点としてオブジェクト840に対して14f値で調整された円形オブジェクト838を示す。更に大きいf値の下で、オブジェクトは、図8Qの対応するオブジェクト838よりもぼやけが少なく、より小さい、輝度がより低く、彩度がより低く、かつ/又は、歪み形状がより小さく、むしろより鮮明であるため、図8Rのオブジェクト838は、図8Qの対応するオブジェクト838よりも更に「より小さい」ように見える。したがって、図8Rのオブジェクト838は、図8N~図8Qのオブジェクト838よりも「真」の円である。なお、図8N~図8Qと同様に、図8Rでは、焦点から更に離れているオブジェクトは、焦点上にある又は焦点に近いオブジェクトよりも歪みが大きい(例えば、よりぼかされた、より大きな、より明るい、彩度がより高く、かつ/又はより歪んだ形状を有する)。
図9A~図9Bは、いくつかの実施形態に係る、シミュレートされた深度効果への調整を表示するためのユーザインタフェースを管理する方法を示すフロー図である。方法900は、ディスプレイ及び1つ以上の入力デバイス(例えば、ディスプレイのタッチ感知面、機械式入力デバイス)を有するデバイス(例えば、100、300、500、600)で実行される。方法900のいくつかの動作は、任意選択的に組み合わされ、いくつかの動作の順序は、任意選択的に変更され、いくつかの動作は、任意選択的に省略される。
後述するように、方法900は、シミュレートされた深度効果のためのユーザインタフェースを管理するための直感的方法を提供する。この方法は、シミュレートされた深度効果のためのユーザインタフェースを管理しナビゲートするためのユーザの認識的負担を軽減し、それにより、より効率的なヒューマン-マシンインタフェースを作り出す。バッテリ動作式コンピューティングデバイスの場合、深度効果をシミュレートするためのユーザインタフェースの容易な管理を提供することにより、ユーザがユーザインタフェースをより高速かつより効率的にナビゲートすることを可能にすることで、電力を節約し、バッテリ充電間の時間を増加させる。
電子デバイス(例えば、600)は、1つ以上の入力デバイスを介して、画像データの表現(例えば、808、画像データに対応する表示された画像、人物/被写体のポートレート画像)にシミュレートされた深度効果を適用する要求を受信し(902)、画像データの表現内の被写体についての深度データが利用可能である。
いくつかの実施形態では、画像データの表現(例えば、808)は、電子デバイスの1つ以上のカメラによって現在キャプチャされているライブフィード画像である。いくつかの実施形態では、画像データの表現は、(電子デバイス又は外部サーバの)メモリに記憶され、メモリから取得された以前に撮られた画像である。いくつかの実施形態では、画像の深度データを調整/操作して、画像データの表現に深度効果を適用することができる。
いくつかの実施形態では、画像データは、少なくとも2つの成分、すなわち、キャプチャされた画像の視覚特性を符号化するRGB成分、及びキャプチャされた画像内の要素の相対的な空間的関係についての情報を符号化する深度データ(例えば、深度データは、ユーザが前景にあり、ユーザの背後に位置する木などの背景要素は、背景にあることを符号化する)を含む。
いくつかの実施形態では、深度データは深度マップである。いくつかの実施形態では、深度マップ(例えば、深度マップ画像)は、視点(例えば、カメラ)からのシーン内のオブジェクトの距離に関連する情報(例えば、値)を含む。深度マップの一実施形態では、各深度画素は、その対応する2次元画素が位置する、視点のZ軸内の位置を規定する。いくつかの例では、深度マップは、各画素が値(例えば、0~255)によって規定されている画素から成る。例えば、「0」値は、「3次元」シーンにおいて最も離れた位置に配置される画素を表し、「255」値は、「3次元」シーンにおいて視点(例えば、カメラ)の最も近くに配置される画素を表す。他の例では、深度マップは、シーン内のオブジェクトと視点の平面との間の距離を表す。いくつかの実施形態では、深度マップは、深度カメラから見た、関心対象物の様々な特徴部の相対深度(例えば、ユーザの顔面の目、鼻、口、耳の相対深度)に関する情報を含む。いくつかの実施形態では、深度マップは、関心対象物のz方向における輪郭をデバイスが判定することを可能にする、情報を含む。いくつかの実施形態では、深度データは、第1の深度成分とは別個の、第2の深度成分(例えば、カメラ表示領域内の背景の空間位置を符号化する深度データの第2の部分、背景などの、深度マップの離散部分を形成する複数の深度画素)を有し、第2の深度アスペクトは、カメラ表示領域における背景の表現を含む。いくつかの実施形態では、第1の深度アスペクト及び第2の深度アスペクトは、カメラ表示領域内の被写体とカメラ表示領域内の背景との間の空間的関係を判定するために使用される。この空間的関係は、被写体を背景から識別するために使用することができる。この識別は、例えば、異なる視覚効果(例えば、深度成分を有する視覚効果)を被写体及び背景に適用するために利用することができる。いくつかの実施形態では、第1の深度成分に対応しない画像データの全てのエリア(例えば、深度カメラの範囲外の画像データのエリア)は、ボケ効果などの深度効果をシミュレートするために、異なるぼやけ度/鮮明度、サイズ、輝度、彩度、及び/又は形状歪みの程度に基づいて調整される。
いくつかの実施形態では、要求は、画像データの表現(例えば、808)に適用される/適用されているシミュレートされた深度効果を修正/調整することに関連付けられた調整可能スライダ(例えば、822)の調整(例えば、水平方向又は垂直方向のスライディングジェスチャ)に対応する。調整可能スライダを使用してシミュレートされた深度効果を画像データの表現に適用することにより、ユーザは、ユーザによって行われる調整を迅速かつ容易に閲覧することが可能になることで、視覚的フィードバックが強化される。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ-デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を低減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、(例えば、1つ以上のカメラを介して最初にキャプチャされた基礎となるデータに基づいた「自然な」効果とは対照的に)、シミュレートされた深度効果は、基礎となる画像データの操作に基づいて(人為的に)生成され、効果を創造し、それを画像データの対応する表現(例えば、808)に適用する点で「シミュレートされる」。
いくつかの実施形態では、1つ以上の入力デバイスを介して、シミュレートされた深度効果を画像データの表現(例えば、808)に適用する要求を受信することは、1つ以上の入力デバイスを介して、画像歪みパラメータの値を選択する1つ以上の入力を検出することを含み、画像データの表現(の一部)を歪ませることは、(例えば、パラメータを制御するための調整可能スライダの移動を介して)画像歪みパラメータの値を選択する1つ以上のユーザ入力に基づくものである(及び、それに応答するものである)。いくつかの実施形態では、調整可能スライダは、図6A~図6Tを参照して上記したように、画像データの表現を(例えば、シミュレートされた深度効果を適用して)歪ませるように調整される。画像データの表現を歪ませるために使用される調整可能スライダを提供することにより、ユーザは、画像データの表示された表現に対する調整を容易かつ効率的に行うことを可能にすることで、ユーザの利便性が強化される。追加の制御オプションを提供し、動作を実行するために必要な入力の数を低減することにより、デバイスの操作性が向上し、(例えば、デバイスを操作する/デバイスと対話するときに、適切な入力を提供するようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ-デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を低減し、デバイスのバッテリ寿命を改善する。
いくつかの実施形態では、画像歪みパラメータに関する異なる値を選択することにより、画像データの表現の第1の部分に第1の変化を引き起こし、画像データの表現の第2の部分に第2の変化を引き起こし、この第1の変化は第2の変化と異なり、第1の変化及び第2の変化はいずれも、同じタイプの変化(例えば、ぼやけ、サイズ、輝度、彩度、及び/又は形状歪みの増大又は減少)を含む。
シミュレートされた深度効果を画像データの表現(例えば、808)に適用する要求を受信した(904)ことに応じて、電子デバイス(例えば、600)は、ディスプレイ(例えば、602)上に、シミュレートされた深度効果を有する画像データの表現を表示する。シミュレートされた深度効果を画像データの表現に適用する要求を受信したことに応じて、シミュレートされた深度効果を有する画像データの表現を表示することにより、ユーザは、画像データの表現に対して行われる調整を迅速かつ容易に閲覧し応答することが可能になる。利便性のある制御オプションを提供し、動作を実行するために必要な入力の数を低減することにより、デバイスの操作性が向上し、(例えば、デバイスを操作する/デバイスと対話するときに、適切な入力を提供するようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ-デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を低減し、デバイスのバッテリ寿命を改善する。
ディスプレイ(例えば、602)上に、シミュレートされた深度効果を有する画像データの表現(例えば、808)を表示することは、第1の方式(例えば、第1の特定のぼやけ/鮮明さ、第1の特定のサイズ、第1の特定の輝度、第1の特定の彩度、及び/又は第1の特定の形状)で第1の深度を有する画像データの表現の第1の部分を歪ませる(906)ことを含み、第1の方式は、画像データの表現の既定部分(例えば、カメラの視野の中心又はカメラの焦点の中心)からの第1の部分の距離に基づいて決定される。ユーザが正確なシミュレート深度効果を適用するように画像データの表現を調整することが可能になることにより、ユーザは、本来大規模かつ/又は高価なハードウェア(例えば、専門家のレベルのカメラ)を用いることでしかユーザが得ることができないものと同様の画像/写真を作成することを可能にすることで、ユーザの利便性/効率性並びにデバイスの操作性及び多用性が強化される。すなわち、(例えば、光学歪みを介して深度効果を生成可能なデバイスに含まれた/それに取り付けられたカメラセンサ及びレンズをユーザが使用した場合とは対照的に)シミュレートされた深度効果(ソフトウェア効果)により、ユーザは、比較的小型で、かつそれほど高価でないデバイスを利用して、深度効果を画像/写真に適用することが可能になる。次いで、 このことによりデバイスの操作性が向上し、(例えば、デバイスを操作する/デバイスと対話するときにユーザが適切な入力を行うのを支援しユーザの誤りを低減することによって)ユーザ-デバイスインタフェースがより効率的になり、このことにより更に、ユーザがデバイスをより素早くかつ効率的に使用可能になることによって、デバイスの電力使用量が低減されバッテリ寿命が改善される。
ディスプレイ(例えば、602)上に、シミュレートされた深度効果を有する画像データの表現(例えば、808)を表示することはまた、第1の方式とは異なる第2の方式(例えば、第2の特定のぼやけ/鮮明さ、第2の特定のサイズ、第2の特定の輝度、第2の特定の彩度、及び/又は第2の特定の形状)で第1の深度を有する画像データの表現の第2の部分を歪ませることを含み、この第2の方式は、画像データの表現の既定部分からの第2の部分の距離に基づいて決定される。ユーザが正確なシミュレート深度効果を適用するように画像データの表現を調整することが可能になることにより、ユーザは、本来大規模かつ/又は高価なハードウェア(例えば、専門家のレベルのカメラ)を用いることでしかユーザが得ることができないものと同様の画像/写真を作成することを可能にすることで、ユーザの利便性/効率性並びにデバイスの操作性及び多用性が強化される。すなわち、(例えば、光学歪みを介して深度効果を生成可能なデバイスに含まれた/それに取り付けられたカメラセンサ及びレンズをユーザが使用した場合とは対照的に)シミュレートされた深度効果(ソフトウェア効果)により、ユーザは、比較的小型で、かつそれほど高価でないデバイスを利用して、深度効果を画像/写真に適用することが可能になる。次いで、このことによりデバイスの操作性が向上し、(例えば、デバイスを操作する/デバイスと対話するときにユーザが適切な入力を行うのを支援しユーザの誤りを低減することによって)ユーザ-デバイスインタフェースがより効率的になり、このことにより、更に、ユーザがデバイスをより素早くかつ効率的に使用可能になることによって、デバイスの電力使用量が低減され、バッテリ寿命が改善される。
いくつかの実施形態では、ディスプレイ(例えば、602)上に、シミュレートされた深度効果を有する画像データの表現(例えば、808)を表示することは、第2の深度(例えば、第3の部分の深度)に基づいて決定された(ぼやけ/鮮明さの)大きさを用いて、第1の部分と既定部分からの距離が同じであり、第1の方式における第1の深度とは異なる第2の深度を有する画像データの表現の第3の部分を歪ませること(910)を更に含む。ユーザが正確なシミュレート深度効果を適用するように画像データの表現を調整することが可能になることにより、ユーザは、本来大規模かつ/又は高価なハードウェア(例えば、専門家のレベルのカメラ)を用いることでしかユーザが得ることができないものと同様の画像/写真を作成することを可能にすることで、ユーザの利便性/効率性並びにデバイスの操作性及び多用性が強化される。すなわち、(例えば、光学歪みを介して深度効果を生成可能なデバイスに含まれた/それに取り付けられたカメラセンサ及びレンズをユーザが使用した場合とは対照的に)シミュレートされた深度効果(ソフトウェア効果)により、ユーザは、比較的小型で、かつそれほど高価でないデバイスを利用して、深度効果を画像/写真に適用することが可能になる。次いで、このことによりデバイスの操作性が向上し、(例えば、デバイスを操作する/デバイスと対話するときにユーザが適切な入力を行うのを支援しユーザの誤りを低減することによって)ユーザ-デバイスインタフェースがより効率的になり、このことにより更に、ユーザがデバイスをより素早くかつ効率的に使用可能になることによって、デバイスの電力使用量が低減されバッテリ寿命が改善される。
いくつかの実施形態では、ディスプレイ(例えば、602)上に、シミュレートされた深度効果を有する画像データ(例えば、808)の表現を表示することは、第2の深度(例えば、第4の部分の深度)に基づいて決定された(ぼやけ/鮮明さの)大きさを用いて、第2の部分と既定部分からの距離が同じであり、第2の方式における第2の深度を有する画像データの表現の第4の部分を歪ませること(912)を更に含む。正確なシミュレート深度効果を適用するためにユーザが画像データの表現を調整することを可能にすることにより、ユーザが、本来大規模かつ/又はより高価なハードウェア(例えば、専門家のレベルのカメラ)を用いることでしか得ることができないものと同様の画像/写真を作成することを可能にすることで、ユーザの利便性/効率性並びにデバイスの操作性及び多用性が強化される。すなわち、(例えば、光学歪みを介して深度効果を生成可能なデバイスに含まれた/それに取り付けられたカメラセンサ及びレンズをユーザが使用した場合とは対照的に)シミュレートされた深度効果(ソフトウェア効果)により、ユーザは、比較的小型で、かつそれほど高価でないデバイスを利用して、深度効果を画像/写真に適用することが可能になる。次いで、このことによりデバイスの操作性が向上し、(例えば、デバイスを操作する/デバイスと対話するときにユーザが適切な入力を行うのを支援しユーザの誤りを低減することによって)ユーザ-デバイスインタフェースがより効率的になり、このことにより更に、ユーザがデバイスをより素早くかつ効率的に使用可能になることによって、デバイスの電力使用量が低減されバッテリ寿命が改善される。
いくつかの実施形態では、ディスプレイ(例えば、602)上に、シミュレートされた深度効果を有する画像データ(例えば、808)の表現を表示することは、第1の方式で、第1の部分と既定部分(例えば、画像データの表現内の基準点又は焦点)からの距離が同じであり、第1の深度を有する画像データの表現の1つ以上の部分を歪ませること(914)を更に含む。したがって、いくつかの実施形態では、同じ深度を有し、画像データの表現の既定部分から同じ距離離れた画像データの表現の部分は、同じように歪む。ユーザが正確なシミュレート深度効果を適用するように画像データの表現を調整することが可能になることにより、ユーザは、本来大規模かつ/又は高価なハードウェア(例えば、専門家のレベルのカメラ)を用いることでしかユーザが得ることができないものと同様の画像/写真を作成することを可能にすることで、ユーザの利便性/効率性並びにデバイスの操作性及び多用性が強化される。すなわち、(例えば、光学歪みを介して深度効果を生成可能なデバイスに含まれた/それに取り付けられたカメラセンサ及びレンズをユーザが使用した場合とは対照的に)シミュレートされた深度効果(ソフトウェア効果)により、ユーザは、比較的小型で、かつそれほど高価でないデバイスを利用して、深度効果を画像/写真に適用することが可能になる。次いで、このことによりデバイスの操作性が向上し、(例えば、デバイスを操作する/デバイスと対話するときにユーザが適切な入力を行うのを支援しユーザの誤りを低減することによって)ユーザ-デバイスインタフェースがより効率的になり、このことにより更に、ユーザがデバイスをより素早くかつ効率的に使用可能になることによって、デバイスの電力使用量が低減されバッテリ寿命が改善される。
いくつかの実施形態では、第1の方式で画像データ(例えば、808)の表現の第1の部分を歪ませることは、第1の歪み形状(例えば、円形形状又はレモン/楕円型形状)に基づいて(例えば、それを適用することによって)第1の部分を歪ませることを含む。いくつかの実施形態では、第2の方式で画像データの表現の第2の部分を歪ませることは、第1の歪み形状とは異なる第2の歪み形状(例えば、より円形形状又はよりレモン/楕円型形状)に基づいて(例えば、それを適用することによって)、第2の部分を歪ませることを含む。いくつかの実施形態では、第2の部分が、第1の部分よりも所定部分からの距離がより長い(より遠い)場合、第2の部分内の1つ以上のオブジェクト(例えば、発光オブジェクト)は、第1の部分内の1つ以上のオブジェクト(例えば、発光オブジェクト)よりもレモン/楕円型形状になるように形状が歪む。
いくつかの実施形態では、第1の方式で画像データの表現(例えば、808)の第1の部分を歪ませることは、第1の歪みの程度(例えば、第1の部分内の1つ以上のオブジェクトの形状の歪みの程度)だけ第1の部分を歪ませることを含む。いくつかの実施形態では、第2の方式で画像データの表現の第2の部分を歪ませることは、第1の歪みの程度より大きい第2の歪みの程度(例えば、第2の部分内の1つ以上のオブジェクトの形状の歪みの程度)だけ第2の部分を歪ませることを含み、第2の部分は、第1の部分よりも既定部分(例えば、画像データの表現内の基準点又は焦点)からの距離がより大きい(より遠い)。いくつかの実施形態では、画像データの表現の周辺のオブジェクトは、よりレモン/楕円型形状になるように歪むが、既定部分(例えば、中心部分、焦点部分)に近いオブジェクトはそれほど歪まない。いくつかの実施形態では、歪みの程度は、既定部分からの距離が変化するにつれて徐々に変化する(例えば、増大又は減少する)。
いくつかの実施形態では、第1の方式で第1の部分を歪ませることは、第1の部分を第1の大きさでぼかす(例えば、その鮮明さを非対称にぼかす/変化させる)ことを含む。いくつかの実施形態では、第1の方式で第1の部分を歪ませることは、第2の方式で第2の部分を歪ませることを含み、それは、 第2の部分を第2の大きさでぼかす(例えば、その鮮明さを非対称にぼかす/変化させる)ことを含む。いくつかの実施形態では、第1の部分の既定部分からの距離が既定部分(例えば、画像データの表現内の基準点又は焦点)からの第2の部分の距離 よりも大きいとの判定に従って、第1の大きさは、第2の大きさよりも大きい。いくつかの実施形態では、第2の部分の既定部分からの距離が既定部分(例えば、画像データの表現内の基準点又は焦点)からの第1の部分よりも大きいとの判定に従って、第2の大きさは、第1の大きさよりも大きい。
いくつかの実施形態では、シミュレートされた深度効果を画像データの表現(例えば、808)に適用する要求を受信する前に、電子デバイス(例えば、600)は、ディスプレイ(例えば、602)上に、画像データの表現を表示する。いくつかの実施形態では、画像データの表現を表示している間に、電子デバイス(例えば、600)は、画像データを使用して(例えば、画像データの分析を介して、及び/又は、カメラデータのライブプレビューにおけるタップ入力など、画像データの表現の領域が被写体を含むことを識別する、ユーザ入力に基づいて)、画像データの表現内の被写体の存在(例えば、人物、人物の少なくとも一部、例えば、人物の顔面又は人物の顔面及び上半身)を検出する。
いくつかの実施形態では、ディスプレイ(例えば、602)上に、シミュレートされた深度効果を有する画像データの表現(例えば、808)を表示することは、被写体(の中心部分/領域)に対応する画像データの表現の一部分を歪ませることなく(916)、画像の第1の部分及び画像の第2の部分を歪ませることを更に含む。いくつかの実施形態では、被写体に対応する画像データの表現の部分は、画像の第1の部分及び画像の第2の部分よりも歪みが小さい。
いくつかの実施形態では、画像データの表現の第1の部分を歪ませることは、第1の部分が被写体(の中心部分/領域)に対応しないとの判定に従って、第1の部分を歪ませることを含む。いくつかの実施形態では、画像データの表現の第2の部分を歪ませることは、第2の部分が被写体(の中心部分/領域)に対応しないとの判定に従って、第2の部分を歪ませることを含む。
いくつかの実施形態では、シミュレートされた深度効果を画像データの表現(例えば、808)に適用する要求を受信したことに応じて、電子デバイス(例えば、600)は、画像データに基づいて(例えば、画像データの分析を介して)、(例えば、発光オブジェクトに関連付けられていない画像データの表現とは対照的に)発光オブジェクト(例えば、818A、818B、818C、818D)に関連付けられた画像データの表現内の1つ以上のオブジェクトを識別する(918)。
いくつかの実施形態では、ディスプレイ(例えば、602)上に、シミュレートされた深度効果を有する画像データの表現(例えば、808)を表示することは、発光オブジェクト(例えば、820A、820B)と関連付けられていない(例えば、発光オブジェクトとして識別されていない)画像データの表現の1つ以上の部分に対して、第3の方式で、発光オブジェクト(例えば、818A、818B、818C、818D)に関連付けられた(例えば、発光オブジェクトとして識別された)画像データの表現の1つ以上の部分の外観を変更する(920)ことを更に含む。いくつかの実施形態では、第3の方式は、第4の方式と比較して、より大きい大きさでオブジェクトをぼかす/鮮明化することを伴う。いくつかの実施形態では、第3の方式は、第4の方式と比較して、より高い程度でオブジェクトの形状を歪ませることを伴う。
いくつかの実施形態では、第3の方式で発光オブジェクト(例えば、818A、818B、818C、818D)に関連付けられた画像データの表現(例えば、808)内のオブジェクトの外観を変更することは、発光オブジェクトに関連付けられていない画像データの表現の他の部分に対して、発光オブジェクトに関連付けられている画像データの表現の1つ以上の部分の輝度を増大させる(922)こと、発光オブジェクトに関連付けられていない画像データの表現の他の部分に対して、発光オブジェクトに関連付けられている画像データの表現の1つ以上の部分の彩度を増大させる(924)こと、及び、発光オブジェクト(例えば、820A、820B)に関連付けられていない画像データの表現の他の部分に対して、発光オブジェクトに関連付けられている画像データの表現の1つ以上の部分のサイズを増大させる(926)こと、のうち1つ以上を含む。
いくつかの実施形態では、電子デバイス(例えば、600)は、1つ以上の入力デバイスを介して、画像歪みパラメータの値を変更する1つ以上の入力を検出し(928)、画像データの表現(例えば、808)(の一部)を歪ませることは、(例えば、パラメータを制御するための調整可能スライダの移動を介して)画像歪みパラメータの値を選択する1つ以上のユーザ入力に基づくものである(及びそれに応答するものである)。いくつかの実施形態では、調整可能スライダ(例えば、822)は、画像データの表現を歪ませるように(例えば、シミュレートされた深度効果をそれに適用する)ように調整される。いくつかの実施形態では、画像データの表現を歪ませるための調整可能スライダを提供することにより、ユーザは、画像データの表現を歪ませるために画像歪みパラメータの値を変更するための1つ以上の入力を迅速かつ容易に提供することが可能となる。追加の制御オプションを提供し、動作を実行するために必要な入力の数を低減することにより、デバイスの操作性が向上し、(例えば、デバイスを操作する/デバイスと対話するときに、適切な入力を提供するようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ-デバイスインタフェースがより効率的になり、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量が低減され、デバイスのバッテリ寿命が改善される。いくつかの実施形態では、画像歪みパラメータの値を変更する1つ以上の入力(例えば、803、805)を検出したことに応じて、発光オブジェクト(例えば、820A、820B)に関連付けられていない画像データの表現の他の部分に対して、発光オブジェクト(例えば、818A、818B、818C、818D)に関連付けられている画像データの表現の1つ以上の部分の外観の変化の大きさを変更する(930)(例えば、歪みパラメータが徐々に増大する(かつ、シミュレートされた焦点面の外側の時間画像の領域のぼやけが徐々に増加する)につれて、データの表現の他の部分に対して、発光源に関連付けられたオブジェクトの輝度、サイズ、及び/又は、彩度を徐々に増大させ、また、歪みパラメータが徐々に減少する(かつシミュレートされた焦点面の外側の時間画像の領域のぼやけが徐々に減少する)につれて、データの表現の他の部分に対して、発光源に関連付けられたオブジェクトの輝度、サイズ、及び/又は彩度を徐々に減少させる)。
方法900(例えば、図9A~図9B)に関して前述したプロセスの詳細はまた、前述及び後述の方法にも類似の方式で適用可能であることに留意されたい。例えば、方法700は、方法900を参照して上述した様々な方法の特性のうちの1つ以上を任意選択的に含む。例えば、方法700に記載される深度調整スライダは、シミュレートされた深度効果を画像表現内のオブジェクトに適用するために使用することができる。別の例では、方法1100は、方法900に関して上述した様々な方法の特性のうちの1つ以上を任意選択的に含む。例えば、方法1100に記載されているように、検出された干渉に関する通知は、深度効果をシミュレートするために使用される1つ以上の深度センサを妨害し得る検出された磁気干渉に関連付けることができる。簡潔にするために、これらの詳細は、以下で繰り返さない。
図10A~図10Fは、いくつかの実施形態に係る、シミュレートされた画像効果(例えば、ボケ効果などのシミュレートされた深度効果)を調整する干渉を示すための例示的なユーザインタフェースを示す。これらの図のユーザインタフェースは、図11のプロセスを含めた、以下で説明されるプロセスを説明するために使用される。
図10Aは、電子デバイス600の背面図を示す。いくつかの実施形態では、電子デバイス600は、1つ以上の背面カメラ608、及び1つ以上の後方深度カメラセンサ1002(例えば、深度カメラセンサ175と同様)を含む。いくつかの実施形態では、1つ以上の背面カメラ608は、1つ以上の後方深度カメラセンサ1002と統合される。
図10Bは、ディスプレイ602を有する電子デバイス600の正面図を示す。いくつかの実施形態では、電子デバイス600は、1つ以上の前面カメラ606、及び1つ以上の前方深度カメラセンサ1004を含む。いくつかの実施形態では、1つ以上の前面カメラ606は、1つ以上の後方深度カメラセンサ1004と統合される。
図10Bでは、電子デバイス600は、ディスプレイ602上に、画像キャプチャアプリケーションを起動するためのアフォーダンス1006を表示する。更に図10Bでは、アフォーダンス1006を表示している間に、電子デバイスは、アフォーダンス1006のアクティブ化1001を(例えば、ディスプレイ602のタッチ感知面を介して)検出する。
図10Cでは、画像キャプチャアプリケーションを起動するためのアフォーダンス1006のアクティブ化1001を検出したことに応じて、電子デバイス600は、ディスプレイ602上に、(例えば、ユーザインタフェース614及びユーザインタフェース804に対応する)画像キャプチャアプリケーションのユーザインタフェース1008を表示する。画像キャプチャアプリケーションを起動すると(又は、その前に/それに応じて)、電子デバイス600は、画像キャプチャアプリケーションのシミュレートされた画像効果機能(例えば、図6A~図6T及び図8A~図8Mを参照して上述したシミュレートされた深度効果)を実行するために使用される、1つ以上のセンサ(例えば、デバイスの1つ以上の深度センサ1002及び1004)を妨害し又は遅らせ得る干渉(例えば、デバイスのアクセサリからなどの、磁気干渉又は他の外部干渉)を検出しない。したがって、電子デバイス600は、干渉の存在を示す通知を表示しない。
図10Dは、デバイスが保護ケース1010(例えば、スマートフォンケース)によって少なくとも部分的に覆われている電子デバイス600の背面図を示す。保護ケース1010は、電子デバイス600の1つ以上のセンサによって検出可能な(例えば、ケース及びデバイスを、車マウントなどのホルダに留めるための、外部バッテリケースの一部である磁気部品)磁気部品1012を含む。
図10Eは、保護ケース1010によって少なくとも部分的に覆われた電子デバイス600の正面図を示す。図10Eでは、電子デバイス600は、画像キャプチャアプリケーションを起動するためのアフォーダンス1006をディスプレイ602上に表示する。更に図10B では、アフォーダンス1006を表示している間に、電子デバイスは、アフォーダンス1006のアクティブ化1003を(例えば、ディスプレイ602のタッチ感知面を介して)検出する。
図10Fでは、画像キャプチャアプリケーションを起動するためのアフォーダンス1006のアクティブ化1003を検出したことに応じて、電子デバイス600は、ディスプレイ602上に、(例えば、ユーザインタフェース614及びユーザインタフェース804に対応する)画像キャプチャアプリケーションのユーザインタフェース1008を表示する。画像キャプチャアプリケーションを起動すると(又はその前に/それに応じて)、電子デバイス600は、保護ケース1010の磁気部品1012からの干渉(例えば、磁気干渉)を検出する。
図10Fに示すように、干渉を検出したことに応じて、電子デバイス600は、干渉が検出されたことを示す通知1014を(例えば、画像キャプチャアプリケーションのユーザインタフェース1008上に)表示し、干渉のために、1つ以上のシミュレートされた画像効果特徴(例えば、図6A~図6T及び図8A~図8Mを参照して上述したシミュレートされた深度効果特徴を含む)は、検出された干渉によって影響を受ける場合がある。いくつかの実施形態では、通知1014はまた、通知を閉じるための、及び、干渉の存在にもかかわらずシミュレートされた画像効果特徴の使用を継続するためのアフォーダンス1016を含む。
いくつかの実施形態では、電子デバイス600は、所定回数のインスタンス(例えば、保護ケース1010の磁気部品1012から)の干渉の存在を事前に検出した後に(例えば、画像キャプチャアプリケーションを起動し、3、5又は7回の干渉を検出した後に)、通知1014を表示する。したがって、いくつかの実施形態では、干渉の検出についての以前のインスタンスが存在しなかった場合、電子デバイス600は、保護ケース1010の磁気部品1012からの干渉を検出したにもかかわらず、画像キャプチャアプリケーションを起動する際、通知1014を表示することを見合わせる。
いくつかの実施形態では、通知1014が既に事前にデバイス上に提示されている場合、電子デバイス600は、通知1014が以前に表示された場合よりも多くのインスタンスで、(例えば、保護ケース1010の磁気部品1012からの)干渉の存在を検出した後に新しい通知1014を表示する。例えば、画像キャプチャアプリケーションを前に3回起動した上で干渉を検出した後に、以前の通知1014が表示された場合、電子デバイス600は、画像キャプチャアプリケーションを前に5回起動した上で干渉を検出するまで、新しい通知1014を表示するのを見合わせる。
いくつかの実施形態では、通知1014が既にデバイス上に所定回数提示されている場合、電子デバイス600は、干渉の検出についての後続のインスタンスにもかかわらず通知を提示することを見合わせる。
いくつかの実施形態では、アフォーダンス1016のアクティブ化を検出したことに応じて、電子デバイス600は、画像効果の1つ以上の特徴が利用不可能になる又は使用のために必要最低限になるように、(例えば、シミュレートされた深度効果を含む)1つ以上のシミュレートされた画像効果のモードを変更する。
図11は、いくつかの実施形態に係る、シミュレートされた画像効果を調整する干渉を示すためのユーザインタフェースを管理する方法を示すフロー図である。方法1100は、ディスプレイ及び1つ以上のカメラを含む1つ以上のセンサ(例えば、1つ以上のカメラ、電子デバイスの外部にあるソースから生じる磁気干渉などの干渉を検出可能な干渉検出器)を有するデバイス(例えば、100、300、500、600)で実行される。方法1100のいくつかの動作は、任意選択的に組み合わされ、いくつかの動作の順序は、任意選択的に変更され、いくつかの動作は、任意選択的に省略される。
後述するように、方法1100は、シミュレートされた深度効果のためのユーザインタフェースを管理するための直感的方法を提供する。この方法は、シミュレートされた深度効果のためのユーザインタフェースを管理しナビゲートするためのユーザの認識的負担を軽減し、それにより、より効率的なヒューマン-マシンインタフェースを作り出す。バッテリ動作式コンピューティングデバイスの場合、深度効果をシミュレートするためのユーザインタフェースの容易な管理を提供することにより、ユーザがユーザインタフェースをより高速かつより効率的にナビゲートすることを可能にすることで、電力を節約し、バッテリ充電間の時間を増加させる。
ディスプレイ(例えば、602)上にカメラアプリケーション(例えば、1008)のユーザインタフェースを表示している間に、電子デバイス(例えば、600)は、1つ以上のセンサを介して、1つ以上のカメラ(例えば、606、608)のそれぞれの機能の動作を害する(例えば、1012からの)(例えば、デバイスの保護ケース又はデバイス上の外部取り付けなどの、電子デバイスに取り付けられた、それに固定される、それを覆う、又はその近くに配置されるアクセサリからの)外部干渉(例えば、磁気干渉、電子デバイスの1つ以上のカメラ関連機能(例えば、1つ以上の深度効果関連機能)に影響を及ぼす干渉)を検出する(1102)。1つ以上のカメラのそれぞれの機能の動作を害する外部干渉を自動的に検出することにより、デバイスの1つ以上の機能に影響を及ぼす外部干渉があるかどうかをユーザが手動で確認する必要性を回避することが可能になることで、デバイスを制御するためにユーザから要求される入力数が低減される。動作を実行するために必要な入力数を低減することにより、デバイスの操作性が向上し、(例えば、デバイスを操作する/デバイスと対話するときに、適切な入力を提供するようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ-デバイスインタフェースがより効率的になり、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量が低減され、デバイスのバッテリ寿命が改善される。更に、1つ以上のカメラのそれぞれの機能の動作を害する外部干渉を自動的に検出し、ユーザにその検出を通知することにより、問題を修正するオプションをユーザに提供しながら、依然として、デバイスは低減した動作レベルで動作し続けることが可能になる。これにより、デバイスの操作性が強化され、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力をもたらすようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ-デバイスインタフェースがより効率的になり、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、デバイスの電力使用量が低減され、バッテリ寿命が改善される。
いくつかの実施形態では、それぞれの機能は、電子デバイス(例えば、600)の1つ以上のカメラ(例えば、606、608)のフォーカス機能である(1104)。
いくつかの実施形態では、干渉は、(例えば、1012からの)磁気干渉である(1106)。
いくつかの実施形態では、干渉は、電子デバイス(例えば、600)のアクセサリ(例えば、1010)(例えば、電子デバイス用の保護外側ケース又はカバー(例えば、バッテリを組み込んだケース又はカバー)、電子デバイスに固定された/取り付けられた磁気ステッカー又は取付部品)からのもの(例えば、それによって引き起こされるもの、又はそのために検出されるもの)である(1108)。
いくつかの実施形態では、1つ以上のカメラ(例えば、606、608)のそれぞれの機能の動作を害する(例えば、1012からの)外部干渉を検出することは、電子デバイス上で(例えば、カメラアプリケーション用のユーザインタフェースを表示するためのユーザ要求に応じて)カメラアプリケーション用のユーザインタフェース(例えば、1008)を表示する際に外部干渉を検出することを含む。いくつかの実施形態では、電子デバイス(例えば、600)は、カメラアプリケーション用のユーザインタフェースが表示されたときだけ、1つ以上のカメラのそれぞれの機能の動作を害する外部干渉を検出し、カメラアプリケーション用のユーザインタフェースが表示された後、又はカメラアプリケーション用のユーザインタフェースが電子デバイス上に表示されていないときは、外部干渉を検出しない。カメラアプリケーション用のユーザインタフェースが表示されているときだけ、外部干渉を検出し、カメラアプリケーション用のユーザインタフェースが表示された後、又はカメラアプリケーション用のユーザインタフェースが表示されないときは外部干渉を検出しないことにより、外部干渉によって影響を受け得る機能がデバイス上で使用され得るときの、外部干渉の検出による電力消費が低減される。電力消費を低減することにより、デバイスのバッテリ寿命を改善することでデバイスの操作性が向上する。
電子デバイス(例えば、600)の外部の(例えば、1012からの)干渉を検出した(1110)ことに応じて、第1の基準が満たされた(例えば、現在の発生を含む、カメラアプリケーションが電子デバイス上で以前に起動されたときに検出された発生など、少なくとも所定回数の干渉の以前の発生が検出された)との判定に従って、電子デバイスは、1つ以上のカメラ(例えば、606、608)のそれぞれの機能に対する外部干渉の影響を低減するように1つ以上のカメラの動作モード(例えば、深度効果モード)が変更されていることを示す通知(例えば、1014)をディスプレイ(例えば、602)上に表示する(1112)。1つ以上のカメラの動作モード(例えば、深度効果モード)が、1つ以上のカメラのそれぞれの機能に対する外部干渉の影響を低減するように変更されたことを示す通知を表示することにより、デバイスが、外部干渉の影響を低減するように1つ以上のカメラの動作モード(例えば、深度効果モード)を変更したことを、ユーザが迅速かつ容易に認識することが可能になることで、視覚的フィードバックが改善される。改善された視覚的フィードバックをユーザに提供することにより、デバイスの操作性を向上させ、(例えば、デバイスを操作する/デバイスと対話するときに適切な入力を提供するようにユーザを支援し、ユーザの誤りを低減することによって)ユーザ-デバイスインタフェースをより効率的にし、加えて、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を低減し、デバイスのバッテリ寿命を改善する。
電子デバイス(例えば、600)の外部の干渉を検出した(1110)ことに応じて、第1の基準が満たされていない(例えば、現在の発生を含む、以前の干渉の発生が少ない回数しか検出されなかった)との判定に従って、電子デバイス(例えば、600)は、1つ以上のカメラ(例えば、606、608)の動作モード(例えば、深度効果モード)が変更されたことを示す通知(例えば、1014)をディスプレイ(例えば、602)上に表示するのを見合わせる(1120)。以前の干渉の発生が所定の回数より少ない回数しか検出されなかった場合に通知を表示するのを見合わせることにより、(例えば、デバイスのアクセサリからの永続的な干渉検出とは対照的に)1回限りの干渉検出イベントの通知を提供することを見合わせることで、デバイス機能性が強化され、 改善される。不必要な通知の提供を見合わせることにより、ユーザの利便性及びデバイスの操作性が強化され、ユーザ-デバイスインタフェースがより効率的になり、これにより、更に、ユーザがデバイスをより迅速かつ効率的に使用できるようにすることによって、電力使用量を低減し、デバイスのバッテリ寿命が改善する。
いくつかの実施形態では、第1の基準は、電子デバイス(例えば、600)による(例えば、1012からの)外部干渉を検出する第1の所定量(例えば、5、7、11)の(個別のインスタンスの)発生が検出されたときに満たされる要件を含む(1114)。したがって、いくつかの実施形態では、外部インタフェース の所定回数の個別の検出が通知の表示をトリガするために必要となる。いくつかの実施形態では、ユーザが1つ以上のカメラのそれぞれの機能を利用するようにカメラアプリケーションを使用しようと試み、デバイスが1つ以上のカメラのそれぞれの機能を使用可能であるかどうかを判定するためにデバイスが外部干渉を確認し、外部干渉が存在することを判定するときに、外部干渉の検出の個別の発生が生じる。いくつかの実施形態では、デバイスは、所定の間隔(例えば、1時間に1回、1日に1回、カメラアプリケーションが使用される日ごとの初回)で外部干渉を確認する。
いくつかの実施形態では、第1の所定回数は、通知(例えば、1014)が電子デバイス(例えば、600)上に以前に表示された回数に依存する(例えば、それに基づいて変化する)(1116)。いくつかの実施形態では、通知をトリガするために必要とされる外部インタフェース の検出の第1の所定の回数は、電子デバイスが既に表示した通知数に基づいて累進的に増加する。例えば、特定の回数(例えば、3回)の外部干渉の個別検出が、第1の通知の表示をトリガするために必要とされる場合、より多い回数(例えば、5回)の外部干渉の個別検出が、第2の通知の表示をトリガするために必要とされ、更に多い回数の外部干渉の個別検出(例えば、7回の外部干渉の個別検出)が、第3の通知の表示をトリガするために必要とされる。通知をトリガするために必要とされる外部インタフェース の検出の第1の所定の回数を累進的に増加させることにより、ユーザが(以前の通知に基づいて)干渉に既に気づいていることがあるが、その干渉を無視することを選択している場合には、あまりに頻繁に通知を表示するのを見合わせることで、ユーザの利便性が向上する。ユーザの利便性が強化されることにより、デバイスの操作性が向上し、(例えば、デバイスを操作する/デバイスと対話するときにユーザが適切な入力を行うのを支援しユーザの誤りを低減することによって)ユーザ-デバイスインタフェースがより効率的になり、このことにより更に、ユーザがデバイスをより素早くかつ効率的に使用できるようになることで、電力使用量を低減し、デバイスのバッテリ寿命が改善する。
いくつかの実施形態では、通知(例えば、1014)をディスプレイ(例えば、602)上に表示することは、通知が第2の所定の回数未満しか以前に電子デバイス(例えば、600)上に表示されていないという判定に従って、通知を表示することを含む。いくつかの実施形態では、少なくとも第2の所定の回数の通知が電子デバイス上に以前に表示されている場合、電子デバイスは(第1の基準が満たされているかどうかにかかわらず)通知を表示することを見合わせる。
いくつかの実施形態では、1つ以上のカメラ(例えば、606、608)のそれぞれの機能に対する(例えば、1012からの)外部干渉の影響を低減するような1つ以上のカメラの動作モードへの変更(1118)は、1つ以上のカメラの1つ以上の機能(例えば、シミュレートされた深度効果関連機能、光学画像安定化、オートフォーカス、及び/又は、機械的構成要素の近くの強力な磁場の存在により悪影響を受ける可能性がある機械的構成要素の正確な動きを必要とする動作)の応答性を低減すること(又は、低下させること、漸減すること)(又は機能のうちの1つ以上を完全に無効にする)ことを含み、この1つ以上の機能は、外部干渉が電子デバイスにより検出されている間に、確実に実行できない機能に1つ以上のカメラによって対応する。
方法1100(図11)に関して上述したプロセスの詳細はまた、上述及び後述する方法にも、類似の方式で適用可能であることに留意されたい。例えば、方法700は、方法1100を参照して上述した様々な方法の特性のうちの1つ以上を任意選択的に含む。例えば、方法700に記載されるように、深度調整スライダを使用してシミュレートされた深度効果を調整することは、深度効果をシミュレートするために使用される1つ以上の深度センサを妨害する場合がある磁気干渉により影響を受ける場合がある。別の例では、方法900は、方法1100に関して上述した様々な方法の特性のうちの1つ以上を任意選択的に含む。例えば、方法900に記載されるように、シミュレートされた深度効果を画像表現内のオブジェクトに適用することは、深度効果をシミュレートするために使用される1つ以上の深度センサを妨害する場合がある磁気干渉によって影響を受ける場合がある。簡潔にするために、これらの詳細は、以下で繰り返さない。
上記の説明は、説明のため、特定の実施形態について述べられたものである。しかしながら、上記の例示的な考察は、網羅的であることを意図するものでもないし、又は本発明を開示される厳密な形態に限定することを意図するものではない。上記の教示を考慮して、多くの修正及び変形が可能である。本技法の原理、及びそれらの実際の適用を最もよく説明するために、実施形態が選択及び記載されている。それにより、他の当業者は、意図された具体的な用途に適するような様々な修正を用いて、本技法及び様々な実施形態を最も良好に利用することが可能となる。
添付図面を参照して、本開示及び例を十分に説明してきたが、様々な変更及び修正が当業者には明らかとなることに留意されたい。そのような変更及び修正は、特許請求の範囲によって定義されるような、本開示及び実施例の範囲内に含まれるものとして理解されたい。
上述のように、本技術の一態様は、ライブフィード並びに/又は格納された写真及び画像に適用することができるシミュレートされた画像効果特徴の機能性及び汎用性を改善するために、様々なソースから入手可能なデータの収集及び使用である。本開示は、いくつかの例において、この収集されたデータが、特定の人を一意に特定する個人情報データ、又は特定の人物に連絡する若しくはその所在を突き止めるために使用できる個人情報データを含み得ることを考察する。そのような個人情報データとしては、人口統計データ、位置ベースのデータ、電話番号、電子メールアドレス、ツイッターID、自宅の住所、ユーザの健康若しくはフィットネスのレベルに関するデータ若しくは記録(例えば、バイタルサイン測定値、投薬情報、運動情報)、誕生日、又は任意の他の識別情報若しくは個人情報を挙げることができる。
本開示は、本技術におけるそのような個人情報データの使用がユーザの利益になる使用であり得る点を認識するものである。例えば、個人情報データを使用して、キャプチャされた画像又は写真内の人物若しくは被写体を認識することができる。したがって、このような個人情報データを使用することにより、ユーザは、キャプチャされた画像又は写真のコンテンツを容易に認識し、そのような撮影画像又は写真を編成することができる。更に、ユーザに利益をもたらす、個人情報データに関する他の使用もまた、本開示によって考察される。例えば、健康データ及びフィットネスデータは、ユーザの全般的なウェルネスについての洞察を提供するために使用することができ、又は、ウェルネスの目標を追求するための技術を使用している個人への、積極的なフィードバックとして使用することもできる。
本開示は、そのような個人情報データの収集、分析、開示、転送、記憶、又は他の使用に関与する実体が、確固たるプライバシーポリシー及び/又はプライバシー慣行を遵守することを想到する。具体的には、そのようなエンティティは、個人情報データを秘密として厳重に保守するための、業界又は政府の要件を満たしているか又は上回るものとして一般に認識されている、プライバシーのポリシー及び慣行を実施し、一貫して使用するべきである。そのようなポリシーは、ユーザによって容易にアクセス可能であるべきであり、データの収集及び/又は使用が変化するにつれて更新されるべきである。ユーザからの個人情報は、そのエンティティの合法的かつ正当な使用のために収集されるべきであり、それらの合法的使用を除いては、共有又は販売されるべきではない。更に、そのような収集/共有は、ユーザに告知して同意を得た後に実施されるべきである。更に、そのようなエンティティは、そのような個人情報データへのアクセスを保護して安全化し、その個人情報データへのアクセスを有する他者が、それらのプライバシーポリシー及び手順を遵守することを保証するための、あらゆる必要な措置を講じることを考慮するべきである。更に、そのようなエンティティは、広く受け入れられているプライバシーのポリシー及び慣行に対する自身の遵守を証明するために、第三者による評価を自らが受けることができる。更に、ポリシー及び慣行は、収集及び/又はアクセスされる具体的な個人情報データのタイプに適合されるべきであり、また、管轄権固有の考慮事項を含めた、適用可能な法令及び規格に適合されるべきである。例えば、アメリカ合衆国では、特定の健康データの収集又はアクセスは、医療保険の相互運用性と説明責任に関する法律(Health Insurance Portability and Accountability Act、HIPAA)などの、連邦法及び/又は州法によって管理することができ、その一方で、他国における健康データは、他の規制及びポリシーの対象となり得るものであり、それに従って対処されるべきである。それゆえ、各国の異なる個人データのタイプに対して、異なるプライバシー慣行が保たれるべきである。
前述のことがらにも関わらず、本開示はまた、個人情報データの使用又は個人情報データへのアクセスを、ユーザが選択的に阻止する実施形態も想到する。すなわち、本開示は、そのような個人情報データへのアクセスを防止又は阻止するように、ハードウェア要素及び/又はソフトウェア要素を提供できることを考察する。例えば、画像又は写真内の人物若しくは被写体を検出及び認識する場合、本技術は、ユーザが、サービスの登録中又はその後のいつでも、個人情報データの収集への参加の「オプトイン」又は「オプトアウト」を選択できるように構成され得る。「オプトイン」及び「オプトアウト」の選択肢を提供することに加えて、本開示は、個人情報のアクセス又は使用に関する通知を提供することを考察する。例えば、ユーザの個人情報データにアクセスすることとなるアプリのダウンロード時にユーザに通知され、その後、個人情報データがアプリによってアクセスされる直前に再びユーザに注意してもよい。
更には、本開示の意図は、個人情報データを、意図していない又は許可されていないアクセス又は使用のリスクを最小限に抑えるように管理及び処理するべきであるという点である。データの収集を制限し、データがもはや必要とされなくなった時点で削除することによって、危険性を最小限に抑えることができる。更に、適用可能な場合、特定の健康関連アプリケーションにおいて、ユーザのプライバシーを保護するために、データの非特定化を使用することができる。非特定化は、適切な場合には、特定の識別子(例えば、生年月日など)を除去すること、記憶されたデータの量又は特異性を制御すること(例えば、位置データを住所レベルよりも都市レベルで収集すること)、データがどのように記憶されるかを制御すること(例えば、データをユーザ全体にわたって情報集約すること)及び/又は他の方法によって、容易にすることができる。
それゆえ、本開示は、1つ以上の様々な開示された実施形態を実施するような個人情報データの使用を広範に網羅するものではあるが、本開示はまた、そのような個人情報データにアクセスすることを必要とせずに、様々な実施形態を実施することもまた可能であることを想到している。すなわち、本技術の様々な実施形態は、そのような個人情報データの全て又は一部分が欠如することにより、実施不可能となるものではない。例えば、画像又は写真は、非個人情報データ又は最低限の個人情報、又は画像若しくは写真に関連付けられた日付及び時間などの公に入手可能な情報に基づいて編成することができる。

Claims (17)

  1. ディスプレイ及び1つ以上の入力デバイスを有する電子デバイスにおいて、
    前記1つ以上の入力デバイスを介して、シミュレートされた深度効果を画像データの表現に適用する要求を受信することであって、画像データの前記表現内の被写体についての深度データが利用可能であるようにすることと、
    前記シミュレートされた深度効果を画像データの前記表現に適用する前記要求を受信したことに応じて、前記シミュレートされた深度効果を有する画像データの前記表現を前記ディスプレイ上に表示することであって、
    第1の方式で第1の深度を有する画像データの前記表現の第1の部分を歪ませることであって、前記第1の方式は、画像データの前記表現の既定部分からの前記第1の部分の距離に基づいて決定される、ことと、
    前記第1の方式とは異なる第2の方式で前記第1の深度を有する画像データの前記表現の第2の部分を歪ませることであって、前記第2の方式は、画像データの前記表現の前記既定部分からの前記第2の部分の距離に基づいて決定される、ことと、
    発光オブジェクトに関連付けられていない画像データの前記表現の1つ以上の部分とは異なり、第3の方式で、発光オブジェクトに関連付けられた画像データの前記表現の1つ以上の部分の外観を歪ませることと、
    を含むようにすることと、
    を含む、方法。
  2. 前記シミュレートされた深度効果を有する画像データの前記表現を前記ディスプレイ上に表示することは、
    前記第1の部分と前記既定部分からの距離が同じであり、前記第1の方式における前記第1の深度とは異なる第2の深度を有する画像データの前記表現の第3の部分を前記第2の深度に基づいて決定された大きさで歪ませることと、
    前記第2の部分と前記既定部分からの距離が同じであり、前記第2の方式における前記第2の深度を有する画像データの前記表現の第4の部分を、前記第2の深度に基づいて決定された大きさで歪ませることと、
    を更に含む、請求項1に記載の方法。
  3. 前記シミュレートされた深度効果を有する画像データの前記表現を前記ディスプレイ上に表示することは、
    前記第1の部分と前記既定部分からの距離が同じであり、前記第1の方式で、前記第1の深度を有する画像データの前記表現の1つ以上の部分を歪ませること、
    を更に含む、請求項1又は2に記載の方法。
  4. 前記第1の方式で画像データの前記表現の前記第1の部分を歪ませることは、第1の歪み形状に基づいて前記第1の部分を歪ませることを含み、
    前記第2の方式で画像データの前記表現の前記第2の部分を歪ませることは、前記第1の歪み形状とは異なる第2の歪み形状に基づいて、前記第2の部分を歪ませることを含む、
    請求項1から3のいずれか一項に記載の方法。
  5. 前記第1の方式で画像データの前記表現の前記第1の部分を歪ませることは、前記第1の部分を第1の歪みの程度で歪ませることを含み、
    前記第2の方式で画像データの前記表現の前記第2の部分を歪ませることは、前記第2の部分を、前記第1の歪みの程度よりも大きい第2の歪みの程度で歪ませることを含み、前記第2の部分は、前記第1の部分よりも前記既定部分からの距離が大きい、
    請求項1から4のいずれか一項に記載の方法。
  6. 前記1つ以上の入力デバイスを介して、前記シミュレートされた深度効果を画像データの前記表現に適用する前記要求を受信することは、
    前記1つ以上の入力デバイスを介して画像歪みパラメータの値を選択する1つ以上の入力を検出することを含み、画像データの前記表現を歪ませることは、画像歪みパラメータの値を選択する1つ以上のユーザ入力に基づく、請求項1から5のいずれか一項に記載の方法。
  7. 前記画像歪みパラメータに対して異なる値を選択することにより、前記画像データの前記表現の前記第1の部分への第1の変化を生じさせ、前記画像データの前記表現の前記第2の部分に第2の変化を生じさせ、前記第1の変化は前記第2の変化と異なり、前記第1の変化及び前記第2の変化はいずれも同じタイプの変化を含む、請求項6に記載の方法。
  8. 前記第1の方式で前記第1の部分を歪ませることは、前記第1の部分を第1の大きさでぼかすことを含み、
    前記第2の方式で前記第2の部分を歪ませることは、前記第2の部分を第2の大きさでぼかすことを含み、
    前記既定部分からの前記第1の部分の距離は前記既定部分からの前記第2の部分の距離よりも大きいとの判定に従って、前記第1の大きさは前記第2の大きさよりも大きく、
    前記既定部分から前記第2の部分の距離が前記既定部分から前記第1の部分の距離よりも大きいとの判定に従って、前記第2の大きさは前記第1の大きさよりも大きい、
    請求項1から7のいずれか一項に記載の方法。
  9. 前記シミュレートされた深度効果を画像データの前記表現に適用する前記要求を受信する前に、画像データの前記表現を前記ディスプレイ上に表示することと、
    画像データの前記表現を表示している間に、前記画像データを使用して、画像データの前記表現内の前記被写体の存在を検出することと、
    を更に含む、請求項1から8のいずれか一項に記載の方法。
  10. 前記シミュレートされた深度効果を有する画像データの前記表現を前記ディスプレイ上に表示することは、
    前記被写体に対応する画像データの前記表現の一部分を歪ませることなく、前記画像の前記第1の部分及び前記画像の前記第2の部分を歪ませること、
    を更に含む、請求項1から9のいずれか一項に記載の方法。
  11. 画像データの前記表現の前記第1の部分を歪ませることは、前記第1の部分が前記被写体に対応しないとの判定に従って、前記第1の部分を歪ませることを含み、
    画像データの前記表現の前記第2の部分を歪ませることは、前記第2の部分が前記被写体に対応しないとの判定に従って、前記第2の部分を歪ませることを含む、
    請求項1から10のいずれか一項に記載の方法。
  12. 前記シミュレートされた深度効果を画像データの前記表現に適用する前記要求を受信したことに応じて、前記画像データに基づいて、発光オブジェクトに関連付けられた画像データの前記表現内の1つ以上のオブジェクトを識別すること、
    を更に含む、請求項1から11のいずれか一項に記載の方法。
  13. 前記第3の方式で、発光オブジェクトに関連付けられた画像データの前記表現内のオブジェクトの前記外観を変更することは、
    発光オブジェクトに関連付けられていない画像データの前記表現の他の部分とは異なり、発光オブジェクトに関連付けられた画像データの前記表現の前記1つ以上の部分の輝度を増大させることと、
    発光オブジェクトに関連付けられていない画像データの前記表現の他の部分とは異なり、発光オブジェクトに関連付けられた画像データの前記表現の前記1つ以上の部分の彩度を増大させることと、
    発光オブジェクトに関連付けられていない画像データの前記表現の他の部分とは異なり、発光オブジェクトに関連付けられた画像データの前記表現の前記1つ以上の部分のサイズを増大させることと、
    のうち1つ以上を含む、請求項12に記載の方法。
  14. 前記1つ以上の入力デバイスを介して、画像歪みパラメータの値を変化させる1つ以上の入力を検出することであって、画像データの前記表現を歪ませることは、画像歪みパラメータの値を選択する1つ以上のユーザ入力に基づくようにすることと、
    前記画像歪みパラメータの前記値を変更する前記1つ以上の入力を検出したことに応じて、発光オブジェクトに関連付けられていない画像データの前記表現の他の部分とは異なり、発光オブジェクトに関連付けられた画像データの前記表現の1つ以上の部分の前記外観の変化の大きさを変更することと、
    を含む、請求項12に記載の方法。
  15. 請求項1から14のいずれか一項に記載の方法をコンピュータに実行させるコンピュータプログラム。
  16. 電子デバイスであって、
    請求項15に記載のコンピュータプログラムを格納したメモリと、
    前記メモリに格納された前記コンピュータプログラムを実行可能な1以上のプロセッサと
    を備え、
    前記電子デバイスは、ディスプレイと、1以上の入力デバイスと通信している、電子デバイス。
  17. 電子デバイスであって、
    ディスプレイと、
    1以上の入力デバイスと、
    請求項1から14のいずれか一項に記載の方法を実行する手段と
    を備える、電子デバイス。
JP2022095182A 2018-09-11 2022-06-13 シミュレートされた深度効果のためのユーザインタフェース Active JP7450664B2 (ja)

Applications Claiming Priority (8)

Application Number Priority Date Filing Date Title
US201862729926P 2018-09-11 2018-09-11
US62/729,926 2018-09-11
DKPA201870623A DK201870623A1 (en) 2018-09-11 2018-09-24 USER INTERFACES FOR SIMULATED DEPTH EFFECTS
DKPA201870623 2018-09-24
US16/144,629 US11468625B2 (en) 2018-09-11 2018-09-27 User interfaces for simulated depth effects
US16/144,629 2018-09-27
JP2021510849A JP7090210B2 (ja) 2018-09-11 2019-08-30 シミュレートされた深度効果のためのユーザインタフェース
PCT/US2019/049101 WO2020055613A1 (en) 2018-09-11 2019-08-30 User interfaces for simulated depth effects

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2021510849A Division JP7090210B2 (ja) 2018-09-11 2019-08-30 シミュレートされた深度効果のためのユーザインタフェース

Publications (2)

Publication Number Publication Date
JP2022133303A JP2022133303A (ja) 2022-09-13
JP7450664B2 true JP7450664B2 (ja) 2024-03-15

Family

ID=69719917

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021510849A Active JP7090210B2 (ja) 2018-09-11 2019-08-30 シミュレートされた深度効果のためのユーザインタフェース
JP2022095182A Active JP7450664B2 (ja) 2018-09-11 2022-06-13 シミュレートされた深度効果のためのユーザインタフェース

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2021510849A Active JP7090210B2 (ja) 2018-09-11 2019-08-30 シミュレートされた深度効果のためのユーザインタフェース

Country Status (7)

Country Link
US (2) US11468625B2 (ja)
EP (1) EP3827334A1 (ja)
JP (2) JP7090210B2 (ja)
KR (2) KR102534596B1 (ja)
CN (2) CN112860173A (ja)
AU (2) AU2019338180B2 (ja)
DK (1) DK201870623A1 (ja)

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3958557A1 (en) 2015-04-23 2022-02-23 Apple Inc. Digital viewfinder user interface for multiple cameras
US9912860B2 (en) 2016-06-12 2018-03-06 Apple Inc. User interface for camera effects
DK180859B1 (en) 2017-06-04 2022-05-23 Apple Inc USER INTERFACE CAMERA EFFECTS
US11112964B2 (en) 2018-02-09 2021-09-07 Apple Inc. Media capture lock affordance for graphical user interface
US11722764B2 (en) 2018-05-07 2023-08-08 Apple Inc. Creative camera
US10375313B1 (en) 2018-05-07 2019-08-06 Apple Inc. Creative camera
US10645294B1 (en) 2019-05-06 2020-05-05 Apple Inc. User interfaces for capturing and managing visual media
US11770601B2 (en) 2019-05-06 2023-09-26 Apple Inc. User interfaces for capturing and managing visual media
JP7142315B2 (ja) * 2018-09-27 2022-09-27 パナソニックIpマネジメント株式会社 説明支援装置および説明支援方法
US11321857B2 (en) * 2018-09-28 2022-05-03 Apple Inc. Displaying and editing images with depth information
US11128792B2 (en) 2018-09-28 2021-09-21 Apple Inc. Capturing and displaying images with multiple focal planes
CN114710574A (zh) * 2019-01-11 2022-07-05 华为技术有限公司 显示方法及相关装置
US11706521B2 (en) 2019-05-06 2023-07-18 Apple Inc. User interfaces for capturing and managing visual media
USD940744S1 (en) * 2019-09-18 2022-01-11 Beijing Xiaomi Mobile Software Co., Ltd. Telephone display screen or portion thereof with animated graphical user interface
CN112784621A (zh) * 2019-10-22 2021-05-11 华为技术有限公司 图像显示方法及设备
US11368626B2 (en) * 2020-02-06 2022-06-21 Canon Kabushiki Kaisha Display control apparatus that controls display of information relating to bokeh and method for controlling the same
US11054973B1 (en) 2020-06-01 2021-07-06 Apple Inc. User interfaces for managing media
CN111757135B (zh) * 2020-06-24 2022-08-23 北京字节跳动网络技术有限公司 直播互动方法、装置、可读介质及电子设备
US11212449B1 (en) 2020-09-25 2021-12-28 Apple Inc. User interfaces for media capture and management
USD977495S1 (en) * 2020-12-04 2023-02-07 Toyota Motor North America, Inc. Display screen or portion thereof with graphical user interface
US11893668B2 (en) 2021-03-31 2024-02-06 Leica Camera Ag Imaging system and method for generating a final digital image via applying a profile to image information
US11778339B2 (en) 2021-04-30 2023-10-03 Apple Inc. User interfaces for altering visual media
US11539876B2 (en) 2021-04-30 2022-12-27 Apple Inc. User interfaces for altering visual media
USD987656S1 (en) * 2021-06-04 2023-05-30 Apple Inc. Display screen or portion thereof with graphical user interface
CN113709366B (zh) * 2021-08-24 2022-11-22 联想(北京)有限公司 一种信息处理方法及装置
US20230132156A1 (en) * 2021-10-26 2023-04-27 Qualcomm Incorporated Calibration of a camera according to a characteristic of a physical environment

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016039613A (ja) 2014-08-11 2016-03-22 キヤノン株式会社 画像処理装置及びその制御方法、プログラム、記憶媒体
WO2017218193A1 (en) 2016-06-12 2017-12-21 Apple Inc. User interface for camera effects

Family Cites Families (702)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS58190931A (ja) 1982-04-30 1983-11-08 Olympus Optical Co Ltd オ−トストロボの露光適否表示装置
JPH0812318B2 (ja) 1988-02-19 1996-02-07 富士写真光機株式会社 カメラの夜景撮影装置
SU1610470A1 (ru) 1988-12-05 1990-11-30 Предприятие П/Я Г-4046 Устройство дл контрол работы видоискател - дальномера фотоаппарата
JPH02179078A (ja) 1988-12-28 1990-07-12 Olympus Optical Co Ltd 電子カメラ
US5557358A (en) 1991-10-11 1996-09-17 Minolta Camera Kabushiki Kaisha Camera having an electronic viewfinder for displaying an object image under different photographic conditions
US5463443A (en) 1992-03-06 1995-10-31 Nikon Corporation Camera for preventing camera shake
JP2813728B2 (ja) 1993-11-01 1998-10-22 インターナショナル・ビジネス・マシーンズ・コーポレイション ズーム/パン機能付パーソナル通信機
US5825353A (en) 1995-04-18 1998-10-20 Will; Craig Alexander Control of miniature personal digital assistant using menu and thumbwheel
US6891563B2 (en) 1996-05-22 2005-05-10 Donnelly Corporation Vehicular vision system
JP3631838B2 (ja) 1996-02-21 2005-03-23 チノン株式会社 外部記憶装置およびカメラシステム
US6621524B1 (en) 1997-01-10 2003-09-16 Casio Computer Co., Ltd. Image pickup apparatus and method for processing images obtained by means of same
US6262769B1 (en) 1997-07-31 2001-07-17 Flashpoint Technology, Inc. Method and system for auto rotating a graphical user interface for managing portrait and landscape images in an image capture unit
US6535243B1 (en) 1998-01-06 2003-03-18 Hewlett- Packard Company Wireless hand-held digital camera
US8479122B2 (en) 2004-07-30 2013-07-02 Apple Inc. Gestures for touch sensitive input devices
US6148113A (en) 1998-02-03 2000-11-14 Micrografx, Inc. System for stimulating the depth of field of an image in two dimensional space and method of operation
JPH11355617A (ja) 1998-06-05 1999-12-24 Fuji Photo Film Co Ltd 画像表示器付きカメラ
US6268864B1 (en) 1998-06-11 2001-07-31 Presenter.Com, Inc. Linking a video and an animation
US6278466B1 (en) 1998-06-11 2001-08-21 Presenter.Com, Inc. Creating animation from a video
JP2000207549A (ja) 1999-01-11 2000-07-28 Olympus Optical Co Ltd 画像処理装置
JP2000244905A (ja) 1999-02-22 2000-09-08 Nippon Telegr & Teleph Corp <Ntt> 映像観察システム
US6359837B1 (en) 1999-06-30 2002-03-19 Casio Computer Co., Ltd. Camera, camera system, information recording system, timepiece, and link system for camera and timepiece
US20060033831A1 (en) 1999-09-14 2006-02-16 Nikon Corporation Electronic still camera
US6677981B1 (en) 1999-12-31 2004-01-13 Stmicroelectronics, Inc. Motion play-back of still pictures comprising a panoramic view for simulating perspective
US6809724B1 (en) 2000-01-18 2004-10-26 Seiko Epson Corporation Display apparatus and portable information processing apparatus
US6522347B1 (en) 2000-01-18 2003-02-18 Seiko Epson Corporation Display apparatus, portable information processing apparatus, information recording medium, and electronic apparatus
JP3752951B2 (ja) 2000-03-01 2006-03-08 カシオ計算機株式会社 撮像装置および輝度分布表示方法
US6809759B1 (en) 2000-06-19 2004-10-26 Benq Corporation Remote control unit with previewing device for an image-capturing device
US6900840B1 (en) 2000-09-14 2005-05-31 Hewlett-Packard Development Company, L.P. Digital camera and method of using same to view image in live view mode
JP4608766B2 (ja) 2000-11-27 2011-01-12 ソニー株式会社 固体撮像素子の駆動方法、及びカメラ
JP2002175538A (ja) 2000-12-08 2002-06-21 Mitsubishi Electric Corp 似顔絵生成装置及び似顔絵生成方法及び似顔絵生成プログラムを記録した記録媒体及び通信用端末及び通信用端末による通信方法
US6965394B2 (en) 2001-03-30 2005-11-15 Koninklijke Philips Electronics N.V. Remote camera control device
JP3780178B2 (ja) 2001-05-09 2006-05-31 ファナック株式会社 視覚センサ
US6819867B2 (en) 2001-05-30 2004-11-16 Panavision, Inc. Hand-held remote control and display system for film and video cameras and lenses
JP2003018438A (ja) 2001-07-05 2003-01-17 Fuji Photo Film Co Ltd 画像撮像装置
US6930718B2 (en) 2001-07-17 2005-08-16 Eastman Kodak Company Revised recapture camera and method
US6539177B2 (en) 2001-07-17 2003-03-25 Eastman Kodak Company Warning message camera and method
DE10152008B4 (de) 2001-10-22 2011-12-08 Zf Sachs Ag Hydraulische Kupplung mit einem Turbinentorsionsschwingungsdämpfer
JP3788942B2 (ja) * 2002-02-22 2006-06-21 株式会社東芝 情報処理装置およびコンピュータの操作支援方法
JP4006347B2 (ja) 2002-03-15 2007-11-14 キヤノン株式会社 画像処理装置、画像処理システム、画像処理方法、記憶媒体、及びプログラム
US7271838B2 (en) 2002-05-08 2007-09-18 Olympus Corporation Image pickup apparatus with brightness distribution chart display capability
JP2004015595A (ja) 2002-06-10 2004-01-15 Minolta Co Ltd デジタルカメラ
US7035462B2 (en) 2002-08-29 2006-04-25 Eastman Kodak Company Apparatus and method for processing digital images having eye color defects
JP2004128584A (ja) 2002-09-30 2004-04-22 Minolta Co Ltd 撮像装置
JP2004135074A (ja) 2002-10-10 2004-04-30 Calsonic Kansei Corp 撮像装置
KR100826243B1 (ko) 2002-11-20 2008-04-29 삼성전자주식회사 화각 조정이 가능한 촬영장치 및 그의 제어방법
US7039222B2 (en) 2003-02-28 2006-05-02 Eastman Kodak Company Method and system for enhancing portrait images that are processed in a batch mode
US7619686B2 (en) 2003-03-24 2009-11-17 Kantan Inc. Apparatus for a combination camcorder-handset device
US9692964B2 (en) 2003-06-26 2017-06-27 Fotonation Limited Modification of post-viewing parameters for digital images using image region or feature information
JP2005031466A (ja) 2003-07-07 2005-02-03 Fujinon Corp 撮像装置および撮像方法
JP3926316B2 (ja) 2003-10-31 2007-06-06 松下電器産業株式会社 撮像装置
US7738731B2 (en) 2003-11-11 2010-06-15 Seiko Epson Corporation Image processing device, image processing method, program thereof, and recording medium
US20050134695A1 (en) 2003-12-17 2005-06-23 Deshpande Sachin G. Systems and methods for providing remote camera control
JP4342926B2 (ja) 2003-12-24 2009-10-14 三菱電機株式会社 画像入力方法および画像入力装置
JP4387183B2 (ja) 2003-12-26 2009-12-16 京セラ株式会社 デジタルカメラ
JP2005269604A (ja) 2004-02-20 2005-09-29 Fuji Photo Film Co Ltd 撮像装置、撮像方法、及び撮像プログラム
TWI246847B (en) 2004-03-16 2006-01-01 Benq Corp Method and apparatus for improving quality of a scanned image through a preview operation
JP4446787B2 (ja) 2004-04-21 2010-04-07 富士フイルム株式会社 撮像装置、および表示制御方法
JP2005311789A (ja) 2004-04-22 2005-11-04 Fuji Photo Film Co Ltd デジタルカメラ
US7555717B2 (en) 2004-04-30 2009-06-30 Samsung Electronics Co., Ltd. Method for displaying screen image on mobile terminal
US7463304B2 (en) 2004-05-06 2008-12-09 Sony Ericsson Mobile Communications Ab Remote control accessory for a camera-equipped wireless communications device
US8045009B2 (en) 2004-05-10 2011-10-25 Hewlett-Packard Development Company, L.P. Image-exposure systems and methods using detecting motion of a camera to terminate exposure
US20050270397A1 (en) 2004-06-02 2005-12-08 Battles Amy E System and method for indicating settings
KR100595665B1 (ko) 2004-06-03 2006-07-03 엘지전자 주식회사 카메라폰의 원격 제어 시스템 및 방법
JP4707368B2 (ja) 2004-06-25 2011-06-22 雅貴 ▲吉▼良 立体視画像作成方法および装置
US20060132482A1 (en) 2004-11-12 2006-06-22 Oh Byong M Method for inter-scene transitions
US8537224B2 (en) 2005-01-31 2013-09-17 Hewlett-Packard Development Company, L.P. Image capture device having a shake metter
WO2006082883A1 (ja) 2005-02-03 2006-08-10 Nikon Corporation 表示装置、電子機器およびカメラ
US7206136B2 (en) 2005-02-18 2007-04-17 Eastman Kodak Company Digital camera using multiple lenses and image sensors to provide an extended zoom range
US20060187322A1 (en) 2005-02-18 2006-08-24 Janson Wilbert F Jr Digital camera using multiple fixed focal length lenses and multiple image sensors to provide an extended zoom range
WO2006094199A2 (en) 2005-03-03 2006-09-08 Pixar Hybrid hardware-accelerated relighting system for computer cinematography
JP2006277497A (ja) 2005-03-30 2006-10-12 Toshiba Corp 表示制御方法および情報処理装置
KR100740189B1 (ko) 2005-05-13 2007-07-16 노키아 코포레이션 그래픽 사용자 인터페이스를 지닌 장치
JP2006345172A (ja) 2005-06-08 2006-12-21 Olympus Imaging Corp ファインダ装置及びカメラ
WO2007007758A1 (ja) 2005-07-11 2007-01-18 Nikon Corporation 電子カメラ
JP2007028211A (ja) 2005-07-15 2007-02-01 Canon Inc 撮像装置及びその制御方法
US7379664B2 (en) 2005-07-26 2008-05-27 Tinkers & Chance Remote view and controller for a camera
CA2553473A1 (en) 2005-07-26 2007-01-26 Wa James Tam Generating a depth map from a tw0-dimensional source image for stereoscopic and multiview imaging
US7424218B2 (en) 2005-07-28 2008-09-09 Microsoft Corporation Real-time preview for panoramic images
JP2007043248A (ja) 2005-07-29 2007-02-15 Eastman Kodak Co 撮像装置
US7460730B2 (en) 2005-08-04 2008-12-02 Microsoft Corporation Video registration and image sequence stitching
US20070040810A1 (en) 2005-08-18 2007-02-22 Eastman Kodak Company Touch controlled display device
WO2007031808A1 (en) 2005-09-14 2007-03-22 Nokia Corporation System and method for implementing motion-driven multi-shot image stabilization
US20070228259A1 (en) 2005-10-20 2007-10-04 Hohenberger Roger T System and method for fusing an image
JP4665718B2 (ja) 2005-10-28 2011-04-06 株式会社ニコン 撮影装置
US20070097088A1 (en) 2005-10-31 2007-05-03 Battles Amy E Imaging device scrolling touch pad with tap points
JP4793179B2 (ja) 2005-11-14 2011-10-12 オムロン株式会社 認証装置及び携帯端末
US20070109417A1 (en) 2005-11-16 2007-05-17 Per Hyttfors Methods, devices and computer program products for remote control of an image capturing device
US20100066890A1 (en) 2005-12-06 2010-03-18 Panasonic Corporation Digital camera
US8223242B2 (en) 2005-12-06 2012-07-17 Panasonic Corporation Digital camera which switches the displays of images with respect to a plurality of display portions
CN103647895B (zh) 2005-12-06 2017-09-26 松下电器产业株式会社 相机机身、相机系统及相机机身的控制方法
US20100066895A1 (en) 2005-12-06 2010-03-18 Panasonic Corporation Digital camera
JP4956988B2 (ja) 2005-12-19 2012-06-20 カシオ計算機株式会社 撮像装置
JP2007180730A (ja) 2005-12-27 2007-07-12 Eastman Kodak Co デジタルカメラおよびデータ管理方法
JP2007189503A (ja) 2006-01-13 2007-07-26 Matsushita Electric Ind Co Ltd 端末装置及びプログラム
JP5083855B2 (ja) 2006-01-30 2012-11-28 ソニー株式会社 撮影装置
US7792355B2 (en) 2006-03-30 2010-09-07 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and image capturing apparatus
US20070248330A1 (en) 2006-04-06 2007-10-25 Pillman Bruce H Varying camera self-determination based on subject motion
CN101401109B (zh) 2006-04-20 2013-01-02 思科技术公司 显示在多个位置之间的可视会议中的用户的系统和方法
US20070254640A1 (en) 2006-04-27 2007-11-01 Bliss Stephen J Remote control and viewfinder for mobile camera phone
JP5007523B2 (ja) 2006-05-02 2012-08-22 カシオ計算機株式会社 撮像装置及びそのプログラム
US8189100B2 (en) 2006-07-25 2012-05-29 Qualcomm Incorporated Mobile device with dual digital camera sensors and methods of using the same
US20080030592A1 (en) 2006-08-01 2008-02-07 Eastman Kodak Company Producing digital image with different resolution portions
CA2661250C (en) 2006-09-01 2017-06-27 Research In Motion Limited Method and apparatus for controlling a display in an electronic device
JP2008096584A (ja) 2006-10-10 2008-04-24 Nikon Corp カメラ
WO2008047664A1 (fr) 2006-10-19 2008-04-24 Panasonic Corporation Dispositif de création d'image et procédé de création d'image
JP2008116823A (ja) 2006-11-07 2008-05-22 Nikon Corp カメラ
EP2123038A2 (en) 2006-12-04 2009-11-25 Lynx System Developers, Inc. Autonomous systems and methods for still and moving picture production
KR100835956B1 (ko) 2006-12-04 2008-06-09 삼성전자주식회사 이동통신 단말기의 이미지 처리 방법
US20080143840A1 (en) 2006-12-19 2008-06-19 Texas Instruments Incorporated Image Stabilization System and Method for a Digital Camera
EP2207124A3 (en) 2007-01-26 2010-11-17 Research In Motion Limited Touch entry of password on a mobile device
KR100785071B1 (ko) 2007-02-08 2007-12-12 삼성전자주식회사 터치스크린을 갖는 휴대 단말기에서 터치 입력에 대한 정보표시 방법
JP4869981B2 (ja) 2007-02-28 2012-02-08 オリンパス株式会社 撮像システム及び撮像機器の認証方法
KR101406289B1 (ko) 2007-03-08 2014-06-12 삼성전자주식회사 스크롤 기반 아이템 제공 장치 및 방법
US7859588B2 (en) 2007-03-09 2010-12-28 Eastman Kodak Company Method and apparatus for operating a dual lens camera to augment an image
JP4760742B2 (ja) 2007-03-22 2011-08-31 カシオ計算機株式会社 デジタルカメラ、及び情報表示方法、情報表示制御プログラム
US9544563B1 (en) 2007-03-23 2017-01-10 Proximex Corporation Multi-video navigation system
EP2326079B1 (en) 2007-04-02 2015-07-15 BlackBerry Limited Camera with multiple viewfinders
US8154578B2 (en) 2007-05-31 2012-04-10 Eastman Kodak Company Multi-camera residential communication system
US8253770B2 (en) 2007-05-31 2012-08-28 Eastman Kodak Company Residential video communication system
JP4954800B2 (ja) 2007-06-06 2012-06-20 オリンパス株式会社 顕微鏡撮像システム
US8185839B2 (en) 2007-06-09 2012-05-22 Apple Inc. Browsing or searching user interfaces and other aspects
KR101373333B1 (ko) 2007-07-11 2014-03-10 엘지전자 주식회사 터치인식을 통한 영상촬영 기능을 구비한 휴대 단말기 및그 촬영방법
US8068693B2 (en) 2007-07-18 2011-11-29 Samsung Electronics Co., Ltd. Method for constructing a composite image
US8717412B2 (en) 2007-07-18 2014-05-06 Samsung Electronics Co., Ltd. Panoramic image production
JP2009027298A (ja) 2007-07-18 2009-02-05 Ricoh Co Ltd 撮像装置および撮像装置の制御方法
JP5039786B2 (ja) 2007-07-23 2012-10-03 パナソニック株式会社 撮像装置
JP2009033469A (ja) 2007-07-26 2009-02-12 Olympus Imaging Corp 撮像装置
JP4845832B2 (ja) 2007-08-07 2011-12-28 キヤノン株式会社 撮像装置および制御方法
US20090046097A1 (en) 2007-08-09 2009-02-19 Scott Barrett Franklin Method of making animated video
KR101341095B1 (ko) 2007-08-23 2013-12-13 삼성전기주식회사 야경 환경에서 최적의 화질을 갖는 영상 획득 장치 및 방법
JP4930297B2 (ja) 2007-09-10 2012-05-16 株式会社ニコン 撮像装置
JP4466702B2 (ja) 2007-09-12 2010-05-26 カシオ計算機株式会社 撮像装置、及び撮像制御プログラム
JP4930302B2 (ja) 2007-09-14 2012-05-16 ソニー株式会社 撮像装置、その制御方法およびプログラム
US20090102933A1 (en) 2007-09-24 2009-04-23 Global Device Management Target Acquisition System
JP4989730B2 (ja) 2007-10-15 2012-08-01 パナソニック株式会社 カメラ本体および撮像装置
US8395661B1 (en) 2009-02-16 2013-03-12 Seektech, Inc. Pipe inspection system with selective image capture
JP2009111844A (ja) 2007-10-31 2009-05-21 Fujifilm Corp 撮影装置
US7391442B1 (en) 2007-11-01 2008-06-24 International Business Machines Corporation Digital camera including a distortion correction system
US8892999B2 (en) 2007-11-30 2014-11-18 Nike, Inc. Interactive avatar for social network services
US8179363B2 (en) 2007-12-26 2012-05-15 Sharp Laboratories Of America, Inc. Methods and systems for display source light management with histogram manipulation
US8207932B2 (en) 2007-12-26 2012-06-26 Sharp Laboratories Of America, Inc. Methods and systems for display source light illumination level selection
KR101411910B1 (ko) 2008-01-04 2014-06-26 삼성전자주식회사 디지털 촬영 장치 및 이의 제어 방법
US20130085935A1 (en) 2008-01-18 2013-04-04 Mitek Systems Systems and methods for mobile image capture and remittance processing
JP5036599B2 (ja) 2008-03-05 2012-09-26 株式会社リコー 撮像装置
JP4931845B2 (ja) 2008-03-18 2012-05-16 富士フイルム株式会社 撮像装置及び撮影画像表示制御方法
JP4483962B2 (ja) 2008-03-25 2010-06-16 ソニー株式会社 撮像装置、撮像方法
US20090251484A1 (en) 2008-04-03 2009-10-08 Motorola, Inc. Avatar for a portable device
JP4544332B2 (ja) 2008-04-07 2010-09-15 ソニー株式会社 画像処理装置、画像処理方法、プログラム
JP4980982B2 (ja) 2008-05-09 2012-07-18 富士フイルム株式会社 撮像装置、撮像方法、合焦制御方法及びプログラム
JP5451593B2 (ja) 2008-06-09 2014-03-26 パナソニック株式会社 撮像装置、撮像方法
US8035728B2 (en) 2008-06-27 2011-10-11 Aptina Imaging Corporation Method and apparatus providing rule-based auto exposure technique preserving scene dynamic range
US8237807B2 (en) 2008-07-24 2012-08-07 Apple Inc. Image capturing device with touch screen for adjusting camera settings
JP5153512B2 (ja) 2008-08-08 2013-02-27 キヤノン株式会社 表示処理装置、表示処理方法、プログラム及び記憶媒体
CN101651775B (zh) 2008-08-14 2011-08-24 鸿富锦精密工业(深圳)有限公司 影像撷取装置及其曝光方法
JP5389576B2 (ja) 2008-09-10 2014-01-15 パナソニック株式会社 撮像装置
US9250797B2 (en) 2008-09-30 2016-02-02 Verizon Patent And Licensing Inc. Touch gesture interface apparatuses, systems, and methods
KR101555055B1 (ko) 2008-10-10 2015-09-22 엘지전자 주식회사 이동단말기 및 그 디스플레이방법
US20100097322A1 (en) 2008-10-16 2010-04-22 Motorola, Inc. Apparatus and method for switching touch screen operation
US8624836B1 (en) 2008-10-24 2014-01-07 Google Inc. Gesture-based small device input
KR101450580B1 (ko) 2008-11-19 2014-10-14 삼성전자주식회사 이미지 합성 방법 및 장치
US8493408B2 (en) 2008-11-19 2013-07-23 Apple Inc. Techniques for manipulating panoramas
US20100153847A1 (en) 2008-12-17 2010-06-17 Sony Computer Entertainment America Inc. User deformation of movie character images
US8453057B2 (en) 2008-12-22 2013-05-28 Verizon Patent And Licensing Inc. Stage interaction for mobile device
KR20100078295A (ko) 2008-12-30 2010-07-08 삼성전자주식회사 이종의 터치영역을 이용한 휴대단말의 동작 제어 방법 및 장치
JP2010160581A (ja) 2009-01-06 2010-07-22 Olympus Imaging Corp ユーザインタフェース装置、カメラ、ユーザインタフェース方法およびユーザインタフェース用プログラム
JP2010176170A (ja) 2009-01-27 2010-08-12 Sony Ericsson Mobilecommunications Japan Inc 表示装置、表示制御方法および表示制御プログラム
US8295546B2 (en) 2009-01-30 2012-10-23 Microsoft Corporation Pose tracking pipeline
WO2010095075A1 (en) 2009-02-20 2010-08-26 Koninklijke Philips Electronics N.V. System, method and apparatus for causing a device to enter an active mode
US8532346B2 (en) 2009-03-11 2013-09-10 Sony Corporation Device, method and computer program product
JP5259464B2 (ja) 2009-03-13 2013-08-07 オリンパスイメージング株式会社 撮像装置およびそのモード切換え方法
US20100231735A1 (en) 2009-03-13 2010-09-16 Nokia Corporation Methods, Apparatuses, and Computer Program Products for Facilitating Concurrent Video Recording and Still Image Capture
CN105681633B (zh) 2009-03-19 2019-01-18 数字光学公司 双传感器照相机及其方法
US9113124B2 (en) 2009-04-13 2015-08-18 Linkedin Corporation Method and system for still image capture from video footage
US20100277470A1 (en) 2009-05-01 2010-11-04 Microsoft Corporation Systems And Methods For Applying Model Tracking To Motion Capture
US9377857B2 (en) 2009-05-01 2016-06-28 Microsoft Technology Licensing, Llc Show body position
US9144714B2 (en) 2009-05-02 2015-09-29 Steven J. Hollinger Ball with camera for reconnaissance or recreation and network for operating the same
JP5775659B2 (ja) 2009-05-07 2015-09-09 オリンパス株式会社 撮像装置および撮像装置におけるモード切換え方法
US8669945B2 (en) 2009-05-07 2014-03-11 Microsoft Corporation Changing of list views on mobile device
JP5478935B2 (ja) 2009-05-12 2014-04-23 キヤノン株式会社 撮像装置
KR101857564B1 (ko) 2009-05-15 2018-05-15 삼성전자 주식회사 휴대 단말기의 이미지 처리 방법
US20100289910A1 (en) 2009-05-15 2010-11-18 Moran Research And Consulting, Inc. Method and apparatus for remote camera control
JP5326802B2 (ja) 2009-05-19 2013-10-30 ソニー株式会社 情報処理装置、画像拡大縮小方法及びそのプログラム
US8340654B2 (en) 2009-05-26 2012-12-25 Lextech Labs Llc Apparatus and method for video display and control for portable device
US8610741B2 (en) 2009-06-02 2013-12-17 Microsoft Corporation Rendering aligned perspective images
US8289400B2 (en) 2009-06-05 2012-10-16 Apple Inc. Image capturing device having continuous image capture
KR101598335B1 (ko) 2009-06-11 2016-02-29 엘지전자 주식회사 휴대 단말기 및 그 동작방법
JP5552769B2 (ja) 2009-07-29 2014-07-16 ソニー株式会社 画像編集装置、画像編集方法及びプログラム
JP5404221B2 (ja) 2009-07-13 2014-01-29 キヤノン株式会社 撮像装置
US8723988B2 (en) 2009-07-17 2014-05-13 Sony Corporation Using a touch sensitive display to control magnification and capture of digital images by an electronic device
JP2011045039A (ja) 2009-07-21 2011-03-03 Fujifilm Corp 複眼撮像装置
JP2011028345A (ja) 2009-07-22 2011-02-10 Olympus Imaging Corp 条件変更装置、カメラ、携帯機器、およびプログラム
US8390583B2 (en) 2009-08-31 2013-03-05 Qualcomm Incorporated Pressure sensitive user interface for mobile devices
US8675084B2 (en) 2009-09-04 2014-03-18 Apple Inc. Systems and methods for remote camera control
EP3855297A3 (en) 2009-09-22 2021-10-27 Apple Inc. Device method and graphical user interface for manipulating user interface objects
US20110074830A1 (en) 2009-09-25 2011-03-31 Peter William Rapp Device, Method, and Graphical User Interface Using Mid-Drag Gestures
US8766928B2 (en) 2009-09-25 2014-07-01 Apple Inc. Device, method, and graphical user interface for manipulating user interface objects
NO332170B1 (no) 2009-10-14 2012-07-16 Cisco Systems Int Sarl Anordning og fremgangsmate for kamerakontroll
JP5396231B2 (ja) 2009-10-21 2014-01-22 オリンパスイメージング株式会社 撮像装置
US8957918B2 (en) 2009-11-03 2015-02-17 Qualcomm Incorporated Methods for implementing multi-touch gestures on a single-touch touch surface
KR101725888B1 (ko) 2009-11-13 2017-04-13 삼성전자주식회사 카메라 또는 원격 제어 장치에서의 이미지 제공 방법 및 그 장치
JP5343829B2 (ja) 2009-12-03 2013-11-13 株式会社リコー 情報処理装置及び情報処理装置の制御方法
JP5532214B2 (ja) 2009-12-11 2014-06-25 日本電気株式会社 カメラ付き携帯電話機
CN101860668A (zh) 2010-01-15 2010-10-13 英华达(上海)科技有限公司 数码相机及其操作方法
US8638371B2 (en) 2010-02-12 2014-01-28 Honeywell International Inc. Method of manipulating assets shown on a touch-sensitive display
US20110221755A1 (en) 2010-03-12 2011-09-15 Kevin Geisner Bionic motion
JP5306266B2 (ja) 2010-03-15 2013-10-02 キヤノン株式会社 撮像装置及びその制御方法
JP4783465B1 (ja) 2010-03-26 2011-09-28 富士フイルム株式会社 撮像装置及び表示装置
JP4787906B1 (ja) 2010-03-30 2011-10-05 富士フイルム株式会社 撮像装置、方法およびプログラム
JP5719608B2 (ja) 2010-04-02 2015-05-20 オリンパスイメージング株式会社 撮影機器
FR2958487A1 (fr) 2010-04-06 2011-10-07 Alcatel Lucent Une methode de detourage en temps reel d'une entite reelle enregistree dans une sequence video
US8941706B2 (en) 2010-04-07 2015-01-27 Apple Inc. Image processing for a dual camera mobile device
US8405680B1 (en) 2010-04-19 2013-03-26 YDreams S.A., A Public Limited Liability Company Various methods and apparatuses for achieving augmented reality
US9245177B2 (en) 2010-06-02 2016-01-26 Microsoft Technology Licensing, Llc Limiting avatar gesture display
US8749557B2 (en) 2010-06-11 2014-06-10 Microsoft Corporation Interacting with user interface via avatar
KR101666919B1 (ko) 2010-08-13 2016-10-24 엘지전자 주식회사 전자 기기 및 전자 기기의 제어 방법
JP5423893B2 (ja) 2010-06-28 2014-02-19 株式会社ニコン 撮像装置、画像処理装置、画像処理プログラム記録媒体
US8760537B2 (en) 2010-07-05 2014-06-24 Apple Inc. Capturing and rendering high dynamic range images
JP5464083B2 (ja) 2010-07-07 2014-04-09 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
US8421898B2 (en) 2010-07-27 2013-04-16 Arcsoft (Hangzhou) Multimedia Technology Co., Ltd. Method for detecting and showing quality of a preview or stored picture in an electronic imaging device
US8781152B2 (en) 2010-08-05 2014-07-15 Brian Momeyer Identifying visual media content captured by camera-enabled mobile device
US8593558B2 (en) 2010-09-08 2013-11-26 Apple Inc. Camera-based orientation fix from portrait to landscape
KR101700363B1 (ko) 2010-09-08 2017-01-26 삼성전자주식회사 적절한 밝기를 갖는 입체 영상을 생성하는 디지털 영상 촬영 장치 및 이의 제어 방법
TW201215144A (en) 2010-09-16 2012-04-01 Hon Hai Prec Ind Co Ltd Image correcting system for cameras and correcting method using same
US20120069028A1 (en) 2010-09-20 2012-03-22 Yahoo! Inc. Real-time animations of emoticons using facial recognition during a video chat
US9122053B2 (en) 2010-10-15 2015-09-01 Microsoft Technology Licensing, Llc Realistic occlusion for a head mounted augmented reality display
JP5613005B2 (ja) 2010-10-18 2014-10-22 オリンパスイメージング株式会社 カメラ
JP2013546238A (ja) 2010-10-22 2013-12-26 ユニバーシティ オブ ニュー ブランズウィック カメラ撮像システムおよび方法
US9204026B2 (en) 2010-11-01 2015-12-01 Lg Electronics Inc. Mobile terminal and method of controlling an image photographing therein
KR20120048397A (ko) 2010-11-05 2012-05-15 엘지전자 주식회사 휴대 단말기 및 그 동작 제어방법
US20120120277A1 (en) 2010-11-16 2012-05-17 Apple Inc. Multi-point Touch Focus
JP2012109898A (ja) 2010-11-19 2012-06-07 Aof Imaging Technology Ltd 撮影装置、撮影方法、およびプログラム
JP2012119858A (ja) 2010-11-30 2012-06-21 Aof Imaging Technology Ltd 撮影装置、撮影方法、およびプログラム
JP2012124608A (ja) 2010-12-06 2012-06-28 Olympus Imaging Corp カメラ
JP5652652B2 (ja) 2010-12-27 2015-01-14 ソニー株式会社 表示制御装置および方法
US20120169776A1 (en) 2010-12-29 2012-07-05 Nokia Corporation Method and apparatus for controlling a zoom function
CN102075727A (zh) 2010-12-30 2011-05-25 中兴通讯股份有限公司 一种可视电话中图像处理方法和装置
KR101692401B1 (ko) 2011-01-21 2017-01-03 삼성전자주식회사 영상 처리 방법 및 장치
KR101836381B1 (ko) 2011-01-28 2018-03-08 삼성전자주식회사 터치스크린 단말기에서 화면 디스플레이 제어 방법 및 장치
US8717464B2 (en) 2011-02-09 2014-05-06 Blackberry Limited Increased low light sensitivity for image sensors by combining quantum dot sensitivity to visible and infrared light
US20130093904A1 (en) 2011-02-11 2013-04-18 Cole & Ashcroft Lp Remote Shutter for a Camera or Other Imaging Device
US9058098B2 (en) 2011-02-14 2015-06-16 Sony Corporation Display control device
TWI433534B (zh) 2011-02-15 2014-04-01 Ability Entpr Co Ltd 感光度校正方法及成像裝置
US9288476B2 (en) 2011-02-17 2016-03-15 Legend3D, Inc. System and method for real-time depth modification of stereo images of a virtual reality environment
GB201102794D0 (en) 2011-02-17 2011-03-30 Metail Ltd Online retail system
US8896652B2 (en) 2011-02-28 2014-11-25 Soryn Technologies Llc System and method for real-time video communications
JP5250070B2 (ja) 2011-03-15 2013-07-31 富士フイルム株式会社 画像処理装置および画像処理方法、ならびに、画像処理システム
US20120244969A1 (en) 2011-03-25 2012-09-27 May Patents Ltd. System and Method for a Motion Sensing Device
US8736704B2 (en) 2011-03-25 2014-05-27 Apple Inc. Digital camera for capturing an image sequence
US20120243802A1 (en) 2011-03-25 2012-09-27 William Vernon Fintel Composite image formed from an image sequence
US20120249853A1 (en) 2011-03-28 2012-10-04 Marc Krolczyk Digital camera for reviewing related images
US8736716B2 (en) 2011-04-06 2014-05-27 Apple Inc. Digital camera having variable duration burst mode
JP5762115B2 (ja) 2011-04-28 2015-08-12 キヤノン株式会社 撮像装置及びその制御方法
JP5921080B2 (ja) 2011-04-28 2016-05-24 キヤノン株式会社 撮像装置及びその制御方法
KR101756839B1 (ko) 2011-05-17 2017-07-11 삼성전자주식회사 디지털 촬영 장치 및 이의 제어 방법
CA2837192A1 (en) 2011-05-23 2012-11-29 Blu Homes, Inc. Method, apparatus and system for customizing a building via a virtual environment
US9013489B2 (en) 2011-06-06 2015-04-21 Microsoft Technology Licensing, Llc Generation of avatar reflecting player appearance
US8832284B1 (en) 2011-06-16 2014-09-09 Google Inc. Virtual socializing
US8970653B2 (en) 2011-06-16 2015-03-03 Vtel Products Corporation, Inc. Video conference control system and method
JP5909889B2 (ja) 2011-06-17 2016-04-27 ソニー株式会社 撮像制御装置、及び、撮像制御方法
US9153031B2 (en) 2011-06-22 2015-10-06 Microsoft Technology Licensing, Llc Modifying video regions using mobile device input
JP5855862B2 (ja) 2011-07-07 2016-02-09 オリンパス株式会社 撮像装置、撮像方法およびプログラム
US9729780B2 (en) 2011-07-08 2017-08-08 Visual Retailing Holding B.V. Imaging apparatus and controller for photographing products
US8665212B2 (en) 2011-07-08 2014-03-04 Blackberry Limited Systems and methods for locking an electronic device
US9417754B2 (en) 2011-08-05 2016-08-16 P4tents1, LLC User interface system, method, and computer program product
JP5516532B2 (ja) 2011-08-09 2014-06-11 カシオ計算機株式会社 電子機器、及びプログラム
US20130055119A1 (en) 2011-08-23 2013-02-28 Anh Luong Device, Method, and Graphical User Interface for Variable Speed Navigation
EP2562628A1 (en) 2011-08-26 2013-02-27 Sony Ericsson Mobile Communications AB Image scale alteration arrangement and method
US20130057472A1 (en) 2011-09-07 2013-03-07 Logitech Europe S.A. Method and system for a wireless control device
JP2013070303A (ja) 2011-09-26 2013-04-18 Kddi Corp 画面への押圧で撮影が可能な撮影装置、撮影方法及びプログラム
US9001255B2 (en) 2011-09-30 2015-04-07 Olympus Imaging Corp. Imaging apparatus, imaging method, and computer-readable storage medium for trimming and enlarging a portion of a subject image based on touch panel inputs
US20130088413A1 (en) 2011-10-05 2013-04-11 Google Inc. Method to Autofocus on Near-Eye Display
KR101792641B1 (ko) 2011-10-07 2017-11-02 엘지전자 주식회사 이동 단말기 및 그의 아웃 포커싱 이미지 생성방법
SG10201602840WA (en) 2011-10-10 2016-05-30 Talko Inc Communication system
CN202309894U (zh) 2011-10-11 2012-07-04 东莞市华鸿塑料机械厂 一种具有光学手指导航组件的数码相机
US8830191B2 (en) 2011-10-17 2014-09-09 Facebook, Inc. Soft control user interface with touchpad input device
US9448708B1 (en) 2011-10-19 2016-09-20 Google Inc. Theming for virtual collaboration
JP2013101528A (ja) 2011-11-09 2013-05-23 Sony Corp 情報処理装置、表示制御方法、およびプログラム
JP5741395B2 (ja) 2011-11-16 2015-07-01 コニカミノルタ株式会社 撮像装置
CN105653031B (zh) 2011-11-23 2019-10-01 英特尔公司 带有多个视图、显示器以及物理学的姿势输入
EP2600316A1 (en) 2011-11-29 2013-06-05 Inria Institut National de Recherche en Informatique et en Automatique Method, system and software program for shooting and editing a film comprising at least one image of a 3D computer-generated animation
US8767034B2 (en) 2011-12-01 2014-07-01 Tangome, Inc. Augmenting a video conference
US8941707B2 (en) 2011-12-01 2015-01-27 Tangome, Inc. Video messaging
US9626013B2 (en) 2011-12-05 2017-04-18 Sony Corporation Imaging apparatus
US20130147933A1 (en) 2011-12-09 2013-06-13 Charles J. Kulas User image insertion into a text message
US20130155308A1 (en) 2011-12-20 2013-06-20 Qualcomm Incorporated Method and apparatus to enhance details in an image
US20130159900A1 (en) 2011-12-20 2013-06-20 Nokia Corporation Method, apparatus and computer program product for graphically enhancing the user interface of a device
US9207837B2 (en) 2011-12-20 2015-12-08 Nokia Technologies Oy Method, apparatus and computer program product for providing multiple levels of interaction with a program
KR101873747B1 (ko) 2011-12-27 2018-07-03 엘지전자 주식회사 이동 단말기 및 그 제어방법
WO2013097139A1 (en) 2011-12-29 2013-07-04 Intel Corporation Communication using avatar
JP5854848B2 (ja) 2012-01-10 2016-02-09 キヤノン株式会社 撮像装置、撮像装置の制御方法、プログラム、記憶媒体
US9204099B2 (en) 2012-02-01 2015-12-01 Magor Communications Corporation Videoconferencing system providing virtual physical context
US8723796B2 (en) 2012-02-02 2014-05-13 Kodak Alaris Inc. Multi-user interactive display system
US10044938B2 (en) 2012-02-08 2018-08-07 Abukai, Inc. Method and apparatus for processing images of receipts
US9148586B2 (en) 2012-02-10 2015-09-29 Sony Corporation Terminal apparatus for combining images from two different cameras based on detected sound
US8675113B2 (en) 2012-02-24 2014-03-18 Research In Motion Limited User interface for a digital camera
JP6041500B2 (ja) 2012-03-01 2016-12-07 キヤノン株式会社 撮像装置、撮像システム、撮像装置の駆動方法、撮像システムの駆動方法
US9131192B2 (en) 2012-03-06 2015-09-08 Apple Inc. Unified slider control for modifying multiple image properties
US9747495B2 (en) 2012-03-06 2017-08-29 Adobe Systems Incorporated Systems and methods for creating and distributing modifiable animated video messages
US20130246948A1 (en) 2012-03-16 2013-09-19 Lenovo (Beijing) Co., Ltd. Control method and control device
EP2640060A1 (en) 2012-03-16 2013-09-18 BlackBerry Limited Methods and devices for producing an enhanced image
US9264660B1 (en) 2012-03-30 2016-02-16 Google Inc. Presenter control during a video conference
KR101899877B1 (ko) 2012-04-04 2018-09-19 삼성전자주식회사 확대된 영상의 화질을 개선하기 위한 장치 및 방법
JP2013219556A (ja) 2012-04-09 2013-10-24 Olympus Imaging Corp 撮像装置
WO2013152453A1 (en) 2012-04-09 2013-10-17 Intel Corporation Communication using interactive avatars
US9357174B2 (en) 2012-04-09 2016-05-31 Intel Corporation System and method for avatar management and selection
US8872093B2 (en) 2012-04-18 2014-10-28 Apple Inc. Calibrated image-sensor-based ambient light sensor
US9041844B2 (en) 2012-04-27 2015-05-26 Blackberry Limited Camera device with a dynamic touch screen shutter and dynamic focal control area
US9785883B2 (en) 2012-04-27 2017-10-10 Excalibur Ip, Llc Avatars for use with personalized generalized content recommendations
WO2013169851A2 (en) 2012-05-09 2013-11-14 Yknots Industries Llc Device, method, and graphical user interface for facilitating user interaction with controls in a user interface
WO2013169849A2 (en) 2012-05-09 2013-11-14 Industries Llc Yknots Device, method, and graphical user interface for displaying user interface objects corresponding to an application
CN107124546B (zh) 2012-05-18 2020-10-16 华为终端有限公司 一种自动切换终端对焦模式的方法及终端
IN2014DN10919A (ja) 2012-05-22 2015-09-18 Nikon Corp
US10681304B2 (en) 2012-06-08 2020-06-09 Apple, Inc. Capturing a panoramic image using a graphical user interface having a scan guidance indicator
US8957973B2 (en) 2012-06-11 2015-02-17 Omnivision Technologies, Inc. Shutter release using secondary camera
CN104395929B (zh) 2012-06-21 2017-10-03 微软技术许可有限责任公司 使用深度相机的化身构造
JP2014010777A (ja) 2012-07-02 2014-01-20 Fujitsu Ltd 表示プログラム、表示方法、及び情報処理装置
KR101937708B1 (ko) 2012-07-09 2019-04-11 삼성전자 주식회사 카메라 제어 시스템과 이를 포함하는 단말기 및 카메라 제어 방법
DE112012006721T8 (de) 2012-07-20 2015-06-03 Mitsubishi Electric Corporation Informationsanzeigevorrichtung, Anzeigeumschaltverfahren und Anzeigeumschaltprogramm
US8780219B2 (en) 2012-07-23 2014-07-15 Wooblue, Inc. Wireless viewing and control interface for imaging devices
JP2014023083A (ja) 2012-07-23 2014-02-03 Nikon Corp 表示装置、撮像装置及び画像編集プログラム
US9019415B2 (en) 2012-07-26 2015-04-28 Qualcomm Incorporated Method and apparatus for dual camera shutter
KR101900097B1 (ko) 2012-07-30 2018-09-20 삼성전자주식회사 이미지 캡처 방법 및 이미지 캡처 장치
KR20140019631A (ko) * 2012-08-06 2014-02-17 삼성전자주식회사 방사선 영상 촬영 장치 및 방법
TWI470598B (zh) 2012-08-07 2015-01-21 Wistron Corp 顯示調整方法及其電腦程式產品
KR20140021821A (ko) 2012-08-09 2014-02-21 삼성전자주식회사 이미지 캡처 장치 및 이미지 캡처 방법
US8910082B2 (en) 2012-08-10 2014-12-09 Modiface Inc. Method and system for modification of digital images through rotational cascading-effect interface
US8957892B2 (en) 2012-08-20 2015-02-17 Disney Enterprises, Inc. Stereo composition based on multiple camera rigs
US8928724B2 (en) * 2012-08-31 2015-01-06 Microsoft Corporation Unified user experience for mobile calls
KR101343591B1 (ko) 2012-09-03 2013-12-19 엘지전자 주식회사 휴대 전자기기 및 이의 제어방법
US9602559B1 (en) 2012-09-07 2017-03-21 Mindmeld, Inc. Collaborative communication system with real-time anticipatory computing
US20140071061A1 (en) 2012-09-12 2014-03-13 Chih-Ping Lin Method for controlling execution of camera related functions by referring to gesture pattern and related computer-readable medium
JP5999336B2 (ja) 2012-09-13 2016-09-28 カシオ計算機株式会社 撮像装置及び撮像処理方法並びにプログラム
JP6039328B2 (ja) 2012-09-14 2016-12-07 キヤノン株式会社 撮影制御装置および撮像装置の制御方法
KR101487516B1 (ko) 2012-09-28 2015-01-30 주식회사 팬택 연속 자동 초점을 이용한 멀티 초점 이미지 캡처 장치 및 방법
US20140099994A1 (en) 2012-10-04 2014-04-10 Nvidia Corporation Electronic camera embodying a proximity sensor
JP6112819B2 (ja) 2012-10-10 2017-04-12 オリンパス株式会社 電子機器、駆動方法およびプログラム
CN103917946B (zh) * 2012-10-10 2018-04-03 Sk 普兰尼特有限公司 显示高速滚动内容和滚动条的方法和系统
US10552030B2 (en) 2012-10-15 2020-02-04 Kirusa, Inc. Multi-gesture media recording system
WO2014062725A1 (en) 2012-10-17 2014-04-24 N2 Imaging Systems, LLC Imaging adapter head for personal imaging devices
PL2939504T5 (pl) 2012-10-24 2022-10-24 Signify Holding B.V. Pomaganie użytkownikowi w wyborze projektu urządzenia oświetleniowego
US8762895B2 (en) 2012-10-28 2014-06-24 Google Inc. Camera zoom indicator in mobile devices
US9807263B2 (en) 2012-10-31 2017-10-31 Conduent Business Services, Llc Mobile document capture assistance using augmented reality
US9948589B2 (en) 2012-11-14 2018-04-17 invi Labs, Inc. System for and method of organizing contacts for chat sessions on an electronic device
DE112012007137T5 (de) 2012-11-15 2015-08-06 Mitsubishi Electric Corporation Anwenderschnittstellenvorrichtung
KR101954192B1 (ko) 2012-11-15 2019-03-05 엘지전자 주식회사 어레이 카메라, 휴대 단말기 및 그 동작 방법
US10551928B2 (en) 2012-11-20 2020-02-04 Samsung Electronics Company, Ltd. GUI transitions on wearable electronic device
CN113472989A (zh) 2012-11-28 2021-10-01 核心光电有限公司 多孔径成像系统以及通过多孔径成像系统获取图像的方法
US10079968B2 (en) 2012-12-01 2018-09-18 Qualcomm Incorporated Camera having additional functionality based on connectivity with a host device
AU2012258467A1 (en) 2012-12-03 2014-06-19 Canon Kabushiki Kaisha Bokeh amplification
US9001226B1 (en) 2012-12-04 2015-04-07 Lytro, Inc. Capturing and relighting images using multiple devices
CN103856709B (zh) 2012-12-04 2017-08-25 腾讯科技(深圳)有限公司 图像获取方法及装置
US20140160231A1 (en) 2012-12-12 2014-06-12 Daniel C. Middleton Multi-focal image capture and display
US9466142B2 (en) 2012-12-17 2016-10-11 Intel Corporation Facial movement based avatar animation
KR101418552B1 (ko) 2012-12-20 2014-07-16 주식회사 팬택 디밍 상태를 위한 사용자 인터페이스 장치 및 그 방법
WO2014105276A1 (en) 2012-12-29 2014-07-03 Yknots Industries Llc Device, method, and graphical user interface for transitioning between touch input to display output relationships
US9152304B2 (en) 2012-12-31 2015-10-06 General Electric Company Systems and methods for virtual control of a non-destructive testing system
US9264630B2 (en) 2013-01-04 2016-02-16 Nokia Technologies Oy Method and apparatus for creating exposure effects using an optical image stabilizing device
CN107395975A (zh) 2013-01-07 2017-11-24 华为技术有限公司 一种图像处理方法及装置
US20140310598A1 (en) 2013-01-10 2014-10-16 Okappi, Inc. Multimedia Spiral Timeline
CN103945046A (zh) 2013-01-21 2014-07-23 目酷实验室有限公司 拍照控制方法及控制装置
TWI537813B (zh) 2013-01-25 2016-06-11 宏達國際電子股份有限公司 電子裝置及其照相機切換方法
CN103093490B (zh) 2013-02-02 2015-08-26 浙江大学 基于单个视频摄像机的实时人脸动画方法
JP6057752B2 (ja) 2013-02-07 2017-01-11 オリンパス株式会社 撮像装置、撮像方法及びプログラム
US10477087B2 (en) 2017-11-16 2019-11-12 Duelight Llc System, method, and computer program for capturing a flash image based on ambient and flash metering
JP2014165609A (ja) 2013-02-22 2014-09-08 Olympus Imaging Corp 撮影機器
KR20140108078A (ko) 2013-02-28 2014-09-05 삼성전자주식회사 논-스테레오스코픽 카메라를 이용하여 스테레오스코픽 이미지를 생성하는 방법과 기기 및 장치
JP5729407B2 (ja) 2013-02-28 2015-06-03 カシオ計算機株式会社 撮像装置、表示制御方法及びプログラム
US9094576B1 (en) 2013-03-12 2015-07-28 Amazon Technologies, Inc. Rendered audiovisual communication
US9342230B2 (en) 2013-03-13 2016-05-17 Microsoft Technology Licensing, Llc Natural user interface scrolling and targeting
US9578259B2 (en) 2013-03-14 2017-02-21 Fotonation Cayman Limited Systems and methods for reducing motion blur in images or video in ultra low light with array cameras
KR102063915B1 (ko) 2013-03-14 2020-01-08 삼성전자주식회사 사용자 기기 및 그 동작 방법
US9886160B2 (en) 2013-03-15 2018-02-06 Google Llc Managing audio at the tab level for user notification and control
JP6103999B2 (ja) 2013-03-15 2017-03-29 キヤノン株式会社 画像データ送信装置、画像データ受信装置、画像データ送信方法、画像データ受信方法、及びプログラム
US9712688B2 (en) 2013-03-15 2017-07-18 Cam Ranger LLC Wireless adapter and method for communication with digital camera
JP2014183425A (ja) 2013-03-19 2014-09-29 Sony Corp 画像処理方法、画像処理装置および画像処理プログラム
WO2014148395A1 (ja) 2013-03-21 2014-09-25 株式会社日立国際電気 映像監視システム、映像監視方法、および映像監視装置
US9066017B2 (en) 2013-03-25 2015-06-23 Google Inc. Viewfinder display based on metering images
EP2979445A4 (en) 2013-03-27 2016-08-10 Bae Sys Inf & Elect Sys Integ ELECTROOPTICAL FUSION ZOOM CAMERA WITH SEVERAL VIEW FIELDS AND MULTIPLE SENSORS
KR102099635B1 (ko) 2013-04-09 2020-04-13 삼성전자 주식회사 카메라의 가이드 제공 방법 및 그 전자 장치
IL226047A (en) 2013-04-29 2017-12-31 Hershkovitz Reshef May A method and system for giving personal expressions
AU2014262897B2 (en) 2013-05-04 2018-03-22 Christopher Decharms Mobile security technology
KR20140133363A (ko) 2013-05-10 2014-11-19 삼성전자주식회사 디스플레이 장치 및 이의 제어 방법
JP6244655B2 (ja) 2013-05-16 2017-12-13 ソニー株式会社 画像処理装置および画像処理方法
CN105144710B (zh) 2013-05-20 2017-09-12 英特尔公司 用于增加深度相机图像的精度的技术
KR20140138424A (ko) 2013-05-23 2014-12-04 삼성전자주식회사 제스쳐를 이용한 사용자 인터페이스 방법 및 장치
US9307112B2 (en) 2013-05-31 2016-04-05 Apple Inc. Identifying dominant and non-dominant images in a burst mode capture
US9378576B2 (en) 2013-06-07 2016-06-28 Faceshift Ag Online modeling for real-time facial animation
US9452354B2 (en) 2013-06-07 2016-09-27 Sony Interactive Entertainment Inc. Sharing three-dimensional gameplay
US10168882B2 (en) 2013-06-09 2019-01-01 Apple Inc. Device, method, and graphical user interface for switching between camera interfaces
CN105308947B (zh) 2013-06-13 2018-10-02 核心光电有限公司 双孔径变焦数字摄影机
US20140372856A1 (en) 2013-06-14 2014-12-18 Microsoft Corporation Natural Quick Functions Gestures
US9509913B2 (en) 2013-06-18 2016-11-29 Olympus Corporation Image pickup apparatus, method of controlling image pickup apparatus, image pickup apparatus system, and image pickup control program stored in storage medium of image pickup apparatus
JP6173060B2 (ja) 2013-06-18 2017-08-02 オリンパス株式会社 撮影機器及びその制御方法
GB2515797A (en) 2013-07-04 2015-01-07 Sony Corp A method, apparatus and system for image processing
KR102133529B1 (ko) 2013-07-16 2020-07-13 삼성전자주식회사 영상 필터 정렬 방법, 상기 방법을 기록한 컴퓨터 판독 가능 저장매체 및 디지털 영상 장치
US20150022674A1 (en) 2013-07-18 2015-01-22 Koss Corporation Wireless video camera
US20160162039A1 (en) 2013-07-21 2016-06-09 Pointgrab Ltd. Method and system for touchless activation of a device
JP6102602B2 (ja) 2013-07-23 2017-03-29 ソニー株式会社 画像処理装置、画像処理方法、画像処理プログラムおよび撮像装置
US20150033192A1 (en) 2013-07-23 2015-01-29 3M Innovative Properties Company Method for creating effective interactive advertising content
US9299188B2 (en) 2013-08-08 2016-03-29 Adobe Systems Incorporated Automatic geometry and lighting inference for realistic image editing
KR102047703B1 (ko) 2013-08-09 2019-11-22 엘지전자 주식회사 이동 단말기 및 이의 제어 방법
CN104346080A (zh) 2013-08-09 2015-02-11 昆达电脑科技(昆山)有限公司 屏幕控制系统及其方法
KR20150019710A (ko) 2013-08-14 2015-02-25 삼성전자주식회사 촬영 장치 및 이의 제어 방법
US10289265B2 (en) 2013-08-15 2019-05-14 Excalibur Ip, Llc Capture and retrieval of a personalized mood icon
KR102065408B1 (ko) 2013-08-16 2020-01-13 엘지전자 주식회사 이동 단말기
US9881645B2 (en) 2013-08-20 2018-01-30 Google Llc Systems, methods, and media for editing video during playback via gestures
US9712756B2 (en) 2013-08-21 2017-07-18 Canon Kabushiki Kaisha Image capturing apparatus and control method thereof
US9804760B2 (en) 2013-08-22 2017-10-31 Apple Inc. Scrollable in-line camera for capturing and sharing content
KR102124604B1 (ko) 2013-09-02 2020-06-19 삼성전자주식회사 이미지 안정화 방법 그 전자 장치
JP5769768B2 (ja) 2013-09-03 2015-08-26 オリンパス株式会社 撮像装置、撮像方法およびプログラム
JP6476658B2 (ja) 2013-09-11 2019-03-06 ソニー株式会社 画像処理装置および方法
KR102077108B1 (ko) 2013-09-13 2020-02-14 한국전자통신연구원 콘텐츠 체험 서비스 제공 장치 및 그 방법
KR102065046B1 (ko) 2013-09-16 2020-01-10 엘지전자 주식회사 이동 단말기 및 그것의 제어 방법
US10944917B2 (en) 2013-09-16 2021-03-09 Kyle L. Baltz Camera and image processing method
JP2016538657A (ja) 2013-09-16 2016-12-08 トムソン ライセンシングThomson Licensing 複数のユーザコメントを検索してコンテンツにオーバーレイすることによるビデオのブラウジング
US9652475B2 (en) 2013-09-17 2017-05-16 Google Technology Holdings LLC Highlight reels
US9460125B2 (en) 2013-09-30 2016-10-04 Duelight Llc Systems, methods, and computer program products for digital photography
US9544574B2 (en) 2013-12-06 2017-01-10 Google Inc. Selecting camera pairs for stereoscopic imaging
JP6234151B2 (ja) 2013-10-09 2017-11-22 キヤノン株式会社 撮像装置
KR102063768B1 (ko) 2013-10-16 2020-01-08 엘지전자 주식회사 이동 단말기 및 그것의 제어 방법
JP2016540418A (ja) 2013-10-18 2016-12-22 ザ ライト・コ インコーポレイテッド 画像のキャプチャおよび/または結合のための方法および装置
GB2519363A (en) 2013-10-21 2015-04-22 Nokia Technologies Oy Method, apparatus and computer program product for modifying illumination in an image
KR102124014B1 (ko) * 2013-10-29 2020-06-17 삼성전자주식회사 영상 촬상 장치 및 이의 보케 영상 생성 방법
CN108107571B (zh) 2013-10-30 2021-06-01 株式会社摩如富 图像处理装置及方法及非暂时性计算机可读记录介质
US10271010B2 (en) 2013-10-31 2019-04-23 Shindig, Inc. Systems and methods for controlling the display of content
JP6273782B2 (ja) * 2013-11-07 2018-02-07 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
US9253527B2 (en) 2013-11-14 2016-02-02 Smiletime Inc Social multi-camera interactive live engagement system
US10558262B2 (en) 2013-11-18 2020-02-11 Tobii Ab Component determination and gaze provoked interaction
US10885227B2 (en) 2013-11-26 2021-01-05 CaffeiNATION Signings (Series 3 of Caffeination Series, LLC) Systems, methods and computer program products for managing remote execution of transaction documents
US9246961B2 (en) 2013-11-27 2016-01-26 Facebook, Inc. Communication user interface systems and methods
KR20150061277A (ko) 2013-11-27 2015-06-04 삼성전자주식회사 영상 촬영 장치 및 이의 영상 촬영 방법
JP2016538649A (ja) 2013-11-27 2016-12-08 フェイスブック,インク. 通信ユーザ・インタフェース・システムおよび方法
JP6432130B2 (ja) * 2013-11-29 2018-12-05 カシオ計算機株式会社 表示システム、表示装置、撮影装置、表示方法及びプログラム
JP6247527B2 (ja) 2013-12-24 2017-12-13 キヤノン株式会社 撮像装置及び制御方法、プログラム、並びに記憶媒体
CN104754203B (zh) 2013-12-31 2018-07-31 华为技术有限公司 拍摄方法、装置及终端
US9462169B2 (en) 2013-12-31 2016-10-04 Huawei Technologies Co., Ltd. Shooting method, apparatus, and terminal
TWI518439B (zh) 2014-01-02 2016-01-21 原相科技股份有限公司 相機裝置
US10931866B2 (en) * 2014-01-05 2021-02-23 Light Labs Inc. Methods and apparatus for receiving and storing in a camera a user controllable setting that is used to control composite image generation performed after image capture
KR102114617B1 (ko) 2014-01-08 2020-05-25 엘지전자 주식회사 이동단말기 및 그 제어방법
EP3872659A1 (en) 2014-01-23 2021-09-01 Apple Inc. Biometric authentication for online purchasing
US10455148B2 (en) 2014-01-28 2019-10-22 Sony Corporation Image capturing device to capture image of a subject based on a communication process
US9207844B2 (en) 2014-01-31 2015-12-08 EyeGroove, Inc. Methods and devices for touch-based media creation
CN105992987B (zh) 2014-01-31 2021-02-05 惠普发展公司,有限责任合伙企业 包括在显示器中的相机
DE102014202490A1 (de) 2014-02-12 2015-08-13 Volkswagen Aktiengesellschaft Vorrichtung und Verfahren zur Signalisierung einer erfolgreichen Gesteneingabe
KR102243653B1 (ko) 2014-02-17 2021-04-23 엘지전자 주식회사 디스플레이 디바이스 및 그 제어 방법
US9703446B2 (en) 2014-02-28 2017-07-11 Prezi, Inc. Zooming user interface frames embedded image frame sequence
DE102014102689A1 (de) 2014-02-28 2015-09-03 Arnold & Richter Cine Technik Gmbh & Co. Betriebs Kg Laufbildkameraanordnung und Verfahren zum Betreiben einer Laufbildkameraanordnung
US9538078B2 (en) 2014-03-02 2017-01-03 Google Inc. User interface for wide angle photography
JP6490430B2 (ja) 2014-03-03 2019-03-27 株式会社東芝 画像処理装置、画像処理システム、画像処理方法、及びプログラム
US10235587B2 (en) 2014-03-04 2019-03-19 Samsung Electronics Co., Ltd. Method and system for optimizing an image capturing boundary in a proposed image
US9313401B2 (en) 2014-03-04 2016-04-12 Here Global B.V. Frame rate designation region
EP3123449B1 (en) 2014-03-25 2020-01-01 Apple Inc. Method and system for representing a virtual object in a view of a real environment
US20150277686A1 (en) 2014-03-25 2015-10-01 ScStan, LLC Systems and Methods for the Real-Time Modification of Videos and Images Within a Social Network Format
EP3128744A4 (en) 2014-03-27 2017-11-01 Noritsu Precision Co., Ltd. Image processing device
JP6646936B2 (ja) 2014-03-31 2020-02-14 キヤノン株式会社 画像処理装置、その制御方法、およびプログラム
US9801613B2 (en) 2014-04-18 2017-10-31 Fujifilm Sonosite, Inc. Hand-held medical imaging system with thumb controller and associated systems and methods
US9589321B2 (en) 2014-04-24 2017-03-07 Google Inc. Systems and methods for animating a view of a composite image
GB201407267D0 (en) 2014-04-24 2014-06-11 Cathx Res Ltd Underwater surveys
US10845982B2 (en) 2014-04-28 2020-11-24 Facebook, Inc. Providing intelligent transcriptions of sound messages in a messaging application
US10229483B2 (en) 2014-04-30 2019-03-12 Sony Corporation Image processing apparatus and image processing method for setting an illumination environment
WO2016018488A2 (en) 2014-05-09 2016-02-04 Eyefluence, Inc. Systems and methods for discerning eye signals and continuous biometric identification
US20150332534A1 (en) 2014-05-15 2015-11-19 Narvii Inc. Systems and methods implementing user interface objects
KR102158214B1 (ko) 2014-05-19 2020-09-22 엘지전자 주식회사 이동 단말기 및 그것의 제어방법
US20150341536A1 (en) 2014-05-23 2015-11-26 Mophie, Inc. Systems and methods for orienting an image
US9942464B2 (en) 2014-05-27 2018-04-10 Thomson Licensing Methods and systems for media capture and seamless display of sequential images using a touch sensitive device
US9313397B2 (en) 2014-05-30 2016-04-12 Apple Inc. Realtime capture exposure adjust gestures
US9628416B2 (en) 2014-05-30 2017-04-18 Cisco Technology, Inc. Photo avatars
US20150350141A1 (en) 2014-05-31 2015-12-03 Apple Inc. Message user interfaces for capture and transmittal of media and location content
US20150350504A1 (en) 2014-06-03 2015-12-03 2P & M Holdings, LLC RAW Camera Peripheral for Handheld Mobile Unit
US9485540B2 (en) 2014-06-03 2016-11-01 Disney Enterprises, Inc. System and method for multi-device video image display and modification
US9360671B1 (en) 2014-06-09 2016-06-07 Google Inc. Systems and methods for image zoom
KR102182401B1 (ko) 2014-06-11 2020-11-24 엘지전자 주식회사 이동단말기 및 그 제어방법
US10091411B2 (en) 2014-06-17 2018-10-02 Lg Electronics Inc. Mobile terminal and controlling method thereof for continuously tracking object included in video
US9910505B2 (en) 2014-06-17 2018-03-06 Amazon Technologies, Inc. Motion control for managing content
US10579236B2 (en) 2014-06-20 2020-03-03 Ati Technologies Ulc Responding to user input including providing user feedback
US10074158B2 (en) 2014-07-08 2018-09-11 Qualcomm Incorporated Systems and methods for stereo depth estimation using global minimization and depth interpolation
US9641759B2 (en) 2014-07-10 2017-05-02 Lg Electronics Inc. Mobile terminal and controlling method thereof
US9785323B2 (en) 2014-07-23 2017-10-10 Adobe Systems Incorporated Touch-based user interface control tiles
KR20160019145A (ko) 2014-08-11 2016-02-19 엘지전자 주식회사 이동 단말기 및 그 제어 방법
KR102145542B1 (ko) 2014-08-14 2020-08-18 삼성전자주식회사 촬영 장치, 복수의 촬영 장치를 이용하여 촬영하는 촬영 시스템 및 그 촬영 방법
JP3194297U (ja) 2014-08-15 2014-11-13 リープ モーション, インコーポレーテッドLeap Motion, Inc. 自動車用及び産業用のモーション感知制御装置
WO2016028807A1 (en) 2014-08-18 2016-02-25 Fuhu, Inc. System and method for providing curated content items
US9230355B1 (en) 2014-08-21 2016-01-05 Glu Mobile Inc. Methods and systems for images with interactive filters
KR102155094B1 (ko) 2014-08-28 2020-09-11 엘지전자 주식회사 이동 단말기 및 그 제어방법
US9451144B2 (en) 2014-09-02 2016-09-20 Apple Inc. Remote camera user interface
KR20160029536A (ko) 2014-09-05 2016-03-15 엘지전자 주식회사 이동 단말기 및 그것의 제어방법
US10212111B2 (en) 2014-09-12 2019-02-19 Google Llc System and interface that facilitate selecting videos to share in a messaging application
KR102234709B1 (ko) 2014-09-15 2021-04-01 엘지전자 주식회사 이동 단말기 및 그것의 제어방법
US11472338B2 (en) 2014-09-15 2022-10-18 Magna Electronics Inc. Method for displaying reduced distortion video images via a vehicular vision system
JP6252414B2 (ja) * 2014-09-16 2017-12-27 カシオ計算機株式会社 図形表示装置、図形表示方法およびプログラム
TWI531852B (zh) 2014-09-16 2016-05-01 聚晶半導體股份有限公司 影像擷取裝置及數位變焦方法
US10313656B2 (en) 2014-09-22 2019-06-04 Samsung Electronics Company Ltd. Image stitching for three-dimensional video
US9633463B2 (en) 2014-09-24 2017-04-25 Intel Corporation User gesture driven avatar apparatus and method
JP2016066978A (ja) 2014-09-26 2016-04-28 キヤノンマーケティングジャパン株式会社 撮像装置、その制御方法とプログラム
JP2016072965A (ja) 2014-09-29 2016-05-09 パナソニックIpマネジメント株式会社 撮像装置
US10361986B2 (en) 2014-09-29 2019-07-23 Disney Enterprises, Inc. Gameplay in a chat thread
US20160098094A1 (en) 2014-10-02 2016-04-07 Geegui Corporation User interface enabled by 3d reversals
KR102240302B1 (ko) 2014-10-21 2021-04-14 삼성전자주식회사 가상 피팅 장치 및 이의 가상 피팅 방법
KR102251483B1 (ko) 2014-10-23 2021-05-14 삼성전자주식회사 영상을 처리하는 전자 장치 및 방법
CN106062862B (zh) 2014-10-24 2020-04-21 杭州凌感科技有限公司 用于沉浸式和交互式多媒体生成的系统和方法
KR102225947B1 (ko) 2014-10-24 2021-03-10 엘지전자 주식회사 이동단말기 및 그 제어방법
US9704250B1 (en) 2014-10-30 2017-07-11 Amazon Technologies, Inc. Image optimization techniques using depth planes
US10365879B2 (en) 2014-11-05 2019-07-30 Lg Electronics Inc. Image output device, mobile terminal, and method for controlling a plurality of image output devices
US20160132201A1 (en) 2014-11-06 2016-05-12 Microsoft Technology Licensing, Llc Contextual tabs in mobile ribbons
US9412169B2 (en) 2014-11-21 2016-08-09 iProov Real-time visual feedback for user positioning with respect to a camera and a display
KR101997500B1 (ko) 2014-11-25 2019-07-08 삼성전자주식회사 개인화된 3d 얼굴 모델 생성 방법 및 장치
CN107509037B (zh) 2014-11-28 2019-10-18 Oppo广东移动通信有限公司 使用不同视场角摄像头拍照的方法和终端
US20160173869A1 (en) 2014-12-15 2016-06-16 Nokia Corporation Multi-Camera System Consisting Of Variably Calibrated Cameras
US9712751B2 (en) 2015-01-22 2017-07-18 Apple Inc. Camera field of view effects based on device orientation and scene content
US9767613B1 (en) 2015-01-23 2017-09-19 Leap Motion, Inc. Systems and method of interacting with a virtual object
JP6152125B2 (ja) 2015-01-23 2017-06-21 任天堂株式会社 プログラム、情報処理装置、情報処理システム及びアバター画像の生成方法
GB2534847A (en) 2015-01-28 2016-08-10 Sony Computer Entertainment Europe Ltd Display
CN105847670B (zh) 2015-02-04 2019-06-21 佳能株式会社 电子设备、摄像控制装置及其控制方法
US9979885B2 (en) 2015-02-09 2018-05-22 Steven Christopher Sparks Apparatus and method for capture of 360° panoramic video image and simultaneous assembly of 360° panoramic zoetropic video image
US9800798B2 (en) 2015-02-13 2017-10-24 Qualcomm Incorporated Systems and methods for power optimization for imaging devices with dual cameras
US20160241777A1 (en) 2015-02-16 2016-08-18 Magisto Ltd. Method and system for implementing a user interface for capturing videos and photos on cameras with a touch screen
US10055887B1 (en) 2015-02-19 2018-08-21 Google Llc Virtual/augmented reality transition system and method
US9632664B2 (en) 2015-03-08 2017-04-25 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US9959623B2 (en) 2015-03-09 2018-05-01 Here Global B.V. Display of an annotation representation
US9939887B2 (en) 2015-03-09 2018-04-10 Ventana 3D, Llc Avatar control system
US9852543B2 (en) 2015-03-27 2017-12-26 Snap Inc. Automated three dimensional model generation
CN107430429B (zh) 2015-04-07 2022-02-18 英特尔公司 化身键盘
US10303973B2 (en) 2015-04-15 2019-05-28 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and storage medium for lighting processing on image using model data
EP3958557A1 (en) 2015-04-23 2022-02-23 Apple Inc. Digital viewfinder user interface for multiple cameras
CN106210550B (zh) 2015-05-06 2019-02-19 小米科技有限责任公司 模式调节方法及装置
KR20160131720A (ko) 2015-05-08 2016-11-16 엘지전자 주식회사 이동단말기 및 그 제어방법
US9967467B2 (en) 2015-05-29 2018-05-08 Oath Inc. Image capture with display context
US10871868B2 (en) 2015-06-05 2020-12-22 Apple Inc. Synchronized content scrubber
US9860451B2 (en) 2015-06-07 2018-01-02 Apple Inc. Devices and methods for capturing and interacting with enhanced digital images
US9674426B2 (en) 2015-06-07 2017-06-06 Apple Inc. Devices and methods for capturing and interacting with enhanced digital images
KR20160146281A (ko) 2015-06-12 2016-12-21 삼성전자주식회사 전자 장치 및 전자 장치에서 이미지 표시 방법
US20160366323A1 (en) 2015-06-15 2016-12-15 Mediatek Inc. Methods and systems for providing virtual lighting
KR101751347B1 (ko) 2015-06-16 2017-07-11 엘지전자 주식회사 이동 단말기 및 이의 제어방법
WO2016203282A1 (en) 2015-06-18 2016-12-22 The Nielsen Company (Us), Llc Methods and apparatus to capture photographs using mobile devices
US9652125B2 (en) 2015-06-18 2017-05-16 Apple Inc. Device, method, and graphical user interface for navigating media content
US9900518B2 (en) 2015-06-20 2018-02-20 Apple Inc. Multifunction physical button
US20160370974A1 (en) 2015-06-22 2016-12-22 Here Global B.V. Causation of Expansion of a Supplemental Content Overlay
KR20170006559A (ko) 2015-07-08 2017-01-18 엘지전자 주식회사 이동단말기 및 그 제어방법
US11006095B2 (en) 2015-07-15 2021-05-11 Fyusion, Inc. Drone based capture of a multi-view interactive digital media
US20170018289A1 (en) 2015-07-15 2017-01-19 String Theory, Inc. Emoji as facetracking video masks
KR102399049B1 (ko) 2015-07-15 2022-05-18 삼성전자주식회사 전자 장치 및 전자 장치의 이미지 처리 방법
KR102429427B1 (ko) 2015-07-20 2022-08-04 삼성전자주식회사 촬영 장치 및 그 동작 방법
US9749543B2 (en) 2015-07-21 2017-08-29 Lg Electronics Inc. Mobile terminal having two cameras and method for storing images taken by two cameras
KR101678861B1 (ko) 2015-07-28 2016-11-23 엘지전자 주식회사 이동단말기 및 그 제어방법
KR20170016215A (ko) 2015-08-03 2017-02-13 엘지전자 주식회사 이동단말기 및 그 제어방법
KR102292985B1 (ko) 2015-08-10 2021-08-24 엘지전자 주식회사 이동 단말기 및 그 제어방법
KR102349428B1 (ko) 2015-08-12 2022-01-10 삼성전자주식회사 이미지 처리 방법 및 이를 지원하는 전자장치
CN106470336A (zh) 2015-08-17 2017-03-01 深圳富泰宏精密工业有限公司 相机色温补偿系统及智能终端
US9639945B2 (en) 2015-08-27 2017-05-02 Lytro, Inc. Depth-based application of image effects
US10397469B1 (en) 2015-08-31 2019-08-27 Snap Inc. Dynamic image-based adjustment of image capture parameters
US10334154B2 (en) 2015-08-31 2019-06-25 Snap Inc. Automated adjustment of digital image capture parameters
KR20170029837A (ko) 2015-09-08 2017-03-16 엘지전자 주식회사 이동 단말기 및 그 제어 방법
KR20170029978A (ko) 2015-09-08 2017-03-16 엘지전자 주식회사 이동단말기 및 그 제어방법
CN105245774B (zh) 2015-09-15 2018-12-21 努比亚技术有限公司 一种图片处理方法及终端
US9349414B1 (en) 2015-09-18 2016-05-24 Odile Aimee Furment System and method for simultaneous capture of two video streams
KR101667736B1 (ko) 2015-09-25 2016-10-20 엘지전자 주식회사 이동단말기 및 그 제어방법
US20170094019A1 (en) 2015-09-26 2017-03-30 Microsoft Technology Licensing, Llc Providing Access to Non-Obscured Content Items based on Triggering Events
US9769419B2 (en) 2015-09-30 2017-09-19 Cisco Technology, Inc. Camera system for video conference endpoints
US20170109912A1 (en) 2015-10-15 2017-04-20 Motorola Mobility Llc Creating a composite image from multi-frame raw image data
US10044927B2 (en) 2015-10-19 2018-08-07 Stmicroelectronics International N.V. Capturing a stable image using an ambient light sensor-based trigger
EP3366033A4 (en) 2015-10-19 2018-09-19 Corephotonics Ltd. Dual-aperture zoom digital camera user interface
US9686497B1 (en) 2015-10-29 2017-06-20 Crater Group Co. Video annotation and dynamic video call display for multi-camera devices
CN105430295B (zh) 2015-10-30 2019-07-12 努比亚技术有限公司 图像处理装置及方法
CN105338256A (zh) 2015-11-19 2016-02-17 广东欧珀移动通信有限公司 一种拍摄方法及装置
KR101946436B1 (ko) 2015-11-25 2019-02-11 후아웨이 테크놀러지 컴퍼니 리미티드 촬영 방법, 촬영 장치, 및 단말
US20170178287A1 (en) 2015-12-21 2017-06-22 Glen J. Anderson Identity obfuscation
US10007990B2 (en) 2015-12-24 2018-06-26 Intel Corporation Generating composite images using estimated blur kernel size
KR102140882B1 (ko) 2015-12-29 2020-08-04 코어포토닉스 리미티드 자동 조정가능 텔레 시야(fov)를 갖는 듀얼-애퍼처 줌 디지털 카메라
CN105611215A (zh) 2015-12-30 2016-05-25 掌赢信息科技(上海)有限公司 一种视频通话方法及装置
US10194089B2 (en) 2016-02-08 2019-01-29 Qualcomm Incorporated Systems and methods for implementing seamless zoom function using multiple cameras
KR102445699B1 (ko) 2016-02-18 2022-09-21 삼성전자주식회사 전자 장치 및 그의 동작 방법
KR20170097860A (ko) 2016-02-19 2017-08-29 삼성전자주식회사 디스플레이를 이용하여 이미지를 촬영하는 전자 장치 및 이미지 촬영 방법
KR20170098089A (ko) 2016-02-19 2017-08-29 삼성전자주식회사 전자 장치 및 그의 동작 방법
CN107102499A (zh) 2016-02-22 2017-08-29 深圳富泰宏精密工业有限公司 多镜头系统及具有该多镜头系统的便携式电子装置
KR20180132063A (ko) 2016-02-24 2018-12-11 비브하이스트 인코포레이티드 개인의 생활 스토리 시뮬레이션 시스템
US9871962B2 (en) 2016-03-04 2018-01-16 RollCall, LLC Movable user interface shutter button for camera
GB2548154A (en) 2016-03-11 2017-09-13 Sony Computer Entertainment Europe Ltd Virtual reality
US10225471B2 (en) 2016-03-18 2019-03-05 Kenneth L. Poindexter, JR. System and method for autonomously recording a visual media
JP6448849B2 (ja) 2016-03-23 2019-01-09 富士フイルム株式会社 デジタルカメラ及びデジタルカメラの表示方法
KR20170112497A (ko) 2016-03-31 2017-10-12 엘지전자 주식회사 이동 단말기 및 그 제어방법
US9990775B2 (en) 2016-03-31 2018-06-05 Verizon Patent And Licensing Inc. Methods and systems for point-to-multipoint delivery of independently-controllable interactive media content
US10187587B2 (en) 2016-04-13 2019-01-22 Google Llc Live updates for synthetic long exposures
KR102649782B1 (ko) 2016-04-13 2024-03-21 소니그룹주식회사 신호 처리 장치 및 촬상 장치
JP6323729B2 (ja) 2016-04-25 2018-05-16 パナソニックIpマネジメント株式会社 画像処理装置及びこれを備えた撮像システムならびにキャリブレーション方法
US10609093B2 (en) 2016-05-06 2020-03-31 Facebook, Inc. Instantaneous call sessions over a communications application
US11112963B2 (en) 2016-05-18 2021-09-07 Apple Inc. Devices, methods, and graphical user interfaces for messaging
WO2017201326A1 (en) 2016-05-18 2017-11-23 Apple Inc. Applying acknowledgement options in a graphical messaging user interface
US11743583B2 (en) 2016-05-20 2023-08-29 Maxell, Ltd. Imaging apparatus and setting screen thereof
KR102440848B1 (ko) 2016-05-20 2022-09-06 엘지전자 주식회사 이동 단말기 및 그 제어방법
WO2017204596A1 (ko) 2016-05-26 2017-11-30 주식회사 시어스랩 얼굴 윤곽 보정 방법 및 장치
US9852768B1 (en) 2016-06-03 2017-12-26 Maverick Co., Ltd. Video editing using mobile terminal and remote computer
DK179754B1 (en) 2016-06-12 2019-05-08 Apple Inc. USER INTERFACE FOR CAMERA EFFECTS
DK179635B1 (en) 2016-06-12 2019-03-05 Apple Inc. USER INTERFACE FOR CAMERA EFFECTS
DK179757B1 (en) 2016-06-12 2019-05-08 Apple Inc. User Interface for Camera Effects
US11794108B2 (en) 2016-06-13 2023-10-24 Sony Interactive Entertainment LLC Method and system for saving a snapshot of game play and used to begin later execution of the game play by any user as executed on a game cloud system
JP6684158B2 (ja) 2016-06-13 2020-04-22 株式会社キーエンス 画像処理センサ、画像処理方法
US10313605B2 (en) 2016-06-15 2019-06-04 Canon Kabushiki Kaisha Image processing apparatus and control method thereof for generating high dynamic range image data
US10360708B2 (en) 2016-06-30 2019-07-23 Snap Inc. Avatar based ideogram generation
KR102520225B1 (ko) 2016-06-30 2023-04-11 삼성전자주식회사 전자 장치 및 전자 장치의 이미지 촬영 방법
JP6714791B2 (ja) * 2016-07-13 2020-07-01 株式会社バンダイナムコエンターテインメント シミュレーションシステム及びプログラム
US10179290B2 (en) 2016-07-21 2019-01-15 Sony Interactive Entertainment America Llc Method and system for accessing previously stored game play via video recording as executed on a game cloud system
US20180035031A1 (en) 2016-07-27 2018-02-01 Samsung Electro-Mechanics Co., Ltd. Camera module and portable electronic device including the same
US9955061B2 (en) 2016-08-03 2018-04-24 International Business Machines Corporation Obtaining camera device image data representing an event
US20180047200A1 (en) 2016-08-11 2018-02-15 Jibjab Media Inc. Combining user images and computer-generated illustrations to produce personalized animated digital avatars
WO2018049430A2 (en) 2016-08-11 2018-03-15 Integem Inc. An intelligent interactive and augmented reality based user interface platform
KR101926018B1 (ko) 2016-08-12 2018-12-06 라인 가부시키가이샤 동영상 녹화 방법 및 시스템
US10313652B1 (en) 2016-08-18 2019-06-04 Relay Cars LLC Cubic or spherical mapped content for presentation of pre-rendered images viewed from a fixed point of view in HTML, javascript and/or XML for virtual reality applications
KR102593824B1 (ko) 2016-08-31 2023-10-25 삼성전자주식회사 카메라를 제어하기 위한 방법 및 그 전자 장치
US10771697B2 (en) 2016-09-06 2020-09-08 Apple Inc. Still image stabilization/optical image stabilization synchronization in multi-camera image capture
JP2018042198A (ja) 2016-09-09 2018-03-15 オリンパス株式会社 撮像装置及び撮像方法
WO2018057268A1 (en) 2016-09-23 2018-03-29 Apple Inc. Image data for enhanced user interactions
EP3920052A1 (en) 2016-09-23 2021-12-08 Apple Inc. Image data for enhanced user interactions
US10547776B2 (en) 2016-09-23 2020-01-28 Apple Inc. Devices, methods, and graphical user interfaces for capturing and recording media in multiple modes
KR102596477B1 (ko) 2016-09-23 2023-11-02 애플 인크. 아바타 생성 및 편집
US10297034B2 (en) 2016-09-30 2019-05-21 Qualcomm Incorporated Systems and methods for fusing images
US20180095618A1 (en) 2016-10-04 2018-04-05 Facebook, Inc. Controls and Interfaces for User Interactions in Virtual Spaces
KR102609464B1 (ko) 2016-10-18 2023-12-05 삼성전자주식회사 영상을 촬영하는 전자 장치
US10432559B2 (en) 2016-10-24 2019-10-01 Snap Inc. Generating and displaying customized avatars in electronic messages
US10386999B2 (en) 2016-10-26 2019-08-20 Google Llc Timeline-video relationship presentation for alert events
US10180615B2 (en) 2016-10-31 2019-01-15 Google Llc Electrochromic filtering in a camera
EP4307700A3 (en) 2016-11-01 2024-03-20 Snap Inc. Systems and methods for fast video capture and sensor adjustment
KR102257909B1 (ko) 2016-11-07 2021-05-28 스냅 인코포레이티드 이미지 변경자들의 선택적 식별 및 순서화
CN106791357A (zh) 2016-11-15 2017-05-31 维沃移动通信有限公司 一种拍摄方法和移动终端
CN106791377B (zh) 2016-11-29 2019-09-27 Oppo广东移动通信有限公司 控制方法、控制装置及电子装置
JP6765956B2 (ja) 2016-12-27 2020-10-07 キヤノン株式会社 撮像制御装置及びその制御方法
JP6873688B2 (ja) 2016-12-27 2021-05-19 キヤノン株式会社 画像処理装置および画像処理方法、撮像装置、プログラム
CN106791420B (zh) 2016-12-30 2019-11-05 深圳先进技术研究院 一种拍摄控制方法及装置
KR102289837B1 (ko) 2017-01-06 2021-08-17 삼성전자주식회사 촬영 방법 및 전자 장치
JP6748582B2 (ja) 2017-01-10 2020-09-02 キヤノン株式会社 撮像装置及びその制御方法、プログラム、並びに記録媒体
US10176622B1 (en) 2017-01-24 2019-01-08 Amazon Technologies, Inc. Filtering of virtual reality images to mitigate playback transformation artifacts
US20180227482A1 (en) 2017-02-07 2018-08-09 Fyusion, Inc. Scene-aware selection of filters and effects for visual digital media content
US10630888B2 (en) 2017-02-09 2020-04-21 Samsung Electronics Co., Ltd. Method and apparatus for selecting capture configuration based on scene analysis
WO2018159864A1 (ko) 2017-02-28 2018-09-07 엘지전자 주식회사 이동 단말기 및 그 이동 단말기의 제어 방법
JP6456422B2 (ja) * 2017-03-17 2019-01-23 株式会社Pfu サムネイル画像表示装置、サムネイル画像表示装置の制御方法及びコンピュータの制御プログラム
KR102386398B1 (ko) 2017-03-17 2022-04-14 삼성전자주식회사 촬영 모드에 따라 이미지에 대한 표시자를 다르게 제공하는 방법 및 그 전자 장치
US20180278823A1 (en) 2017-03-23 2018-09-27 Intel Corporation Auto-exposure technologies using odometry
KR102361885B1 (ko) 2017-03-28 2022-02-11 삼성전자주식회사 전자 장치 및 전자 장치 제어 방법
KR20180116574A (ko) 2017-04-17 2018-10-25 엘지전자 주식회사 이동 단말기
JP2018179911A (ja) 2017-04-20 2018-11-15 株式会社デンソー 測距装置及び距離情報取得方法
US10467775B1 (en) 2017-05-03 2019-11-05 Amazon Technologies, Inc. Identifying pixel locations using a transformation function
DK179948B1 (en) 2017-05-16 2019-10-22 Apple Inc. Recording and sending Emoji
US10521948B2 (en) 2017-05-16 2019-12-31 Apple Inc. Emoji recording and sending
EP3529779A1 (en) 2017-05-16 2019-08-28 Apple Inc. Emoji recording and sending
KR101981908B1 (ko) 2017-05-16 2019-08-28 애플 인크. 사용자 인터페이스들 사이에 내비게이팅하고 제어 객체들과 상호작용하기 위한 디바이스, 방법, 및 그래픽 사용자 인터페이스
WO2018144339A2 (en) 2017-05-16 2018-08-09 Apple Inc. Devices, methods, and graphical user interfaces for navigating between user interfaces and interacting with control objects
DK180859B1 (en) 2017-06-04 2022-05-23 Apple Inc USER INTERFACE CAMERA EFFECTS
US10972672B2 (en) 2017-06-05 2021-04-06 Samsung Electronics Co., Ltd. Device having cameras with different focal lengths and a method of implementing cameras with different focal lengths
US10218697B2 (en) 2017-06-09 2019-02-26 Lookout, Inc. Use of device risk evaluation to manage access to services
KR102351542B1 (ko) 2017-06-23 2022-01-17 삼성전자주식회사 시차 보상 기능을 갖는 애플리케이션 프로세서, 및 이를 구비하는 디지털 촬영 장치
US20190007589A1 (en) 2017-06-30 2019-01-03 Qualcomm Incorporated Camera initialization for multiple camera devices
US11051691B2 (en) 2017-07-31 2021-07-06 Vye, Llc Ocular analysis
CN108305317B (zh) 2017-08-04 2020-03-17 腾讯科技(深圳)有限公司 一种图像处理方法、装置及存储介质
US11108953B2 (en) 2017-08-18 2021-08-31 Huawei Technologies Co., Ltd. Panoramic photo shooting method and apparatus
WO2019047028A1 (zh) 2017-09-05 2019-03-14 广东欧珀移动通信有限公司 拍摄界面显示方法、装置及终端
WO2019050562A1 (en) 2017-09-09 2019-03-14 Apple Inc. GRAPHIC USER DEVICES, METHODS, AND USER INTERFACES FOR DISPLAYING BACKGROUND DEVICE
JP2019054461A (ja) 2017-09-15 2019-04-04 オリンパス株式会社 撮像装置および撮像方法
KR102385360B1 (ko) 2017-09-19 2022-04-12 삼성전자주식회사 이미지 보정을 수행하는 전자 장치 및 그 동작 방법
US10372298B2 (en) 2017-09-29 2019-08-06 Apple Inc. User interface for multi-user communication session
US10467729B1 (en) 2017-10-12 2019-11-05 Amazon Technologies, Inc. Neural network-based image processing
US10657695B2 (en) 2017-10-30 2020-05-19 Snap Inc. Animated chat presence
US10498971B2 (en) 2017-11-03 2019-12-03 Qualcomm Incorporated Systems and methods for high-dynamic range imaging
CN107820011A (zh) 2017-11-21 2018-03-20 维沃移动通信有限公司 拍照方法和拍照装置
US10645272B2 (en) 2017-12-04 2020-05-05 Qualcomm Incorporated Camera zoom level and image frame capture control
US20190205861A1 (en) 2018-01-03 2019-07-04 Marjan Bace Customer-directed Digital Reading and Content Sales Platform
US10630903B2 (en) 2018-01-12 2020-04-21 Qualcomm Incorporated Systems and methods for image exposure
JP7071137B2 (ja) 2018-01-26 2022-05-18 キヤノン株式会社 電子機器およびその制御方法
US20190253619A1 (en) 2018-02-09 2019-08-15 Apple Inc. Media capture lock affordance for graphical user interface
US11112964B2 (en) 2018-02-09 2021-09-07 Apple Inc. Media capture lock affordance for graphical user interface
US10374994B1 (en) 2018-02-21 2019-08-06 King.Com Ltd. Messaging system
CN108419030B (zh) 2018-03-01 2021-04-20 思特威(上海)电子科技股份有限公司 具有led闪烁衰减的hdr图像传感器像素结构及成像系统
US11070743B2 (en) 2018-03-27 2021-07-20 Huawei Technologies Co., Ltd. Photographing using night shot mode processing and user interface
US10643386B2 (en) 2018-04-11 2020-05-05 Zillow Group, Inc. Presenting image transition sequences between viewing locations
US11722764B2 (en) 2018-05-07 2023-08-08 Apple Inc. Creative camera
US10375313B1 (en) 2018-05-07 2019-08-06 Apple Inc. Creative camera
KR102597680B1 (ko) 2018-06-07 2023-11-03 삼성전자주식회사 맞춤형 화질 이미지를 제공하는 전자 장치 및 그 제어 방법
KR102598109B1 (ko) 2018-08-08 2023-11-06 삼성전자주식회사 이미지 분석에 기반하여, 디스플레이를 통해 표시된 영상과 메모리에 저장된 영상과 관련하여 알림을 제공하는 전자 장치 및 방법
CN110839129A (zh) 2018-08-17 2020-02-25 Oppo广东移动通信有限公司 图像处理方法、装置以及移动终端
CN109005366B (zh) 2018-08-22 2020-04-28 Oppo广东移动通信有限公司 摄像模组夜景摄像处理方法、装置、电子设备及存储介质
US11120528B1 (en) 2018-09-11 2021-09-14 Apple Inc. Artificial aperture adjustment for synthetic depth of field rendering
US10645294B1 (en) 2019-05-06 2020-05-05 Apple Inc. User interfaces for capturing and managing visual media
US11321857B2 (en) 2018-09-28 2022-05-03 Apple Inc. Displaying and editing images with depth information
US11128792B2 (en) 2018-09-28 2021-09-21 Apple Inc. Capturing and displaying images with multiple focal planes
US10902661B1 (en) 2018-11-28 2021-01-26 Snap Inc. Dynamic composite user identifier
US11288880B2 (en) 2019-01-18 2022-03-29 Snap Inc. Template-based generation of personalized videos
US11381739B2 (en) 2019-01-23 2022-07-05 Intel Corporation Panoramic virtual reality framework providing a dynamic user experience
JP7268369B2 (ja) 2019-01-30 2023-05-08 株式会社リコー 撮像システム、現像システム、撮像方法、及びプログラム
US10992619B2 (en) 2019-04-30 2021-04-27 Snap Inc. Messaging system with avatar generation
DK201970531A1 (en) 2019-05-06 2021-07-09 Apple Inc Avatar integration with multiple applications
US11706521B2 (en) 2019-05-06 2023-07-18 Apple Inc. User interfaces for capturing and managing visual media
US20200380768A1 (en) 2019-06-02 2020-12-03 Apple Inc. Parameterized generation of two-dimensional images from a three-dimensional model
US11074753B2 (en) 2019-06-02 2021-07-27 Apple Inc. Multi-pass object rendering using a three- dimensional geometric constraint
US11189098B2 (en) 2019-06-28 2021-11-30 Snap Inc. 3D object camera customization system
US20200412975A1 (en) 2019-06-28 2020-12-31 Snap Inc. Content capture with audio input feedback
KR102241153B1 (ko) 2019-07-01 2021-04-19 주식회사 시어스랩 2차원 이미지로부터 3차원 아바타를 생성하는 방법, 장치 및 시스템
US11488359B2 (en) 2019-08-28 2022-11-01 Snap Inc. Providing 3D data for messages in a messaging system
US11189104B2 (en) 2019-08-28 2021-11-30 Snap Inc. Generating 3D data in a messaging system
CN110662083B (zh) 2019-09-30 2022-04-22 北京达佳互联信息技术有限公司 数据处理方法、装置、电子设备及存储介质
US11252274B2 (en) 2019-09-30 2022-02-15 Snap Inc. Messaging application sticker extensions
US11054973B1 (en) 2020-06-01 2021-07-06 Apple Inc. User interfaces for managing media
US11625874B2 (en) 2020-08-04 2023-04-11 Triple Lift, Inc. System and method for intelligently generating digital composites from user-provided graphics
US11212449B1 (en) 2020-09-25 2021-12-28 Apple Inc. User interfaces for media capture and management
US11539876B2 (en) 2021-04-30 2022-12-27 Apple Inc. User interfaces for altering visual media

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016039613A (ja) 2014-08-11 2016-03-22 キヤノン株式会社 画像処理装置及びその制御方法、プログラム、記憶媒体
WO2017218193A1 (en) 2016-06-12 2017-12-21 Apple Inc. User interface for camera effects

Also Published As

Publication number Publication date
AU2022228121B2 (en) 2024-01-04
JP7090210B2 (ja) 2022-06-23
AU2022228121A1 (en) 2022-09-29
AU2019338180B2 (en) 2022-07-07
JP2022133303A (ja) 2022-09-13
EP3827334A1 (en) 2021-06-02
US20200082599A1 (en) 2020-03-12
DK201870623A1 (en) 2020-04-15
KR102534596B1 (ko) 2023-05-26
CN112860173A (zh) 2021-05-28
US11468625B2 (en) 2022-10-11
KR20230071201A (ko) 2023-05-23
JP2021536059A (ja) 2021-12-23
US20220319100A1 (en) 2022-10-06
CN112654956A (zh) 2021-04-13
AU2019338180A1 (en) 2021-03-25
KR20210036388A (ko) 2021-04-02

Similar Documents

Publication Publication Date Title
JP7450664B2 (ja) シミュレートされた深度効果のためのユーザインタフェース
US11895391B2 (en) Capturing and displaying images with multiple focal planes
US11100349B2 (en) Audio assisted enrollment
US20230252659A1 (en) Displaying and editing images with depth information
JP2023011639A (ja) 拡張されたユーザ対話のための画像データ
US11670144B2 (en) User interfaces for indicating distance
US20230319413A1 (en) User interfaces for camera sharing
JP2023036715A (ja) グラフィカルユーザインタフェースのためのメディアキャプチャロックアフォーダンス
WO2020055613A1 (en) User interfaces for simulated depth effects
JP7419458B2 (ja) メディアを管理するためのユーザインタフェース
KR102617652B1 (ko) 광각 화상 회의에 대한 사용자 인터페이스들
US20240080543A1 (en) User interfaces for camera management
WO2023239620A1 (en) Sticker creation for messaging
WO2023196231A1 (en) User interfaces for camera sharing

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220708

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220708

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230824

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230925

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231026

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240305

R150 Certificate of patent or registration of utility model

Ref document number: 7450664

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150