JP6521864B2 - 携帯電子デバイスを用いた方法、携帯電子デバイス、およびコンピュータ・プログラム - Google Patents

携帯電子デバイスを用いた方法、携帯電子デバイス、およびコンピュータ・プログラム Download PDF

Info

Publication number
JP6521864B2
JP6521864B2 JP2015544172A JP2015544172A JP6521864B2 JP 6521864 B2 JP6521864 B2 JP 6521864B2 JP 2015544172 A JP2015544172 A JP 2015544172A JP 2015544172 A JP2015544172 A JP 2015544172A JP 6521864 B2 JP6521864 B2 JP 6521864B2
Authority
JP
Japan
Prior art keywords
image
processor
electronic device
portable electronic
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015544172A
Other languages
English (en)
Other versions
JP2016502348A (ja
Inventor
ボス、グレゴリー、ジェイ
コズロスキー、ジェームズ、アール
ピックオーバー、クリフォード、アラン
サンド、アン、アール
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of JP2016502348A publication Critical patent/JP2016502348A/ja
Application granted granted Critical
Publication of JP6521864B2 publication Critical patent/JP6521864B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/02Constructional features of telephone sets
    • H04M1/0202Portable telephone sets, e.g. cordless phones, mobile phones or bar type handsets
    • H04M1/026Details of the structure or mounting of specific components
    • H04M1/0264Details of the structure or mounting of specific components for a camera module assembly
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2621Cameras specially adapted for the electronic generation of special effects during image pickup, e.g. digital cameras, camcorders, video cameras having integrated special effects capability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Studio Devices (AREA)

Description

関連出願の相互参照
本出願は、2012年11月27日に出願された「METHOD AND APPARATUS FOR TAGGING MEDIA WITH IDENTITY OF CREATOR OR SCENE」という名称の米国特許出願第13/686,433号に基づき、優先権を主張するものであり、その開示は、参照により全体が本明細書に組み込まれる。
本発明は、一般に、少なくとも1つのカメラを含む電子デバイス、および画像処理を行う電子デバイスに関し、より詳細には、画像を処理する電子デバイスであって、少なくとも1つのカメラを有する電子デバイスが前方画像および後方画像を取得し処理する、電子デバイスに関する。
スマートフォンはしばしば、反対方向に向いた2つのカメラを有する。初期のスマートフォンは、主に、携帯情報端末(PDA)と移動電話またはカメラフォンとの機能を組み合わせていた。今日のモデルは、携帯メディア・プレイヤ、低性能コンパクト・デジタル・カメラ、ポケット・ビデオ・カメラ、および全地球測位システム(GPS)ナビゲーション・ユニットの機能も組み合わせる役割をする。また、最新のモデルは、典型的には、高解像度タッチ・スクリーン、モバイルに最適化されたサイトだけでなく標準的ウェブ・ページにアクセスし適切に表示することができるウェブ・ブラウザ、およびWi−Fiおよびモバイル・ブロードバンドを介する高速データ・アクセスを含む。このような機能の統合によって、現在では莫大な数の能力および機能が開発および実装の対象となっている。
米国特許出願第13/686,433号
本発明は、携帯電子デバイスを用いた方法、携帯電子デバイス、およびコンピュータ・プログラムを提供する。
一実施形態では、電子デバイスを用いた方法が開示される。この方法は、メモリに結合されたプロセッサを有する電子デバイスを用いて、電子デバイスの前面カメラからの前方画像、および電子デバイスの後面カメラからの後方画像を同時期に(contemporaneously)取得するステップを含む。随意に、同時期に取得するステップは、単一のトリガ(たとえば、単一トリガ・イベント)に応答する。この方法はさらに前方画像内に後方画像を、または後方画像内に前方画像を埋め込み、それにより合成画像を作成するステップを含む。
別の実施形態では、携帯電子デバイスが、前面カメラと、後面カメラと、コンピュータ命令を記憶するメモリと、メモリ、前面カメラ、および後面カメラに通信可能に結合されたプロセッサとを含み、プロセッサは、コンピュータ命令を実行することに応じて動作を行う。動作は、前面カメラからの前方画像および後面カメラからの後方画像を同時期に取得することと、前方画像内に後方画像を埋め込み、または後方画像内に前方画像を埋め込み、それにより合成画像を作成することとを含むことができる。
さらに別の実施形態では、コンピュータ可読記憶媒体が、コンピュータ命令を含み、コンピュータ命令は、プロセッサによって実行されることに応じて、携帯電子デバイスの前面カメラからの前方画像および後面カメラからの後方画像を同時期に取得することと、前方画像内に後方画像を埋め込み、または後方画像内に前方画像を埋め込み、それにより合成画像を作成することとを含む動作を、プロセッサに行わせる。
添付の図面では、個々の図面にわたって同様の参照番号は同一または機能的に同様の要素を示し、添付の図面は、以下の詳細な説明とともに本明細書に組み込まれその一部を形成し、さらに種々の実施形態を例示し、すべて本発明による種々の原理および利点を説明する役割をする。
本発明の一実施形態による携帯電子デバイスの一例を示すブロック図である。 本発明の一実施形態による別の携帯電子デバイスの一例を示す図である。 本発明による種々の方法実施形態を示す動作フロー図である。 本発明の種々の実施形態による、後面カメラ、前面カメラ、または両方に関連付けられた情報を表示する携帯電子デバイスに関連付けられたディスプレイの一例を示す図である。 本発明の種々の実施形態による、後面カメラ、前面カメラ、または両方に関連付けられた情報を表示する携帯電子デバイスに関連付けられたディスプレイの一例を示す図である。 本発明の種々の実施形態による、後面カメラ、前面カメラ、または両方に関連付けられた情報を表示する携帯電子デバイスに関連付けられたディスプレイの一例を示す図である。 本発明の種々の実施形態による、後面カメラ、前面カメラ、または両方に関連付けられた情報を表示する携帯電子デバイスに関連付けられたディスプレイの一例を示す図である。 本発明の一実施形態によるワイヤレス・デバイスの詳細を示すブロック図である。
図1は、本発明の種々の実施形態に適用可能な動作環境100の一例を示す。図1は、通信デバイス100のような携帯電子デバイスの説明のための例を示す。通信デバイス100は、送信器部分および受信器部分を有する有線またはワイヤレスあるいはその両方のトランシーバ102(本明細書ではトランシーバ102)、ユーザ・インターフェース(UI)104、電源114、位置受信器116、後面カメラ118、前面カメラ120、メモリ122、ならびに、通信デバイス100の動作を管理するためのコントローラ106を含むことができる。カメラ118または120は、電荷結合素子(CCD)またはスマートフォンで一般に使用される他の撮像素子のうちの1つまたは複数を含むことができる。カメラは、反対方向に向くことができ、または異なるように位置合わせまたは配向されてもよいが、一般的には、一方のカメラが撮影者の画像を取得し、他方の1つまたは複数のカメラはビューまたはシーンを取得し、ビューまたはシーンは、ディスプレイまたはファインダを通して直接または間接的に外向きに撮影者に可視とすることができる。トランシーバ102は、短距離または長距離ワイヤレス・アクセス技術、少数の例として、ブルートゥース、ZigBee、WiFi、デジタル強化コードレス通信(Digital Enhanced Cordless Telecommunications:DECT)、またはセルラ通信技術などをサポートすることができる。セルラ技術は、たとえば、符号分割多重アクセス1X(code division multiple access-1X:CDMA−1X)、ユニバーサル移動電話システム/高速ダウンリンク・パケット・アクセス(Universal Mobile Telephone System/High Speed Downlink Packet Access:UMTS/HSDPA)移動通信用グローバル・システム/汎用パケット無線システム(Global System for Mobile/General Packet Radio System:GSM/GPRS)、時分割多重アクセス/GSM環境拡張データ(time division multiple access/Enhanced Data GSM Environment:TDMA/EDGE)、エボリューション・データ最適化(Evolution Data Optimized:EV/DO)、マイクロ波アクセスのための世界的相互運用(Worldwide Interoperability for Microwave Access:WiMAX)、ソフトウェア定義無線(Software Defined Radio:SDR)、ロング・ターム・エボリューション(Long Term Evolution:LTE)、ならびに将来生じる他の次世代ワイヤレス通信技術を含むことができる。トランシーバ102はまた、回線交換有線アクセス技術(公衆交換電話網(PSTN)など)、パケット交換有線アクセス技術(伝送制御プロトコル/インターネット・プロトコル(TCP/IP)、ボイス・オーバ・インターネット・プロトコル(VoIP)など)、およびこれらの組み合わせをサポートするようにも適合され得る。
UI104は、通信デバイス100の動作を操作するためのローラ・ボール、光学ナビゲーション・モジュール(すなわちトラックパッド)、ジョイスティック、マウス、またはナビゲーション・ディスクなどのナビゲーション機構を有する、押下可能、タッチセンサ式、または仮想のキーパッド108を含むことができる。キーパッド108は、通信デバイス100のハウジング組立体の一体部分であってよく、あるいは、接続された有線インターフェース(ユニバーサル・シリアル・バス(USB)ケーブルなど)、またはたとえばブルートゥースをサポートするワイヤレス・インターフェースにより、通信デバイス100に動作可能に結合された独立したデバイスであってもよい。キーパッド108は、電話で一般に使用される数字キーパッドまたは英数字キーを有するQWERTYキーパッドあるいはその両方を表すことができる。キーパッド108はまた、単一のボタンまたはスイッチ(単一のトリガ)のアクティブ化のとき、後面カメラ118および前面カメラ120から画像を同時期に取得する(たとえば、単一のボタンまたはスイッチの作動を検出することを含む単一のトリガに応答して取得する)ためにプロセッサによって使用され得る単一のボタンまたはスイッチを表すこともできる。UI104は、画像を通信デバイス100のエンド・ユーザに伝達するための単色もしくはカラーの液晶ディスプレイ(LCD)、有機発光ダイオード(OLED)、または他の適切な表示技術などのディスプレイ110をさらに含むことができる。ディスプレイ110がタッチセンサ式である実施形態では、キーパッド108の一部またはすべてが、ナビゲーション機構を有するディスプレイ110によって提示され得る。
ディスプレイ110は、タッチ・スクリーン技術を使用して、ユーザ入力(たとえば、ユーザの指の接触)を検出するためのユーザ・インターフェースの役割をすることもできる。タッチ・スクリーン・ディスプレイとして、通信デバイス100は、指の接触を用いてユーザによって選択され得るグラフィカル・ユーザ・インターフェース(GUI)要素を備えるユーザ・インターフェースを提示するように適合され得る。タッチ・スクリーン・ディスプレイ110は、ユーザの指のどれだけの表面積がタッチ・スクリーン・ディスプレイの部分に配置されているかを検出するための容量性、抵抗性、または他の形態の感知技術を備えることができる。この感知情報は、GUI要素の操作を制御するために使用することができる。ディスプレイ110は、通信デバイス100のハウジング組立体の一体部分であってよく、あるいは、接続された有線インターフェース(ケーブルなど)またはワイヤレス・インターフェースにより、通信デバイス100に通信可能に結合された独立したデバイスであってもよい。ディスプレイ110は、代替または追加として、カメラ用のファインダの一部分であってもよい。
UI104はまた、加速度計、ジャイロスコープ、GPSセンサ、傾斜計、光センサ、オーディオ・スペクトラム・センサ、超音波送信器およびセンサ、赤外線または他の近接センサ、あるいは配向または動きを検出することができる別のセンサが含まれ得る、環境センサ113を含むことができる。環境センサ113には、温度計、圧力計、または他の環境センサも含まれ得る。UI104は、(人間の耳に近接して聴かれる音声などの)低ボリューム・オーディオ、および(ハンズフリー操作のためのスピーカフォンなどの)高ボリューム・オーディオを伝達するためのオーディオ技術を利用するオーディオ・システム112をさらに含むことができる。オーディオ・システム112は、エンド・ユーザのオーディオ信号を受け取るためのマイクロフォンをさらに含むことができる。オーディオ・システム112は、音声認識アプリケーションのために使用することもできる。UI104内の環境センサ113は、静止画像または動画像を取り込むため、または単に環境光条件を取り込むための電荷結合素子(CCD)カメラとすることもできる。
電源114は、長距離または短距離の携帯用途を促進するためにエネルギーを通信デバイス100の構成要素に供給するための交換可能および再充電可能なバッテリなどの一般的電力管理技術、供給調整技術、または充電システム技術、あるいはその一部または全部を利用することができる。代替としてまたは組み合わせで、充電システムは、USBポートまたは他の適切なテザリング技術などの物理インターフェースを介して供給されるDC電力などの外部電源を利用することができる。
位置受信器116は、ナビゲーションなどの位置サービスを促進するために使用できる、GPS衛星の配置により生成される信号に基づいて通信デバイス100の位置を識別するための補助GPSの能力を有する全地球測位システム(GPS)受信器などの一般的位置特定技術を利用することができる。
動作環境は、これらの実施形態による通信デバイス100に限定されないことに留意されたい。動作環境は、単に前面カメラおよび後面カメラなどを有する任意の電子デバイスであり得る。本明細書に説明されるような通信デバイス100は、ハッシュ線(hash lines)で例示的に示された図1に示す回路構成要素の大部分とともに動作することができる。これらの変形実施形態は、本明細書に示し説明されるように企図される。
明確にするため、本明細書で一般的に使用される用語「前面カメラ」は、前面画像またはピクチャ(picture)またはシーンもしくはビューを撮る撮影者から離れるように外側に向いているカメラを指す。本明細書で一般的に使用される用語「後面カメラ」は、自身のピクチャを撮る撮影者の方へ内側に向いているカメラを指す。カメラ・デバイスは一般にこの用語を使用する。スマートフォンなど一部の例では、用語が逆にされ、「前面カメラ」は、撮影者のピクチャを取り込むカメラを指し、「後面カメラ」は、撮影者から離れるように向いているシーンまたはビューのピクチャを取り込むカメラを指す。本開示は、一般に上記の第1の定義を使用するが、それらは交換可能であり、本明細書で両方の解釈が企図されることに留意されたい。
図2を参照すると、種々の実施形態による携帯電子デバイス200は、後面カメラ204および前面カメラ(図示せず)を含む。携帯電子デバイスは、前面画像206および後面画像208の組み合わせである合成画像を表示するためのディスプレイ202をさらに含む。合成画像は、同時または同時期に取り込まれた前面カメラおよび後面カメラからの二重画像であり得る。スマートフォン画面またはカメラ・ファインダ上で、両方の画像は、次のように合成することができる。すなわち、前面画像がフルメイン画面上、後面画像がメイン画面ピクチャ・イン・ピクチャ(PIP)上にあって、ピクチャ・イン・ピクチャが、前面画像構成に対して干渉しないまたは妨げにならないように自動的に配置される。両方の画像をアクティブ・ファインダに保持することで、ユーザは、二重画像を合成するために、前面画像および後面画像に対して別個に、設定、カメラ・アングル、または焦点を調節することができる。他の調節の中でも特に、自動照明補償が、プロセッサを用いて、画像が同時期に取り込まれる前に各カメラで別個に行われてもよい。たとえば、プロセッサは、前方画像および後方画像を同時期に取得する前に、前方画像および後方画像を互いに位置合わせするように自動的に調節を行うことができる。次いで、プロセッサは、単一のトリガ・イベントに応答して、前方画像および後方画像を取得することができる。図2に示すように、携帯電子デバイスおよび対応する後面カメラおよび前面カメラは、同時期の後面画像および前面画像の取得の前に、ディスプレイ202またはファインダ上で適切に位置合わせ(および他の形式の調整)がされ得る
いくつかの実施形態では、前面画像および後面画像は、図4〜図7の説明でさらに詳細を示すように、各画像内に存在する個人、表情、またはオブジェクト/風景、あるいはその一部または全部に関する情報に対する画像分析、機械学習、および他の自動アルゴリズムによって分析され得る。そして、両方の画像のこの同時または同時期の分析は、画像に関する関係情報を識別するための手段を提供することができる。そして、この関係情報、たとえば、2つの画像の個人間の社会的関係などは、別の文脈、たとえば、両方の個人のソーシャル・ネットワークのメンバへのアラートまたはメッセージの投稿および送信、カレンダの予約の設定、ならびに商取引の促進などで使用することができる。関係情報は、識別された場合、ユーザ体験とセキュリティおよび写真管理など他のアプリケーションとの両面で、個々の画像の情報よりも価値が高くなり得る。セキュリティに関して、前面画像は、そのコンテンツを決定するために分析することができ、後面画像は、撮影者(たとえば、電子デバイスのユーザ)が撮影を行うのを許可されるかどうかを決定するために分析することができる。写真管理に関して、撮影者は、前面画像および後面画像の分析に基づいて、写真の所有者でないと決定されることがあり、その場合、写真は、許可された第三者(または前面画像内の被写体)のみがアクセスし得る場所で保護され得る。
種々の例の態様がシステム、方法、またはコンピュータ・プログラム製品として実施され得ることは、当業者には理解されよう。したがって、本明細書における例は、完全にハードウェアの実施形態、(ファームウェア、常駐ソフトウェア、マイクロコードなどを含む)完全にソフトウェアの実施形態、または、本明細書では「回路」、「モジュール」もしくは「システム」としてすべて総称され得るソフトウェア態様とハードウェア態様を組み合わせる実施形態の形態をとり得る。さらに、本明細書における態様は、コンピュータ可読プログラム・コードを具現化する1つまたは複数のコンピュータ可読媒体として実施されるコンピュータ・プログラム製品の形態をとり得る。
1つまたは複数のコンピュータ可読媒体の任意の組み合わせが利用され得る。コンピュータ可読媒体は、コンピュータ可読信号媒体またはコンピュータ可読記憶媒体とすることができる。コンピュータ可読記憶媒体は、以下に限定されないが、たとえば、電子、磁気、光、電磁気、赤外線、または半導体のシステム、装置、またはデバイス、あるいはこれらの任意の適切な組み合わせとすることができる。コンピュータ可読記憶媒体のさらに具体的な例(非包括的リスト)には、1つまたは複数の配線を有する電気接続、携帯コンピュータ・ディスケット、ハード・ディスク、ランダム・アクセス・メモリ(RAM)、読み取り専用メモリ(ROM)、消去可能プログラム可能読み取り専用メモリ(EPROMまたはフラッシュ・メモリ)、光ファイバ、携帯コンパクト・ディスク読み取り専用メモリ(CD−ROM)、光ストレージ・デバイス、磁気ストレージ・デバイス、あるいは上記の任意の適切な組み合わせが含まれる。本明細書の文脈では、コンピュータ可読記憶媒体は、命令実行システム、装置、もしくはデバイスによってまたはこれらに関連して使用するためのプログラムを含むまたは記憶することができる任意の有形媒体とすることができる。
コンピュータ可読信号媒体は、たとえばベースバンド中にまたは搬送波の一部として具現化されたコンピュータ可読プログラム・コードを有する、伝播データ信号を含むことができる。そのような伝播信号は、電磁気、光、またはこれらの任意の適切な組み合わせを含むがこれらに限定されない、種々の形態のいずれかをとり得る。コンピュータ可読信号媒体は、コンピュータ可読記憶媒体ではなく、命令実行システム、装置、もしくはデバイスによってまたはこれらに関連して使用するためのプログラムを通信、伝播、または伝送することができる、任意のコンピュータ可読媒体とすることができる。
コンピュータ可読媒体上に具現化されたプログラム・コードは、以下に限定されないが、ワイヤレス、有線、光ファイバ・ケーブル、RFなど、または上記の任意の適切な組み合わせを含む、任意の適切な媒体を使用して送信され得る。
本発明の態様の動作を実行するためのコンピュータ・プログラム・コードは、Java(R)、Smalltalk(R)、またはC++などのオブジェクト指向プログラミング言語、および「C」プログラミング言語または類似のプログラミング言語などの従来の手続き型プログラミング言語を含む、1つまたは複数のプログラミング言語の任意の組み合わせで記述することができる。プログラム・コードは、完全にユーザのコンピュータ上で実行する、スタンドアロン・ソフトウェア・パッケージとして部分的にユーザのコンピュータ上で実行する、部分的にユーザのコンピュータ上かつ部分的に遠隔コンピュータ上で実行する、または完全に遠隔コンピュータまたはサーバ上で実行することができる。後者のシナリオでは、ローカル・エリア・ネットワーク(LAN)または広域ネットワーク(WAN)を含む任意のタイプのネットワークを介して、遠隔コンピュータがユーザのコンピュータに接続されてもよく、あるいは(たとえば、インターネット・サービス・プロバイダを使用してインターネットを介して)外部のコンピュータへの接続が行われてもよい。
本発明の態様は、本発明の実施形態による方法、装置(システム)およびコンピュータ・プログラム製品のフローチャート図またはブロック図あるいはその両方を参照して以下で説明される。フローチャート図またはブロック図あるいはその両方の各ブロック、およびフローチャート図またはブロック図あるいはその両方におけるブロックの組み合わせは、コンピュータ・プログラム命令によって実装することができることは理解されよう。これらのコンピュータ・プログラム命令は、コンピュータまたは他のプログラム可能データ処理装置のプロセッサを介して実行するこれらの命令が、フローチャートまたはブロック図あるいはその両方の1つまたは複数のブロックで指定された機能/動作を実装するための手段を作成するように、汎用コンピュータ、専用コンピュータ、または他のプログラム可能データ処理装置のプロセッサに提供されてマシンを形成するものであってよい。
また、これらのコンピュータ・プログラム命令は、コンピュータ可読媒体に格納された命令が、フローチャートまたはブロック図あるいはその両方の1つまたは複数のブロックで指定された機能/動作を実装する命令を含む製品を生成するように、コンピュータ可読媒体に格納され、コンピュータ、他のプログラム可能データ処理装置、または他のデバイスに特定の様式で機能するよう指示するものであってよい。
また、コンピュータ・プログラム命令は、コンピュータまたは他のプログラム可能装置上で実行する命令が、フローチャートまたはブロック図あるいはその両方の1つまたは複数のブロックで指定された機能/動作を実装するためのプロセスを提供するように、コンピュータ実装プロセスを生成するべく、コンピュータ、他のプログラム可能データ処理装置、または他のデバイスにロードされ、そのコンピュータ、他のプログラム可能装置、または他のデバイス上で一連の動作ステップを実行させるものであってよい。
図3を参照すると、フロー図300は、本明細書の種々の実施形態によるシステム、方法、およびコンピュータ・プログラム製品の可能な実装のアーキテクチャ、機能性、および動作を示している。これに関連して、フロー図300の各ブロックは、指定された論理機能を実装するための1つまたは複数の実行可能命令を含む、モジュール、セグメント、またはコードの部分を表し得る。また、一部の代替実装においてブロック内に記載された機能は、図面に記載された順序から外れて行われ得ることに留意されたい。たとえば、連続して示される2つのブロックは、実際には、関係する機能によっては、実質的に並行に(または同時期に)実行されることがあり、あるいは時として逆の順序でブロックが実行されることがある。また、フロー図の例示の各ブロック、およびフロー図内のブロックの組み合わせは、指定された機能または動作を実行する専用ハードウェア・ベースのシステム、または専用ハードウェアとコンピュータ命令の組み合わせによって実装され得ることに留意されたい。
図3は、通信デバイスなどの携帯電子デバイスによって同時期に取り込まれる前面画像および後面画像を利用する一例を示す動作フロー図である。図3の動作フロー図300は、ステップ302で、携帯通信デバイスなどの電子デバイスの前面カメラからの前方画像および後面カメラからの後面画像を同時期または同時に取得することにより開始する。次いで、この方法はステップ304に進み、ステップ304では、(たとえば、合成画像を作成するように、)後面画像が前面画像に埋め込まれ、または代わりに前面画像が後面画像に埋め込まれる。「埋め込み」は、多くの形態をとり得る。たとえば、埋め込みは、可視またはビューから隠された透かし(watermark)またはデジタル透かしとすることができる。埋め込まれた情報は、暗号化されるとともに人間の視覚で感知されない(たとえば隠される)ことが可能な、ステガノグラフィ情報(秘密情報)とすることもできる。限定ではなく、たとえば、後方画像から導出された秘密情報を、合成画像内にステガノグラフィで埋め込むことができる。図3に示されるステップは特定の順序で実行される必要がなく、1つまたは複数のステップが並列に実行され得ることに留意されたい。さらに、例示されるステップの多くが、ハッシュ線で例示的に示されるように任意であると考えられ得ることに留意されたい。これらの変形実施形態は、本明細書に示し説明されるように企図される。
透かしの1つの用途は、デジタル媒体の不正なコピーを防止または抑止することを意図する著作権保護システムである。この用途では、コピー・デバイスは、コピーを作成する前に信号から透かしを読み出し、透かしのコンテンツに応じて、コピーすべきか否かを決定する。もう1つの用途は、ソース追跡である。透かしは、配布の各ポイントでデジタル信号に埋め込まれる。後で著作物のコピーが発見された場合、コピーから透かしを読み出すことができ、配布のソースが分かる。この技法は、違法にコピーされた映画のソースを検出するために使用されていると報告されている。デジタル写真に説明情報の注釈を付けることが、不可視の透かしのもう1つの用途である。デジタル媒体用のいくつかのファイル・フォーマットは、メタデータと呼ばれる追加の情報を含むことができるが、デジタル透かしは、データがまさに信号内で搬送されることに特徴がある。
ステップ308で、動作フローはさらに、後面画像または前面画像に対するオブジェクトまたは顔認識分析などの取得画像に対する認識分析を行って、認識情報を生成することができる。たとえば、後面画像を表情に関して分析して、合成画像に適用するタグを決定することができる(図7参照)。代替的に、前面画像を使用可能な場合に表情に関して分析し、またはより広い意味で分析して、オブジェクトまたはシーンまたは前面ビューに対する適切なタグを決定することができる(図5および図6参照)。前面画像は、必ずしも顔または表情だけではなく、オブジェクトを認識するために分析することもできることに留意されたい。一実施形態では、ステップ310で、撮影者を識別するために後面画像に関連してメタデータが作成され得る。前述のように、アイデンティティは、セキュリティもしくはアクセス用途またはソーシャル・ネットワーキング用途、あるいは両方のために使用され得る。前面画像における個人の識別も、同様の用途のために認識され使用され得る。一実施形態では、ステップ312で、後面画像から撮影者を識別するメタデータを、前面画像内に埋め込むことができる。代替的に、前面画像内のシーンまたはビューを識別するメタデータを、後面画像からの撮影者のピクチャ内に埋め込むことができる。ステップ314で、タイムスタンプを透かしに追加することができる(図7参照)。
判定ブロック316で、先行ステップから分析および認識された1つまたは複数の画像を、データベースまたは許可されたリストに記憶された情報と比較して(たとえば、許可されたユーザ・リストに記憶されたユーザ情報と比較して)、合致が存在するかどうかを決定することができる。合致が存在する場合、セキュリティ機能またはソーシャル・ネットワーキング機能が遂行され得る。一実施形態では、ステップ318で、認識情報と、許可されたリストまたはデータベース(たとえば、許可されたユーザ・リスト)内のアイテム(ユーザ情報)との間に合致が発見されるまたは存在する場合、前面画像に関連付けられた認識情報をメモリに記憶することができる。
他の実施形態では、ステップ320で、後面画像が、前面画像内で認識された1つまたは複数のオブジェクトの妨げにならないように、前方画像内に配置され得る。ステップ322で、携帯電子デバイスはファインダを含むことができ、後面画像と前面画像の合成画像が、携帯電子デバイスのファインダ上で合成され得る。前述のように、前面画像は、ステップ324で、顔認識分析またはオブジェクト認識分析または両方によって分析することができる。
図4は、携帯電子デバイス400のディスプレイもしくは画面402、または別のデバイスもしくは処理システムのディスプレイ上に、合成画像404として表示するために、後面画像408を取り込む後面カメラ410、および前面画像406を取り込む前面カメラ(図示せず)を有する、携帯電子デバイス400を示す。少数の追加の例示的実施形態が、そのようなデバイスに対するディスプレイまたは画面が示される図5〜図7に例示されている。たとえば、携帯電子デバイス500は、可視メタデータ502が後面画像内に埋め込まれ、他のメタデータ504が前面画像内に埋め込まれた、前面画像406および後面画像を含むことができる。この特定の事例では、後面画像の顔認識分析が、データベースまたはリスト内の「ジェニー(Jenny)」と合致を発見しており、このデータベースまたはリストは、携帯電子デバイス500内にローカルに記憶可能であり、またはサーバもしくは他の遠隔デバイスに記憶される遠隔データベースもしくはリストからネットワークを介して記憶可能でありアクセス可能であり得る。前面画像の認識分析は、タグ「走る、オリンピック、およびレース(running, Olympics, and race)」の合致を可能にした。他のタグが、画像に関連して認識、読出し、および記憶され得るが、必ずしも表示されない。さらに、メタデータは、前面画像または後面画像のいずれかに埋め込み可能である、あるいは後面画像と前面画像の合成画像に埋め込み可能であることに留意されたい。
図6において、携帯電子デバイス600は、前面画像406がデジタル透かしとして後面画像408内に埋め込まれる事例を示している。したがって、撮影者の認識された後面画像408は、より目立つ画像であり、前面画像406は、合成画像の一部としての透かしの役割をすることができる。前面画像の認識分析はまた、前面画像または合成画像に対するメタデータ602を供給することができる。この例では、認識分析が、情報「2012年オリンピックでの受け渡し(Handoff at 2012 Olympics)」を提供する。図7では、携帯電子デバイス700は、前面画像406および後面画像408、ならびに図5と同様の(ジェニーを認識する)顔認識情報702を含むことができるが、さらに、画像が取り込まれた時のタイムスタンプ704を含むことができる。さらに、後面画像408の顔表情認識をタグ706の形態で提供することができる。この場合、「2012年11月6日午後4時27分(4:27pm Nov.6, 2012)」に取り込まれた「ジェニー」の認識されたピクチャが、おそらく前面画像406を彼女が見たことにより、彼女の「ポートレート(portrait)」ピクチャから「ジェニー」が「幸せ(happy)」で「笑顔(smiling)」であることが見込まれることをさらに示す。
図8は、コンピュータ・システム800の形態のマシンの例示的概略図を示し、コンピュータ・システム800において、命令のセットが、実行されたとき、マシンに上述の方法のいずれか1つまたは複数を実行させることができる。マシンの1つまたは複数の実例は、たとえば、図1、図2、図4、図5、図6、または図7に示されるように通信デバイス100、200、400、500、600、または700として動作することができる。いくつかの実施形態では、マシンは他のマシンに(たとえばネットワークを使用して)接続することができる。ネットワーク化された配置では、マシンは、サーバ−クライアント・ユーザ・ネットワーク環境におけるサーバまたはクライアント・ユーザ・マシンの資格で、またはピアツーピア(または分散)ネットワーク環境におけるピア・マシンとして動作することができる。
マシンには、サーバ・コンピュータ、クライアント・ユーザ・コンピュータ、パーソナル・コンピュータ(PC)、タブレットPC、スマートフォン、ラップトップ・コンピュータ、デスクトップ・コンピュータ、制御システム、ネットワーク・ルータ、スイッチまたはブリッジ、あるいは、そのマシンによって取り込まれる動作を指定する(順次または他の形式の)命令のセットを実行できる任意のマシンが含まれ得る。本明細書におけるデバイスは、画像取り込み、または音声、ビデオ、もしくはデータ通信を提供する任意の電子デバイスを広く含むことは理解されよう。さらに、単一のマシンが例示されているが、用語「マシン」は、本明細書に論じられた方法の任意の1つまたは複数を実施するための命令のセット(または複数のセット)を個別または一緒に実行する任意の集合のマシンを含むものとしても捉えられるべきである。
コンピュータ・システム800は、プロセッサ(またはコントローラ)802(たとえば、中央処理装置(CPU)、グラフィックス・プロセッシング・ユニット(GPU)、または両方)、メイン・メモリ804、およびスタティック・メモリ806を含むことができ、それらは、バス808を介して互いに通信する。コンピュータ・システム800は、ビデオ・ディスプレイ・ユニット810(たとえば、液晶ディスプレイ(LCD)、フラット・パネル・ディスプレイ、または固体ディスプレイ、あるいは組み合わせ)をさらに含むことができる。コンピュータ・システム800は、動きまたは方位センサ811、入力デバイス812(たとえば、キーボード)、カーソル制御デバイス814(たとえば、マウスまたはトラックパッド)、ディスク・ドライブ・ユニットまたは固体メモリなどのメモリ・デバイス816、信号生成デバイス818(たとえば、スピーカまたはリモート・コントロール)、およびネットワーク・インターフェース・デバイス820を含むことができる。
ディスク・ドライブ・ユニット816は、上記に例示されたそれらの方法を含む本明細書に説明された方法または機能の任意の1つまたは複数を実施する命令の1つまたは複数のセット(たとえばソフトウェア824)が記憶された、有形のコンピュータ可読記憶媒体822を含むことができる。命令824は、コンピュータ・システム800によるその実行中に、メイン・メモリ804、スタティック・メモリ806、またはプロセッサ802内、あるいはその一部または全部に完全にまたは少なくとも部分的に存在することができる。メイン・メモリ804およびプロセッサ802はまた、非一時的有形コンピュータ可読記憶媒体を構成することができる。
同様に、特定用途向け集積回路、プログラム可能論理アレイ、および他のハードウェア・デバイスを含むがこれらに限定されない専用ハードウェア実装が、本明細書に説明された方法を実装するように構築され得る。種々の実施形態の装置およびシステムを含むことができるアプリケーションは、種々の電子およびコンピュータ・システムを広く含むことができる。いくつかの実施形態では、モジュール間およびモジュールを介して伝達される関係する制御およびデータ信号を用いて、2つ以上の特定の相互接続されたハードウェア・モジュールまたはデバイスにおいて、あるいは特定用途向け集積回路の部分として、機能を実装する。したがって、例示的システムは、ソフトウェア、ファームウェア、およびハードウェアの実装に適用可能である。
種々の実施形態によれば、本明細書に説明された方法は、コンピュータ・プロセッサ上で実行されているソフトウェア・プログラムとしての動作を意図されている。さらに、ソフトウェア実装は、以下に限定されないが、分散処理もしくはコンポーネント/オブジェクト分散処理、並列処理、または仮想マシン処理を含むことができ、また、本明細書に説明された方法を実装するように構築することができる。
有形コンピュータ可読記憶媒体822は、単一の媒体として例示的実施形態で示されているが、用語「有形コンピュータ可読記憶媒体」は、1つまたは複数のセットの命令を記憶する単一の媒体または複数の媒体(たとえば、集中もしくは分散データベース、または関連したキャッシュおよびサーバ、あるいはその両方)を含むものとして捉えられるべきである。また、用語「有形コンピュータ可読記憶媒体」は、本開示の方法のいずれか1つまたは複数をマシンに実行させる、マシンによって実行するための命令のセットを記憶または符号化することができる、任意の非一時的媒体を含むものとしても捉えられるべきである。
したがって、用語「有形コンピュータ可読記憶媒体」は、以下に限定されないが、1つまたは複数の読み取り専用(不揮発性)メモリを収容するメモリ・カードまたは他のパッケージなどの固体メモリ、ランダム・アクセス・メモリまたは他の書き換え可能(揮発性)メモリ、ディスクまたはテープなどの光磁気または光媒体、あるいは情報を記憶するために使用できる他の有形媒体を含むものとして捉えられるべきである。したがって、本開示は、本明細書に列挙されるような有形コンピュータ可読記憶媒体の任意の1つまたは複数を含み、また、本明細書におけるソフトウェア実装が記憶される当技術分野で認められる均等物および後継媒体を含むものとして捉えられる。
本明細書では、特定の規格およびプロトコルを参照して実施形態で実装される構成要素および機能を説明しているが、本開示は、そのような規格およびプロトコルに限定されない。インターネットおよび他のパケット交換ネットワーク伝送のための各規格(たとえば、TCP/IP、UDP/IP、HTML、およびHTTP)は、技術水準の例を表す。そのような規格は、本質的に同じ機能を有するより速いまたはより効率的な均等物によって随時取って代わられる。デバイス検出(たとえば、RFID)、短距離通信(たとえば、ブルートゥース、WiFi、ZIGBEE)、および長短距離通信(たとえば、WiMAX、GSM、CDMA、LTE)のためのワイヤレス規格が、コンピュータ・システム800によって使用されることが企図される。
本明細書に説明された例の例示は、種々の実施形態の構造の全体的な理解を与えることを意図しており、本明細書に説明される構造を利用し得る装置およびシステムのすべての要素および特徴の完全な説明を果たすことを意図していない。上記の説明を検討すれば、当業者には他の多くの実施形態が明らかとなろう。そこから他の実施形態を利用し導き出すことが可能であり、それにより、本開示の範囲から逸脱せずに構造的および論理的置換および変更がなされ得る。また、図面は単に描写であり、原寸に比例しないことがある。そのいくつかの大きさは誇張されることがあり、他の大きさが最小限に抑えられることもある。したがって、本明細書および図面は、限定的ではなく例示的意味で考えられるべきである。
特定の実施形態が本明細書に例示され説明されているが、同じ目的を達成するように計算された任意の構成が、示された特定の実施形態の代わりに用いられてもよいことは理解されたい。本明細書における例は、種々の実施形態の任意のすべての適合または変形を包含するように意図される。上記の実施形態の組み合わせ、および本明細書に具体的に説明されていない他の実施形態が、本明細書において企図される。
要約書には、それが特許請求の範囲または意義を解釈または限定するために使用されることが意図されていないという理解が与えられる。また、上述の発明を実施するための形態では、本開示を効率的にするために種々の特徴が単一の実施形態で一緒にグループ化されている。この開示の方法は、主張される実施形態が各請求項に明示的に列挙される特徴より多くの特徴を必要とするという意図を反映するものとして解釈されるべきでない。むしろ、添付の特許請求の範囲が反映するように、発明の主題は、単一の開示された実施形態のすべての特徴より少ない特徴にある。したがって、添付の特許請求の範囲は、本明細書で発明を実施するための形態に組み込まれ、各請求項は、それ自体で個々に主張される主題として自立する。
コンピュータ800に対して単一のCPU802が示されているが、複数のCPUを有するコンピュータ・システムが同様に効果的に使用され得る。本発明の実施形態は、CPU802から処理をオフロードするために使用される別個の完全にプログラムされたマイクロプロセッサを各々が含むインターフェースをさらに組み込む。メイン・メモリに含まれるオペレーティング・システム(図示せず)は、Linux、UNIX(R)、Windows(R)、およびWindows(R) Serverベースのオペレーティング・システムのいずれかのような適切なマルチタスク・オペレーティング・システムである。本発明の実施形態は、任意の他の適切なオペレーティング・システムを使用することができる。本発明のいくつかの実施形態は、オペレーティング・システム(図示せず)の構成要素の命令を、情報処理システム内に配置された任意のプロセッサ上で実行できるようにする、オブジェクト指向フレームワーク機構などのアーキテクチャを利用する。ネットワーク・アダプタ・ハードウェア820が、図示のようにネットワーク826に対するインターフェースを提供するために使用される。本発明の実施形態は、現在のアナログもしくはデジタルまたはその両方の技術を含む、あるいは将来のネットワーキング機構を介する任意のデータ通信接続とともに動作するように適合されることができる。
本発明の例示的実施形態は、完全に機能的なコンピュータ・システムの文脈で説明されているが、種々の実施形態は、CDまたはDVD、たとえば、CD、CD−ROM、または他の形態の記録可能媒体、あるいは任意のタイプの電子的伝送機構を介して、プログラム製品として配布されることが可能であることは、当業者には理解されよう。
本明細書で使用される用語は、単に特定の実施形態を説明するためのものであり、本発明を限定することを意図していない。本明細書で使用される場合、単数形「a」、「an」、および「the」は、文脈で明確に別段の指示がない限り、複数形も含むことが意図されている。さらに、用語「備える(comprise)」または「備えている(comprising)」あるいはその両方は、本明細書内で使用されるとき、記載される特徴、整数、ステップ、動作、要素、または構成要素、あるいはその一部または全部が存在することを指定するが、1つまたは複数の他の特徴、整数、ステップ、動作、要素、構成要素、またはそれらの群、あるいはその一部または全部の存在または付加を排除しないことは理解されよう。用語「別の」は、本明細書で使用される場合、少なくとも第2またはそれ以降のものとして定義される。用語「含む」および「有する」は、本明細書で使用される場合、備える(すなわち非限定語)として定義される。用語「結合された」は、本明細書で使用される場合、「接続された」として定義されるが、必ずしも直接的である必要がなく、また必ずしも機械的である必要がない。「通信可能に結合された」は、構成要素の結合であって、これらの結合が、たとえば、有線、ワイヤレス、または他の通信媒体を介して、互いに通信することができるような構成要素の結合を指す。用語「通信可能に結合された」または「通信可能に結合されている」は、ある要素が別の要素を指示または制御し得る電子制御信号を伝達することを含むが、これに限定されない。用語「するように構成された」は、設定、配置、構築、組み立て、構成、もしくは設計されるように適合された、または所与の機能を実行するためのこれらの特性の任意の組み合わせを有する、ハードウェア、ソフトウェア、またはハードウェアとソフトウェアとの組み合わせを表す。用語「するように適合された」は、能力を有する、対応することができる、もしくは作ることができる、または所与の機能を実行するために適切な、ハードウェア、ソフトウェア、またはハードウェアとソフトウェアとの組み合わせを表す。
用語「コントローラ」、「コンピュータ」、「プロセッサ」、「サーバ」、「クライアント」、「コンピュータ・システム」、「コンピューティング・システム」、「パーソナル・コンピューティング・システム」、または「処理システム」は、本明細書における1つまたは複数の実施形態を実装するように適合された適切に構成された処理システムの例を表す。任意の適切に構成された処理システムは、同様に本明細書における実施形態によって使用されることが可能であり、限定ではなく、たとえば、パーソナル・コンピュータ、ラップトップ・コンピュータ、タブレット・コンピュータ、スマートフォン、携帯情報端末、またはワークステーションなどである。処理システムは、1つまたは複数の処理システムまたはプロセッサを含むことができる。処理システムは、1つの処理システムにおける集中様式で、または異なる要素がいくつかの相互接続された処理システムにわたって分散される分散様式で実現され得る。
用語「コンピューティング・システム」、「コンピュータ・システム」、および「パーソナル・コンピューティング・システム」は、ユーザ・インターフェースを含み、本開示の1つまたは複数の実施形態を実装するように適切に構成および適合された、処理システムを表す。用語「ネットワーク」、「コンピュータ・ネットワーク」、「コンピューティング・ネットワーク」、および「通信ネットワーク」は、ユーザの間の通信を促進し、ユーザがリソースを共有することを可能にする、通信チャネルによって相互接続されたコンピュータおよびデバイスの集合の例を表す。同様に、用語「ワイヤレス・ネットワーク」、「ワイヤレス通信ネットワーク」、および「ワイヤレス通信システム」は、ワイヤレス通信媒体によって主にまたは全体的にコンピュータおよびデバイスを通信可能に結合するネットワークおよびシステムを表す。同様に、用語「有線ネットワーク」および「有線通信ネットワーク」は、有線通信媒体によって主にまたは全体的にコンピュータおよびデバイスを通信可能に結合するネットワークを表す。
用語「電子デバイス」は、人間によって使用される多くの異なるタイプのコンピューティング・システムおよび処理システムを広く包含することが意図される。用語「通信デバイス」は、人間によって使用される多くの異なるタイプの電子デバイスであって、他のデバイスまたは処理システムから送信された信号を受け取ることができ、随意に、他のデバイスまたは処理システムにより受信されるように他のデバイスまたは処理システムに信号を送信することができ、他のデバイスまたは処理システムと通信し、また通信システムにおいて動作し得る、電子デバイスを広く包含することが意図される。用語「ワイヤレス・デバイス」および「ワイヤレス通信デバイス」は、信号をワイヤレスで受け取ることができ、随意に信号をワイヤレスで送信することができ、またワイヤレス通信システムにおいて動作し得る、多くの異なるタイプの通信デバイスを広く包含することが意図される。限定ではなく、たとえば、ワイヤレス通信デバイスは、双方向無線、セルラ電話、移動電話、スマートフォン、双方向ページャ、ワイヤレス・メッセージング・デバイス、パーソナル・コンピュータ、ラップトップ・パーソナル・コンピュータ、タブレット・コンピュータ、携帯情報端末、および他の同様の通信デバイスの任意の1つまたは組み合わせを含むことができる。
用語「携帯電子デバイス」は、携帯型である、またはユーザによって位置間を移動され得る、多くの異なるタイプの電子デバイスを広く包含することが意図される。限定ではなく、たとえば、携帯電子デバイスは、ワイヤレス通信デバイス、ラップトップ・パーソナル・コンピュータ、ノートブック・コンピュータ、デスクトップ・コンピュータ、パーソナル・コンピュータ、スマートフォン、携帯情報端末、タブレット・コンピュータ、ゲーミング・ユニット、リモート・コントローラ・ユニット、および持ち主の人間によって運搬することができる他のハンドヘルド電子デバイスの任意の1つまたは組み合わせを含むことができる。
対応する構造、材料、動作、および添付特許請求の範囲におけるすべてのミーンズまたはステップ・プラス・ファンクション要素の均等物は、具体的に主張されるような他の主張された要素と組み合わせて機能を実施するための任意の構造、材料、または動作を含むことが意図される。本明細書の記載は、例示および説明のために提示されているが、網羅的であることまたは開示された形態の例に限定されることは意図されていない。多くの変更および変形が、提示されまたは主張された例の範囲および趣旨から逸脱することなく、当業者には明らかであろう。開示された実施形態は、実施形態の原理および実際的用途を最も良く説明するため、また、企図される特定の使用に適した様々な変更を有する種々の実施形態を当業者が理解できるようにするために選択され説明された。添付の特許請求の範囲は、実施形態の範囲内の任意のすべてのそのような用途、変更、および変形を包含することが意図される。

Claims (25)

  1. メモリに結合されたプロセッサを備え、前面カメラ及び後面カメラを有する携帯電子デバイスを用いた方法であって、
    前記携帯電子デバイスを用いて、前記前面カメラからの前方画像、および撮影者の画像を含む前記後面カメラからの後方画像を同時期に取得するステップと、
    前記プロセッサを用いて、前記前方画像内に前記後方画像を、または前記後方画像内に前記前方画像を埋め込むステップであって、それにより合成画像を作成する、前記埋め込むステップと、
    前記プロセッサを用いて、前記後方画像に対して顔認識分析を行って、前記撮影者の認識情報を生成するステップと、
    前記プロセッサを用いて、前記認識情報が前記携帯電子デバイスの許可されたユーザのリストに存在しないことに応じて、前記撮影者が許可されたユーザではない、と判断するステップと、
    前記判断に応じて、前記許可されたユーザのみがアクセス可能な前記メモリ中の保護される場所に、前記前方画像又は前記合成画像に関連づけられた前記認識情報を記憶するステップと、
    を含む方法。
  2. 前記取得するステップは、前記前方画像、および前記後方画像を、単一のトリガに応答して同時期に取得し、
    更に、前記プロセッサを用いて、前記合成画像を形成する前記前方画像の部分内の透かしとして前記後方画像を前記メモリに記憶するステップを含む、請求項1に記載の方法。
  3. 更に、前記プロセッサを用いて、前記後方画像から導出される秘密情報を前記合成画像内にステガノグラフィで挿入するステップを含む、請求項1又は2に記載の方法。
  4. 更に、前記プロセッサを用いて、撮影者を識別するために前記後方画像においてメタデータを作成するステップを含む、請求項1乃至3のいずれかに記載の方法。
  5. 更に、前記プロセッサを用いて、前記撮影者を識別するメタデータを前記前方画像内に埋め込むステップを含む、請求項4に記載の方法。
  6. 更に、前記プロセッサを用いて、前記前方画像のシーンを識別するメタデータを、前記後方画像における前記撮影者のピクチャ内に埋め込むステップを含む、請求項4に記載の方法。
  7. 前記取得するステップは、前記前方画像、および前記後方画像を、単一のトリガに応答して同時期に取得し、
    更に、前記プロセッサを用いて、前記合成画像を形成する前記前方画像の部分内の透かしとして前記後方画像を前記メモリに記憶するステップと、
    前記透かしにタイムスタンプを追加するステップとを含む、請求項1乃至6のいずれかに記載の方法。
  8. 更に、前記プロセッサを用いて、前記合成画像に適用するためのタグを決定するために、前記後方画像上の表情を分析することにより、前記後方画像に対して顔認識分析を行って、認識情報を生成するステップを含む、請求項1乃至7のいずれかに記載の方法。
  9. 更に、前記プロセッサを用いて、前記前方画像内のオブジェクトの妨げにならないように、前記後方画像を前記前方画像内に配置することを行うステップを含む、請求項1乃至8のいずれかに記載の方法。
  10. 更に、前記プロセッサを用いて、前記携帯電子デバイスのファインダにおいて、前記後方画像と前記前方画像との前記合成画像を合成するステップを含む、請求項1乃至9のいずれかに記載の方法。
  11. 更に、前記携帯電子デバイスの前記プロセッサを用いて、顔認識分析またはオブジェクト認識分析によって前記前方画像を分析するステップを含む、請求項1乃至10のいずれかに記載の方法。
  12. 携帯電子デバイスであって、
    前面カメラと、
    後面カメラと、
    コンピュータ命令を記憶するメモリと、
    前記メモリ、前記前面カメラ、および前記後面カメラに通信可能に結合されたプロセッサと
    を備え、
    前記プロセッサは、
    前記前面カメラからの前方画像、および撮影者の画像を含む前記後面カメラからの後方画像を同時期に取得することと、
    前記プロセッサを用いて、前記前方画像内に前記後方画像を、または前記後方画像内に前記前方画像を埋め込むステップであって、それにより合成画像を作成する、前記埋め込むことと、
    前記後方画像に対して顔認識分析を行って、前記撮影者の認識情報を生成するステップと、
    前記認識情報が前記携帯電子デバイスの許可されたユーザのリストに存在しないことに応じて、前記撮影者が許可されたユーザではない、と判断することと、
    前記判断に応じて、前記許可されたユーザのみがアクセス可能な前記メモリ中の保護される場所に、前記前方画像又は前記合成画像に関連づけられた前記認識情報を記憶することと、
    を含む動作を行う携帯電子デバイス。
  13. 前記取得することは、前記前方画像、および前記後方画像を、単一のトリガに応答して同時期に取得し、
    更に、前記プロセッサは、前記合成画像を形成する前記前方画像の部分内の透かしとして前記後方画像を前記メモリに記憶することを含む動作を行う、請求項12に記載の携帯電子デバイス。
  14. 更に、前記プロセッサは、前記後方画像から導出される秘密情報を前記合成画像内にステガノグラフィで挿入することを含む動作を行う、請求項12又は13に記載の方法。
  15. 更に、前記プロセッサは、撮影者を識別するために前記後方画像においてメタデータを作成することを含む動作を行う、請求項12乃至14のいずれかに記載の携帯電子デバイス。
  16. 更に、前記プロセッサは、前記撮影者を識別するメタデータを前記前方画像内に埋め込むことを含む動作を行う、請求項15に記載の携帯電子デバイス。
  17. 更に、前記プロセッサは、前記前方画像のシーンを識別するメタデータを、前記後方画像における前記撮影者のピクチャ内に埋め込むことを含む動作を行う、請求項15に記載の携帯電子デバイス。
  18. 前記取得することは、前記前方画像、および前記後方画像を、単一のトリガに応答して同時期に取得することであり、
    更に、前記プロセッサは、前記合成画像を形成する前記前方画像の部分内の透かしとして前記後方画像を前記メモリに記憶することと、
    前記透かしにタイムスタンプを追加することを含む動作を行う、請求項12乃至17のいずれかに記載の携帯電子デバイス。
  19. 更に、前記プロセッサは、前記合成画像に適用するためのタグを決定するために、前記後方画像上の表情を分析することにより、前記後方画像に対して顔認識分析を行って、認識情報を生成することを含む動作を行う、請求項12乃至18のいずれかに記載の携帯電子デバイス。
  20. 更に、前記プロセッサは、前記前方画像内のオブジェクトの妨げにならないように、前記後方画像を前記前方画像内に配置することを行うことを含む動作を行う、請求項12乃至19のいずれかに記載の携帯電子デバイス。
  21. 更に、前記プロセッサは、前記携帯電子デバイスのファインダにおいて、前記後方画像と前記前方画像との前記合成画像を合成することを含む動作を行う、請求項12乃至20のいずれかに記載の携帯電子デバイス。
  22. 更に、前記プロセッサは、顔認識分析またはオブジェクト認識分析によって前記前方画像を分析することを含む動作を行う、請求項12乃至21のいずれかに記載の携帯電子デバイス。
  23. 携帯電子デバイスであって、
    前面カメラと、
    後面カメラと、
    コンピュータ命令を記憶するメモリと、
    前記メモリ、前記前面カメラ、および前記後面カメラに通信可能に結合されたプロセッサとを備え、
    前記プロセッサは、前記コンピュータ命令を実行することに応じて、
    前記前面カメラからの前方画像および前記後面カメラからの後方画像を取得することと、
    前記前方画像内に前記後方画像を、または前記後方画像内に前記前方画像を埋め込み、それにより合成画像を作成することと、
    顔認識分析を行って、認識情報を生成することと、
    撮影者のソーシャル・ネットワークのメンバまたは前記前方画像内の認識された被写体のためのソーシャル・ネットワークのメンバあるいは両方のメンバにアラートを出すために使用される前記前方画像および前記後方画像に関する関係情報を識別することを含む動作を行う、携帯電子デバイス。
  24. 前記プロセッサは、前記コンピュータ命令を実行することに応じて、前記前方画像もしくは前記後方画像のいずれかの取り込みを可能にするようにセキュリティ・アクセスを決定するために、または記憶された合成画像へのセキュリティ・アクセスを決定するために使用される前記前方画像または前記後方画像の少なくとも一方からアイデンティティ情報を抽出することを含む動作を行う、請求項23に記載の携帯電子デバイス。
  25. コンピュータ・プログラムであり、メモリに結合されたプロセッサを備え、前面カメラ及び後面カメラを有する携帯電子デバイスにより実行されることにより、前記携帯電子デバイスに請求項1乃至11のいずれかに記載の方法の各ステップを実行させるコンピュータ・プログラム。

JP2015544172A 2012-11-27 2013-11-25 携帯電子デバイスを用いた方法、携帯電子デバイス、およびコンピュータ・プログラム Expired - Fee Related JP6521864B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US13/686,433 2012-11-27
US13/686,433 US9253433B2 (en) 2012-11-27 2012-11-27 Method and apparatus for tagging media with identity of creator or scene
PCT/US2013/071710 WO2014085336A1 (en) 2012-11-27 2013-11-25 Method and apparatus for tagging media with identity of creator of scene

Publications (2)

Publication Number Publication Date
JP2016502348A JP2016502348A (ja) 2016-01-21
JP6521864B2 true JP6521864B2 (ja) 2019-05-29

Family

ID=50772961

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015544172A Expired - Fee Related JP6521864B2 (ja) 2012-11-27 2013-11-25 携帯電子デバイスを用いた方法、携帯電子デバイス、およびコンピュータ・プログラム

Country Status (4)

Country Link
US (2) US9253433B2 (ja)
JP (1) JP6521864B2 (ja)
CN (1) CN104838642B (ja)
WO (1) WO2014085336A1 (ja)

Families Citing this family (48)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7959598B2 (en) 2008-08-20 2011-06-14 Asante Solutions, Inc. Infusion pump systems and methods
KR102067642B1 (ko) * 2012-12-17 2020-01-17 삼성전자주식회사 휴대 단말기에서 영상 통화를 제공하는 장치 및 방법
CN103049175B (zh) * 2013-01-22 2016-08-10 华为终端有限公司 预览画面呈现方法、装置及终端
KR20140094878A (ko) * 2013-01-23 2014-07-31 삼성전자주식회사 사용자 단말 및 사용자 단말에서 사용자 인식을 이용한 영상 처리 방법
JP2014160982A (ja) 2013-02-20 2014-09-04 Sony Corp 画像処理装置および撮影制御方法、並びにプログラム
HUE052355T2 (hu) 2013-03-14 2021-04-28 Amgen Inc Heterociklusos vegyületek és alkalmazásuk
US20170039867A1 (en) * 2013-03-15 2017-02-09 Study Social, Inc. Mobile video presentation, digital compositing, and streaming techniques implemented via a computer network
JP6097632B2 (ja) * 2013-05-10 2017-03-15 キヤノン株式会社 撮像装置及びその制御方法、プログラム並びに記憶媒体
KR102063102B1 (ko) * 2013-08-19 2020-01-07 엘지전자 주식회사 이동 단말기 및 그것의 제어방법
KR20150039355A (ko) * 2013-10-02 2015-04-10 엘지전자 주식회사 이동 단말기 및 그 제어방법
KR102138521B1 (ko) * 2013-12-12 2020-07-28 엘지전자 주식회사 이동단말기 및 그 제어방법
JP2016004362A (ja) * 2014-06-16 2016-01-12 日本電信電話株式会社 情報付与方法及び情報付与装置
CN111905188B (zh) 2015-02-18 2022-07-22 英赛罗公司 流体输送和输注装置及其使用方法
EP3374905A1 (en) 2016-01-13 2018-09-19 Bigfoot Biomedical, Inc. User interface for diabetes management system
CN112933333B (zh) 2016-01-14 2023-03-28 比格福特生物医药公司 调整胰岛素输送速率
US10765807B2 (en) 2016-09-23 2020-09-08 Insulet Corporation Fluid delivery device with sensor
WO2018175621A1 (en) * 2017-03-23 2018-09-27 Ring Inc. Audio/video recording and communication devices with multiple cameras having variable capture settings
US10218830B1 (en) * 2017-08-28 2019-02-26 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Decoration component, housing component and mobile terminal having same
US10425579B2 (en) * 2017-12-28 2019-09-24 Facebook, Inc. Social camera for auto group selfies
USD928199S1 (en) 2018-04-02 2021-08-17 Bigfoot Biomedical, Inc. Medication delivery device with icons
AU2019263490A1 (en) 2018-05-04 2020-11-26 Insulet Corporation Safety constraints for a control algorithm-based drug delivery system
CN108683833B (zh) * 2018-07-26 2024-04-05 百度在线网络技术(北京)有限公司 图像采集设备和图像采集方法
US11488160B2 (en) 2018-07-30 2022-11-01 Hewlett Packard Enterprise Development Lp Systems and methods for using captured time series of secured representations of distributed ledger addresses and smart contract deployed on distributed ledger network to prove compliance
US11356443B2 (en) 2018-07-30 2022-06-07 Hewlett Packard Enterprise Development Lp Systems and methods for associating a user claim proven using a distributed ledger identity with a centralized identity of the user
US11403674B2 (en) 2018-07-30 2022-08-02 Hewlett Packard Enterprise Development Lp Systems and methods for capturing time series dataset over time that includes secured representations of distributed ledger addresses
US11184175B2 (en) 2018-07-30 2021-11-23 Hewlett Packard Enterprise Development Lp Systems and methods for using secured representations of location and user distributed ledger addresses to prove user presence at a location and time
US11250466B2 (en) 2018-07-30 2022-02-15 Hewlett Packard Enterprise Development Lp Systems and methods for using secured representations of user, asset, and location distributed ledger addresses to prove user custody of assets at a location and time
US11270403B2 (en) 2018-07-30 2022-03-08 Hewlett Packard Enterprise Development Lp Systems and methods of obtaining verifiable image of entity by embedding secured representation of entity's distributed ledger address in image
US11271908B2 (en) 2018-07-31 2022-03-08 Hewlett Packard Enterprise Development Lp Systems and methods for hiding identity of transacting party in distributed ledger transaction by hashing distributed ledger transaction ID using secured representation of distributed ledger address of transacting party as a key
US11233641B2 (en) 2018-07-31 2022-01-25 Hewlett Packard Enterprise Development Lp Systems and methods for using distributed attestation to verify claim of attestation holder
US11488161B2 (en) 2018-07-31 2022-11-01 Hewlett Packard Enterprise Development Lp Systems and methods for providing transaction provenance of off-chain transactions using distributed ledger transactions with secured representations of distributed ledger addresses of transacting parties
CN112789070A (zh) 2018-09-28 2021-05-11 英赛罗公司 人造胰腺系统的活动模式
WO2020077223A1 (en) 2018-10-11 2020-04-16 Insulet Corporation Event detection for drug delivery system
USD920343S1 (en) 2019-01-09 2021-05-25 Bigfoot Biomedical, Inc. Display screen or portion thereof with graphical user interface associated with insulin delivery
US11801344B2 (en) 2019-09-13 2023-10-31 Insulet Corporation Blood glucose rate of change modulation of meal and correction insulin bolus quantity
US11935637B2 (en) 2019-09-27 2024-03-19 Insulet Corporation Onboarding and total daily insulin adaptivity
US11957875B2 (en) 2019-12-06 2024-04-16 Insulet Corporation Techniques and devices providing adaptivity and personalization in diabetes treatment
US11833329B2 (en) 2019-12-20 2023-12-05 Insulet Corporation Techniques for improved automatic drug delivery performance using delivery tendencies from past delivery history and use patterns
US11551802B2 (en) 2020-02-11 2023-01-10 Insulet Corporation Early meal detection and calorie intake detection
US11547800B2 (en) 2020-02-12 2023-01-10 Insulet Corporation User parameter dependent cost function for personalized reduction of hypoglycemia and/or hyperglycemia in a closed loop artificial pancreas system
CN111327856A (zh) * 2020-03-18 2020-06-23 北京金和网络股份有限公司 一种五定视频采集与合成处理方法、装置和可读存储介质
US11607493B2 (en) 2020-04-06 2023-03-21 Insulet Corporation Initial total daily insulin setting for user onboarding
JP2021190925A (ja) * 2020-06-02 2021-12-13 キヤノン株式会社 処理装置、撮像装置、及び処理方法
US11684716B2 (en) 2020-07-31 2023-06-27 Insulet Corporation Techniques to reduce risk of occlusions in drug delivery systems
KR20220017649A (ko) 2020-08-05 2022-02-14 삼성전자주식회사 이미지 센서를 포함하는 전자 장치
US11904140B2 (en) 2021-03-10 2024-02-20 Insulet Corporation Adaptable asymmetric medicament cost component in a control system for medicament delivery
US11738144B2 (en) 2021-09-27 2023-08-29 Insulet Corporation Techniques enabling adaptation of parameters in aid systems by user input
DE102022200200A1 (de) * 2022-01-11 2023-07-13 Siemens Schweiz Ag Verfahren und Anordnung zur Authentisierung von digitalen Bildaufnahmen

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5530759A (en) 1995-02-01 1996-06-25 International Business Machines Corporation Color correct digital watermarking of images
US6111517A (en) * 1996-12-30 2000-08-29 Visionics Corporation Continuous video monitoring using face recognition for access control
US7756892B2 (en) * 2000-05-02 2010-07-13 Digimarc Corporation Using embedded data with file sharing
GB2361377B (en) 1998-12-11 2003-03-26 Kent Ridge Digital Labs Method and device for generating digital data watermarked with authentication data
US6963363B1 (en) 1999-09-10 2005-11-08 Nikon Corporation Digital camera capable of embedding an electronic watermark into image data
US6930707B2 (en) 2000-12-22 2005-08-16 International Business Machines Corporation Digital camera apparatus with biometric capability
US8543823B2 (en) 2001-04-30 2013-09-24 Digimarc Corporation Digital watermarking for identification documents
US7327505B2 (en) * 2002-02-19 2008-02-05 Eastman Kodak Company Method for providing affective information in an imaging system
US20030210808A1 (en) * 2002-05-10 2003-11-13 Eastman Kodak Company Method and apparatus for organizing and retrieving images containing human faces
US8752197B2 (en) 2002-06-18 2014-06-10 International Business Machines Corporation Application independent system, method, and architecture for privacy protection, enhancement, control, and accountability in imaging service systems
JP4174244B2 (ja) 2002-06-20 2008-10-29 キヤノン株式会社 画像撮影装置及びその制御方法
JP2005045486A (ja) * 2003-07-28 2005-02-17 Casio Comput Co Ltd 撮像装置、撮影画像の認証方法及びプログラム
JP2005094741A (ja) * 2003-08-14 2005-04-07 Fuji Photo Film Co Ltd 撮像装置及び画像合成方法
US20050054926A1 (en) * 2003-09-08 2005-03-10 Robert Lincoln Biometric user identification system and method for ultrasound imaging systems
US20060045308A1 (en) 2004-09-02 2006-03-02 Microsoft Corporation Camera and method for watermarking film content
US20060176516A1 (en) 2004-11-29 2006-08-10 Rothschild Trust Holdings, Llc System and method for embedding and retrieving information in digital images and using the information to copyright the digital images
JP4699995B2 (ja) 2004-12-16 2011-06-15 パナソニック株式会社 複眼撮像装置及び撮像方法
EP2884738A1 (en) 2005-03-01 2015-06-17 Nissi Vilcovsky Method to enable appearance comparison of a user
US20060272031A1 (en) 2005-05-24 2006-11-30 Napster Llc System and method for unlimited licensing to a fixed number of devices
US8520069B2 (en) 2005-09-16 2013-08-27 Digital Ally, Inc. Vehicle-mounted video system with distributed processing
US7945653B2 (en) 2006-10-11 2011-05-17 Facebook, Inc. Tagging digital media
WO2008153098A1 (ja) * 2007-06-14 2008-12-18 Sharp Kabushiki Kaisha 画像データ受信装置、操作装置、操作システム、画像データのデータ構造、制御方法、操作方法、プログラム、および、記録媒体
US8045799B2 (en) 2007-11-15 2011-10-25 Sony Ericsson Mobile Communications Ab System and method for generating a photograph with variable image quality
US20100118175A1 (en) 2008-11-10 2010-05-13 Victor Charles Bruce Imaging Apparatus For Image Integration
JP4659088B2 (ja) * 2008-12-22 2011-03-30 京セラ株式会社 カメラ付き携帯端末
CN101771677B (zh) * 2008-12-31 2013-08-07 华为技术有限公司 一种向访问用户提供资源的方法、服务器和系统
JP4788792B2 (ja) * 2009-03-11 2011-10-05 カシオ計算機株式会社 撮像装置、撮像方法、及び撮像プログラム
ES2377303B1 (es) * 2009-06-05 2013-02-01 Vodafone España S.A.U. Método y sistema para recomendar fotografías.
KR20110040468A (ko) 2009-10-14 2011-04-20 삼성전자주식회사 휴대 단말기의 카메라 운용 방법 및 장치
US20120154633A1 (en) 2009-12-04 2012-06-21 Rodriguez Tony F Linked Data Methods and Systems
US9584735B2 (en) * 2010-11-12 2017-02-28 Arcsoft, Inc. Front and back facing cameras
JP2012138658A (ja) * 2010-12-24 2012-07-19 Pikuseru Giken Kk 撮像装置

Also Published As

Publication number Publication date
CN104838642B (zh) 2018-12-07
CN104838642A (zh) 2015-08-12
US9253433B2 (en) 2016-02-02
JP2016502348A (ja) 2016-01-21
US20140146202A1 (en) 2014-05-29
WO2014085336A1 (en) 2014-06-05
US9253434B2 (en) 2016-02-02
US20140146204A1 (en) 2014-05-29

Similar Documents

Publication Publication Date Title
JP6521864B2 (ja) 携帯電子デバイスを用いた方法、携帯電子デバイス、およびコンピュータ・プログラム
US10437547B2 (en) Device, system and method for generating data
TWI673679B (zh) 用於使用者介面的方法、設備及電腦可讀取記錄媒體
CA2843627C (en) Device, system and method for generating application data
US9148567B2 (en) Methods and devices for controlling camera image capture
US20210149578A1 (en) Data Restoration Method Used When Terminal Is Restored to Factory Settings, and Terminal
US20160112632A1 (en) Method and terminal for acquiring panoramic image
CN111078655A (zh) 文档内容分享方法、装置、终端及存储介质
KR20130023074A (ko) 이동 단말기에서 비디오 통신을 수행하는 방법 및 장치
CN113191117B (zh) 电子文档的编辑方法、装置、设备及存储介质
US9516072B2 (en) Device, system and method for generating application data
EP2985979A1 (en) Method and device for backing up data and electronic device
US20230070358A1 (en) File Sharing Method, System, and Related Device
US10097591B2 (en) Methods and devices to determine a preferred electronic device
CN113746718B (zh) 一种内容分享的方法、装置及系统
CN113536374A (zh) 图像隐私的保护方法及电子设备
CN111615820B (zh) 通过向grs服务器发送关键值进行域名解析的方法及设备
CN110597840A (zh) 基于区块链的伴侣关系建立方法、装置、设备及存储介质
KR20140128814A (ko) 휴대용 단말기 및 그 동작 방법
CA2843649C (en) Device, system and method for generating data
CN114513479B (zh) 消息收发方法、装置、终端、服务器及存储介质
KR101728758B1 (ko) 이동단말기 및 그 제어방법
JP2013539100A (ja) ドキュメント情報を統合する方法及び装置
KR20160114316A (ko) 이동단말기 및 그 제어방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161101

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171219

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20180319

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180521

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180605

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20180903

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20181105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181204

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190318

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190402

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190423

R150 Certificate of patent or registration of utility model

Ref document number: 6521864

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees