KR20230021380A - 딥러닝 기반 비디오 특징 추출 및 압축 방법 - Google Patents

딥러닝 기반 비디오 특징 추출 및 압축 방법 Download PDF

Info

Publication number
KR20230021380A
KR20230021380A KR1020210103187A KR20210103187A KR20230021380A KR 20230021380 A KR20230021380 A KR 20230021380A KR 1020210103187 A KR1020210103187 A KR 1020210103187A KR 20210103187 A KR20210103187 A KR 20210103187A KR 20230021380 A KR20230021380 A KR 20230021380A
Authority
KR
South Korea
Prior art keywords
video
server
information
present
feature extraction
Prior art date
Application number
KR1020210103187A
Other languages
English (en)
Inventor
김수연
이현섭
윤형신
Original Assignee
주식회사 그라인더
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 그라인더 filed Critical 주식회사 그라인더
Priority to KR1020210103187A priority Critical patent/KR20230021380A/ko
Publication of KR20230021380A publication Critical patent/KR20230021380A/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/466—Learning process for intelligent management, e.g. learning user preferences for recommending movies
    • H04N21/4668—Learning process for intelligent management, e.g. learning user preferences for recommending movies for recommending content, e.g. movies
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/458—Scheduling content for creating a personalised stream, e.g. by combining a locally stored advertisement with an incoming stream; Updating operations, e.g. for OS modules ; time-related management operations
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/466—Learning process for intelligent management, e.g. learning user preferences for recommending movies
    • H04N21/4662—Learning process for intelligent management, e.g. learning user preferences for recommending movies characterized by learning algorithms
    • H04N21/4666—Learning process for intelligent management, e.g. learning user preferences for recommending movies characterized by learning algorithms using neural networks, e.g. processing the feedback provided by the user

Landscapes

  • Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)

Abstract

본 발명은 서버가, 흐름 정보를 바탕으로 각 장면이 압축되어 재조합된 영상을 획득하는 단계, 서버가, 재조합된 영상을 바탕으로, 복수의 태깅 정보를 획득하는 단계 및 서버가, 복수의 태깅 정보를 흐름 정보를 바탕으로 배열하는 단계를 포함하는 딥러닝 기반 비디오 특징 추출 및 압축 방법을 제공한다.

Description

딥러닝 기반 비디오 특징 추출 및 압축 방법{Deep learning-based video feature extraction and compression methods}
본 발명은 흐름 정보를 바탕으로 재조합된 영상을 유저가 관심을 가질 가능성이 높은 것으로 판단되는 위치부터 재생되도록 하여 유저에게 추천하는 것이 가능한 딥러닝 기반 비디오 특징 추출 및 압축 방법에 관한 것이다.
Z세대('95-'05년 출생)가 소비 트랜드의 중심으로 성장하며, 커머스의 형태도 그에 맞춰 이미지와 텍스트가 비디오로 대체되는 추세이며, 이들은 이전 세대와 완전히 다른 컨텐츠 소비 패턴을 보이는 세대이다.
Z세대의 온라인 동영상 시청 시간은 일 평균 137분, 유튜브 등 플랫폼 내 비디오 컨텐츠 큐레이션에 익숙하여, Z세대는 비디오 프렌들리로, 비디오 생산, 고비용 저효율의 가능성이 높다.
앱 내 편집 기능을 통한 적극적인 비디오 생산 지원, '유튜브에서 검색'하는 Z세대를 위한 리뷰 맥락 파악 및 추천, 비디오 리뷰 스크리닝 및 관리 시스템이 필요되고 있다.
비디오 커머스 기술력을 기반으로 경쟁우위를 차지할 수 있는 초기 거점시장이이며, SNS 기반의 유저 커뮤니티 확보 및 공동구매 진행이 필요되고 지속가능성 컨텐츠 생산을 통해 소비자 유입의 필요성이 있다.
이를 위해, 소비자 유입을 위해, 소비자의, 특히 Z세대의 관심을 유발할 수 있는 비디오 재조합 기술이 필요로 되어진다.
따라서, 재조합된 비디오에 매칭된 복수의 태깅 정보를 바탕으로 소비자 개개인의 관심사가 높은 태깅 정보 순으로 비디오를 재배치하거나, 관심사가 가장 높은 태깅 정보가 매칭된 시점을 비디오의 메인 이미지로 소비자에게 제공함으로써 재조합된 비디오 자체로의 관심을 유도하는 기술이 필요로 된다.
공개특허공보 제10-2014-0108153호, 2014.09.05.
본 발명이 해결하고자 하는 과제는 유저와 상황 정보를 기반으로 재조합된 비디오를 유저의 관심 태깅 정보에 맞춰 재생되하도록 하는 기술을 제공하는 것이다.
이때 본 발명은, 비건, 크루얼티프리, 친환경 카테고리에 해당하는 상품을 큐레이션해 판매하는 커머스를 제공하는데 있어서, 상품 소개, 브랜드 소개 및 리뷰까지 모두 비디오 형태로 제공하며, 상품 성분 및 생산지 정보에 대해 빅데이터를 구축하고, 이를 기반으로 자체 지속가능성 검증 시스템을 개발하여 입점 상품을 검증할 수 있다.
본 발명이 해결하고자 하는 과제들은 이상에서 언급된 과제로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
상술한 과제를 해결하기 위한 본 발명의 일 면에 따른 서버에 의한 딥러닝 기반 비디오 특징 추출 및 압축 방법에 있어서, 서버가, 흐름 정보를 바탕으로 각 장면이 압축되어 재조합된 영상을 획득하는 단계, 서버가, 재조합된 영상을 바탕으로, 복수의 태깅 정보를 획득하는 단계 및 서버가, 복수의 태깅 정보를 흐름 정보를 바탕으로 배열하는 단계를 포함한다.
또한, 본 발명의 비디오 특징 추출 및 압축 방법은, 서버가, 유저 정보를 바탕으로 복수의 태깅 정보 중 관심 정보를 획득하는 단계, 서버가, 관심 정보를 바탕으로 재조합된 영상 내의 재생 시작 시점을 획득하는 단계 및 서버가, 유저 정보에 대응하는 전자 단말에 재조합된 영상을 추천 비디오로 전송하되, 재조합된 영상을 재생 시작 시점에 대응하여 재생되도록 하는 단계를 더 포함할 수 있다.
추가로, 본 발명의 비디오 특징 추출 및 압축 방법은, 전자 장치가, 추천 비디오의 재생 시점을 사용자 명령을 획득하여 변경하는 단계 및 전자 장치가, 사용자 명령을 획득하여 태깅 정보에 대응하는 링크를 획득하는 단계를 더 포함할 수 있다.
본 발명의 기타 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.
본 발명에 의한 효과로는, 비디오를 추천하는데 있어서, 유저 개개인이 관심을 가질 가능성이 높은 재생 위치를 획득하여 제공함으로써 비디오 자체에 대한 흥미를 높이고, 이에 따라 비디오에 매칭된 복수의 태깅 정보에 대응하는 기타 광고로의 관심을 유발할 수 있다.
또한, 지속가능성의 문화화 및 지속가능한 제품 판매 확장을 통해, 국내 지속가능한 제품의 생산 단가 절감 및 추가적인 소비를 촉진하는 것이 있다.
또한, Z세대 타깃 차세대 비디오 커머스의 원형을 제시하여, 국내 비디오커머스 트랜드를 확대할 수 있고, 커머스 비디오의 생산 단가 절감 및 컨설팅 지원을 기반으로, 영세 타깃업체에게 비디오 패러다임으로의 전환 기회를 제공할 수 있다.
본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 일 실시예에 따른 흐름도를 도시한 것이다.
도 2는 본 발명의 일 실시예에 따른 피드백 기반의 비디오 추천 및 재조합 시스템을 도시한 것이다.
도 3은 본 발명의 일 실시예에 따른 비디오 재조합 예시도이다.
도 4는 본 발명의 일 실시예에 따른 강화학습을 통한 실시간 추천 전략도이다.
도 5는 본 발명의 일 실시예에 따른 선순환 모델도이다.
도 6은 본 발명의 일 실시예에 따른 시스템도이다.
도 7은 본 발명의 일 실시예에 따른 서버 구성도이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.
본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.
명세서에서 사용되는 "부" 또는 “모듈”이라는 용어는 소프트웨어, FPGA 또는 ASIC과 같은 하드웨어 구성요소를 의미하며, "부" 또는 “모듈”은 어떤 역할들을 수행한다. 그렇지만 "부" 또는 “모듈”은 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. "부" 또는 “모듈”은 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 "부" 또는 “모듈”은 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로 코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 및 변수들을 포함한다. 구성요소들과 "부" 또는 “모듈”들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 "부" 또는 “모듈”들로 결합되거나 추가적인 구성요소들과 "부" 또는 “모듈”들로 더 분리될 수 있다.
공간적으로 상대적인 용어인 "아래(below)", "아래(beneath)", "하부(lower)", "위(above)", "상부(upper)" 등은 도면에 도시되어 있는 바와 같이 하나의 구성요소와 다른 구성요소들과의 상관관계를 용이하게 기술하기 위해 사용될 수 있다. 공간적으로 상대적인 용어는 도면에 도시되어 있는 방향에 더하여 사용시 또는 동작시 구성요소들의 서로 다른 방향을 포함하는 용어로 이해되어야 한다. 예를 들어, 도면에 도시되어 있는 구성요소를 뒤집을 경우, 다른 구성요소의 "아래(below)"또는 "아래(beneath)"로 기술된 구성요소는 다른 구성요소의 "위(above)"에 놓여질 수 있다. 따라서, 예시적인 용어인 "아래"는 아래와 위의 방향을 모두 포함할 수 있다. 구성요소는 다른 방향으로도 배향될 수 있으며, 이에 따라 공간적으로 상대적인 용어들은 배향에 따라 해석될 수 있다.
본 명세서에서, 컴퓨터는 적어도 하나의 프로세서를 포함하는 모든 종류의 하드웨어 장치를 의미하는 것이고, 실시 예에 따라 해당 하드웨어 장치에서 동작하는 소프트웨어적 구성도 포괄하는 의미로서 이해될 수 있다. 예를 들어, 컴퓨터는 스마트폰, 태블릿 PC, 데스크톱, 노트북 및 각 장치에서 구동되는 사용자 클라이언트 및 애플리케이션을 모두 포함하는 의미로서 이해될 수 있으며, 또한 이에 제한되는 것은 아니다.
이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다.
도 1은 본 발명의 일 실시예에 따른 흐름도를 도시한 것이다. 도 2는 본 발명의 일 실시예에 따른 피드백 기반의 비디오 추천 및 재조합 시스템을 도시한 것이다. 도 3은 본 발명의 일 실시예에 따른 비디오 재조합 예시도이다. 도 4는 본 발명의 일 실시예에 따른 강화학습을 통한 실시간 추천 전략도이다. 도 5는 본 발명의 일 실시예에 따른 선순환 모델도이다. 도 6은 본 발명의 일 실시예에 따른 시스템도이다. 도 7은 본 발명의 일 실시예에 따른 서버 구성도이다.
일 실시예로, 전자 장치(200)는 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 영상 전화기, 전자책 리더기(e-book reader), 데스크탑 PC (desktop PC), 랩탑 PC(laptop PC), 넷북 컴퓨터(netbook computer), 워크스테이션(workstation), 서버, PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라, 또는 웨어러블 장치(wearable device), 인공지능 스피커(AI speaker) 중 적어도 하나를 포함할 수 있다.
도 7에 도시된 바와 같이, 서버(100)는 메모리(110), 통신부(120) 및 프로세서(130)를 포함할 수 있다.
메모리(110)는 서버(100)의 동작에 필요한 각종 프로그램 및 데이터를 저장할 수 있다. 메모리(110)는 비휘발성 메모리(110), 휘발성 메모리(110), 플래시메모리(110)(flash-memory), 하드디스크 드라이브(HDD) 또는 솔리드 스테이트 드라이브(SSD) 등으로 구현될 수 있다.
통신부(120)는 외부 장치와 통신을 수행할 수 있다. 특히, 통신부(120)는 와이파이 칩, 블루투스 칩, 무선 통신 칩, NFC칩, 저전력 블루투스 침(BLE 칩) 등과 같은 다양한 통신 칩을 포함할 수 있다. 이때, 와이파이 칩, 블루투스 칩, NFC 칩은 각각 LAN 방식, WiFi 방식, 블루투스 방식, NFC 방식으로 통신을 수행한다. 와이파이 칩이나 블루투스칩을 이용하는 경우에는 SSID 및 세션 키 등과 같은 각종 연결 정보를 먼저 송수신 하여, 이를 이용하여 통신 연결한 후 각종 정보들을 송수신할 수 있다. 무선 통신칩은 IEEE, 지그비, 3G(3rd Generation), 3GPP(3rd Generation Partnership Project), LTE(Long Term Evolution) 등과 같은 다양한 통신 규격에 따라 통신을 수행하는 칩을 의미한다.
프로세서(130)는 메모리(110)에 저장된 각종 프로그램을 이용하여 서버(100)의 전반적인 동작을 제어할 수 있다. 프로세서(130)는 RAM, ROM, 그래픽 처리부, 메인 CPU, 제1 내지 n 인터페이스 및 버스로 구성될 수 있다. 이때, RAM, ROM, 그래픽 처리부, 메인 CPU, 제1 내지 n 인터페이스 등은 버스를 통해 서로 연결될 수 있다.
RAM은 O/S 및 어플리케이션 프로그램을 저장한다. 구체적으로, 서버(100)가 부팅되면 O/S가 RAM에 저장되고, 사용자가 선택한 각종 어플리케이션 데이터가 RAM에 저장될 수 있다.
ROM에는 시스템 부팅을 위한 명령어 세트 등이 저장된다. 턴 온 명령이 입력되어 전원이 공급되면, 메인 CPU는 ROM에 저장된 명령어에 따라 메모리(110)에 저장된 O/S를 RAM에 복사하고, O/S를 실행시켜 시스템을 부팅시킨다. 부팅이 완료되면, 메인 CPU는 메모리(110)에 저장된 각종 어플리케이션 프로그램을 RAM에 복사하고, RAM에 복사된 어플리케이션 프로그램을 실행시켜 각종 동작을 수행한다.
그래픽 처리부는 연산부(미도시) 및 렌더링부(미도시)를 이용하여 아이템, 이미지, 텍스트 등과 같은 다양한 객체를 포함하는 화면을 생성한다. 여기서, 연산부는 입력부로부터 수신된 제어 명령을 이용하여 화면의 레이아웃에 따라 각 객체들이 표시될 좌표값, 형태, 크기, 컬러 등과 같은 속성값을 연산하는 구성일 수 있다. 그리고, 렌더링부는 연산부에서 연산한 속성값에 기초하여 객체를 포함하는 다양한 레이아웃의 화면을 생성하는 구성이 일 수 있다. 이러한 렌더링부에서 생성된 화면은 디스플레이의 디스플레이 영역 내에 표시될 수 있다.
메인 CPU는 메모리(110)에 액세스하여, 메모리(110)에 저장된 OS를 이용하여 부팅을 수행한다. 그리고, 메인 CPU는 메모리(110)에 저장된 각종 프로그램, 컨텐츠, 데이터 등을 이용하여 다양한 동작을 수행한다.
제1 내지 n 인터페이스는 상술한 각종 구성요소들과 연결된다. 제1 내지 n 인터페이스 중 하나는 네트워크를 통해 외부 장치와 연결되는 네트워크 인터페이스가 될 수도 있다.
한편, 나아가, 프로세서(130)는 인공지능 모델을 제어할 수 있다. 이 경우, 프로세서(130)는 인공지능 모델을 제어하기 위한 그래픽 전용 프로세서(예: GPU)를 포함할 수 있음은 물론이다.
한편, 본 발명에 따른 인공지능 모델은 교사 지도학습(supervised learning) 또는 비교사 지도학습(unsupervised learning)기반의 모델일 수 있다. 나아가, 본 발명에 따른 인공지능 모델은 SVM(support vector machine), Decision tree, neural network 등 및 이들이 응용된 방법론을 포함할 수 있다.
일 실시예로, 본 발명에 따른 인공지능 모델은 학습데이터를 입력하여 학습된 합성곱 신경망(Convolutional deep Neural Networks, CNN) 기반의 인공지능 모델일 수 있다. 다만, 이에 한정되는 것은 아니며, 다양한 인공지능 모델이 본 발명에 적용될 수 있음은 물론이다. 예컨대, DNN(Deep Neural Network), RNN(Recurrent Neural Network), BRDNN(Bidirectional Recurrent Deep Neural Network)과 같은 모델이 인공지능 모델로서 사용될 수 있으나, 이에 한정되지 않는다.
이때, 합성곱 신경망(Convolutional deep Neural Networks, CNN)은 최소한의 전처리(preprocess)를 사용하도록 설계된 다계층 퍼셉트론(multilayer perceptrons)의 한 종류이다. 합성곱 신경망은 하나 또는 여러개의 합성곱 계층(convolutional layer)과 그 위에 올려진 일반적인 인공신경망 계층들로 이루어져 있으며, 가중치와 통합 계층(pooling layer)들을 추가로 활용한다. 이러한 구조 덕분에 합성곱 신경망은 2차원 구조의 입력 데이터를 충분히 활용할 수 있다. 또한, 합성곱 신경망은 표준 역전달을 통해 훈련될 수 있다. 합성곱 신경망은 다른 피드포워드 인공신경망 기법들보다 쉽게 훈련되는 편이고 적은 수의 매개변수를 사용한다는 이점이 있다.
또한, 심층 신경망(Deep Neural Networks, DNN)은 입력 계층(input layer)과 출력 계층(output layer) 사이에 복수개의 은닉 계층(hidden layer)들로 이뤄진 인공신경망(Artificial Neural Network, ANN)이다.
이때, 심층 신경망의 구조는 퍼셉트론(perceptron)으로 구성될 수 있다. 퍼셉트론은 여러 개의 입력 값(input)과 하나의 프로세서(prosessor), 하나의 출력 값으로 구성된다. 프로세서는 여러 개의 입력 값에 각각 가중치를 곱한 후, 가중치가 곱해진 입력 값들을 모두 합한다. 그 다음 프로세서는 합해진 값을 활성화함수에 대입하여 하나의 출력 값을 출력한다. 만약 활성화함수의 출력 값으로 특정한 값이 나오기를 원하는 경우, 각 입력 값에 곱해지는 가중치를 수정하고, 수정된 가중치를 이용하여 출력 값을 다시 계산할 수 있다. 이때, 각각의 퍼셉트론은 서로 다른 활성화함수를 사용할 수 있다. 또한 각각의 퍼셉트론은 이전 계층에서 전달된 출력들을 입력으로 받아들인 다음, 활성화 함수를 이용해서 출력을 구한다. 구해진 출력은 다음 계층의 입력으로 전달된다. 상술한 바와 같은 과정을 거치면 최종적으로 몇 개의 출력 값을 얻을 수 있다.
순환 신경망(Reccurent Neural Network, RNN)은 인공신경망을 구성하는 유닛 사이의 연결이 Directed cycle을 구성하는 신경망을 말한다. 순환 신경망은 앞먹임 신경망과 달리, 임의의 입력을 처리하기 위해 신경망 내부의 메모리를 활용할 수 있다.
심층 신뢰 신경망(Deep Belief Networks, DBN)이란 기계학습에서 사용되는 그래프 생성 모형(generative graphical model)으로, 딥 러닝에서는 잠재변수(latent variable)의 다중계층으로 이루어진 심층 신경망을 의미한다. 계층 간에는 연결이 있지만 계층 내의 유닛 간에는 연결이 없다는 특징이 있다.
심층 신뢰 신경망은 생성 모형이라는 특성상 선행학습에 사용될 수 있고, 선행학습을 통해 초기 가중치를 학습한 후 역전파 혹은 다른 판별 알고리즘을 통해 가중치의 미조정을 할 수 있다. 이러한 특성은 훈련용 데이터가 적을 때 굉장히 유용한데, 이는 훈련용 데이터가 적을수록 가중치의 초기값이 결과적인 모델에 끼치는 영향이 세지기 때문이다. 선행학습된 가중치 초기값은 임의로 설정된 가중치 초기값에 비해 최적의 가중치에 가깝게 되고 이는 미조정 단계의 성능과 속도향상을 가능케 한다.
상술한 인공지능 및 그 학습방법에 관한 내용은 예시를 위하여 서술된 것이며, 이하에서 설명되는 실시 예들에서 이용되는 인공지능 및 그 학습방법은 제한되지 않는다. 예를 들어, 당 업계의 통상의 기술자가 동일한 과제해결을 위하여 적용할 수 있는 모든 종류의 인공지능 기술 및 그 학습방법이 개시된 실시 예에 따른 시스템을 구현하는 데 활용될 수 있다.
본 발명의 서버(100)에 의한 딥러닝 기반 비디오 특징 추출 및 압축 방법에 있어서, 서버(100)가, 흐름 정보를 바탕으로 각 장면이 압축되어 재조합된 영상을 획득하는 단계, 서버(100)가, 재조합된 영상을 바탕으로, 복수의 태깅 정보를 획득하는 단계 및 서버(100)가, 복수의 태깅 정보를 흐름 정보를 바탕으로 배열하는 단계를 포함한다.
이때, 도 1에 도시된 바와 같이, 본 발명의 비디오 특징 추출 및 압축 방법은, 서버(100)가, 유저 정보를 바탕으로 복수의 태깅 정보 중 관심 정보를 획득하는 단계, 서버(100)가, 관심 정보를 바탕으로 재조합된 영상 내의 재생 시작 시점을 획득하는 단계 및 서버(100)가, 유저 정보에 대응하는 전자 단말에 재조합된 영상을 추천 비디오로 전송하되, 재조합된 영상을 재생 시작 시점에 대응하여 재생되도록 하는 단계를 더 포함할 수 있다.
추가로, 본 발명의 비디오 특징 추출 및 압축 방법은, 전자 장치(200)가, 추천 비디오의 재생 시점을 사용자 명령을 획득하여 변경하는 단계 및 전자 장치(200)가, 사용자 명령을 획득하여 태깅 정보에 대응하는 링크를 획득하는 단계를 더 포함할 수 있다.
본 발명은 일 실시예에 따라, 도 2에 도시된 바와 같이, 비디오 커머스 플랫폼을 위한 암묵적 피드백 기반의 비디오 추천 및 재조합 기술을 개시하는 것으로, 지속적이고 경제적으로 커머스 컨텐츠를 생산 및 유통할 수 있는 솔루션이 필요함을 인지하고, 비디오 컨텐츠에 대한 암묵적 피드백을 수집하여 개인화된 비디오 추천을 제공하고, 유저가 가장 적극적으로 반응할 만한 컨텐츠를 자동 생성하여 제공한다.
또한, 유저 피드백 루프가 작동하며, 지속적인 컨텐츠 생산 비용 절감 및 추천 고도화를 달성할 수 있다.
일 실시예로, 도 3에 도시된 바와 같이, 본 발명의 비디오 재조합 기술은, 개별 유저 또는 유저군의 관심 키워드에 따라 장면 뭉치를 선별 및 재배열하여 비디오를 산출하는 방식으로, 시청시 피드백, 구매 전환율 등 암묵적 피드백을 적극적으로 활용하여, 차후에는 모바일 기반 AI 수준에서 비디오 재조합이 가능하도록 할 수 있다.
이후, 도 4에 따라, 암묵적 피드백 수집 및 비디오 추천을 위해, App/Web Product에서 비디오에 대한 유저의 암묵적 피드백을 수집(시청, 좋아요, 클릭, 구매, 이탈 등)하고, 수집된 정보를 익명화(개인정보 보호)한 후 기계학습 모델이 학습 가능한 형태로 적재하고, 깊은 신경망(DNN)을 활용해 전체 비디오(10,000+) 중 추천 후보(100+) 추출 및 추천 순위 책정을 실시하여 강화학습을 통한 실시간 추천 전력을 최적화할 수 있다.
도 5에 도시된 바와 같이, 점진적 기술 개발 및 강화 방안에 대해, 기술과 사업이 함께 성장하는 선순환 모델을 제시하여, 비디오 추천 및 재조합 기술의 배양을 위해 가능한 많은 학습 자료를 획득해야 한다.
이를 위해, 일정 수준 이상의 사용자가 방문해 암묵적 피드백을 제공하고, 사용자 확보를 위해서는 비디오 추천 및 재조합을 통해 고품질/다량의 컨텐츠를 제공해야 한다.
즉, 초기에는 일부 노동집약적 수단을 차용하여, 비디오 수동 분류 및 전문가 힌트 기반 재조합을 실시하는 것으로, 기술을 먼저 완성하고 사업화를 진행하는 것이 아니라, MVP의 빠른 개발 및 유저 데이터 수집을 통해 점진적으로 품질 및 비용을 개선할 수 있다.
한편, 프로세서(130)는 하나 이상의 코어(core, 미도시) 및 그래픽 처리부(미도시) 및/또는 다른 구성 요소와 신호를 송수신하는 연결 통로(예를 들어, 버스(bus) 등)를 포함할 수 있다.
일 실시예에 따른 프로세서(130)는 메모리(110)에 저장된 하나 이상의 인스트럭션을 실행함으로써, 도 6과 관련하여 설명된 방법을 수행한다.
예를 들어, 프로세서(130)는 메모리(110)에 저장된 하나 이상의 인스트럭션을 실행함으로써 신규 학습용 데이터를 획득하고, 학습된 모델을 이용하여, 상기 획득된 신규 학습용 데이터에 대한 테스트를 수행하고, 상기 테스트 결과, 라벨링된 정보가 소정의 제1 기준값 이상의 정확도로 획득되는 제1 학습용 데이터를 추출하고, 상기 추출된 제1 학습용 데이터를 상기 신규 학습용 데이터로부터 삭제하고, 상기 추출된 학습용 데이터가 삭제된 상기 신규 학습용 데이터를 이용하여 상기 학습된 모델을 다시 학습시킬 수 있다.
한편, 프로세서(130)는 프로세서(130) 내부에서 처리되는 신호(또는, 데이터)를 일시적 및/또는 영구적으로 저장하는 램(RAM: Random Access Memory, 미도시) 및 롬(ROM: Read-Only Memory, 미도시)을 더 포함할 수 있다. 또한, 프로세서(130)는 그래픽 처리부, 램 및 롬 중 적어도 하나를 포함하는 시스템온칩(SoC: system on chip) 형태로 구현될 수 있다.
메모리(110)에는 프로세서(130)의 처리 및 제어를 위한 프로그램들(하나 이상의 인스트럭션들)을 저장할 수 있다. 메모리(110)에 저장된 프로그램들은 기능에 따라 복수 개의 모듈들로 구분될 수 있다.
본 발명의 실시예와 관련하여 설명된 방법 또는 알고리즘의 단계들은 하드웨어로 직접 구현되거나, 하드웨어에 의해 실행되는 소프트웨어 모듈로 구현되거나, 또는 이들의 결합에 의해 구현될 수 있다. 소프트웨어 모듈은 RAM(Random Access Memory), ROM(Read Only Memory), EPROM(Erasable Programmable ROM), EEPROM(Electrically Erasable Programmable ROM), 플래시 메모리(Flash Memory), 하드 디스크, 착탈형 디스크, CD-ROM, 또는 본 발명이 속하는 기술 분야에서 잘 알려진 임의의 형태의 컴퓨터 판독가능 기록매체에 상주할 수도 있다.
본 발명의 구성 요소들은 하드웨어인 컴퓨터와 결합되어 실행되기 위해 프로그램(또는 애플리케이션)으로 구현되어 매체에 저장될 수 있다. 본 발명의 구성 요소들은 소프트웨어 프로그래밍 또는 소프트웨어 요소들로 실행될 수 있으며, 이와 유사하게, 실시 예는 데이터 구조, 프로세스들, 루틴들 또는 다른 프로그래밍 구성들의 조합으로 구현되는 다양한 알고리즘을 포함하여, C, C++, 자바(Java), 어셈블러(assembler) 등과 같은 프로그래밍 또는 스크립팅 언어로 구현될 수 있다. 기능적인 측면들은 하나 이상의 프로세서들에서 실행되는 알고리즘으로 구현될 수 있다.
이상, 첨부된 도면을 참조로 하여 본 발명의 실시예를 설명하였지만, 본 발명이 속하는 기술분야의 통상의 기술자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로, 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며, 제한적이 아닌 것으로 이해해야만 한다.
100 : 서버
110 : 메모리
120 : 통신부
130 : 프로세서
200 : 전자 단말

Claims (1)

  1. 서버에 의한 딥러닝 기반 비디오 특징 추출 및 압축 방법에 있어서,
    상기 서버가, 흐름 정보를 바탕으로 각 장면이 압축되어 재조합된 영상을 획득하는 단계;
    상기 서버가, 상기 재조합된 영상을 바탕으로, 복수의 태깅 정보를 획득하는 단계; 및
    상기 서버가, 상기 복수의 태깅 정보를 상기 흐름 정보를 바탕으로 배열하는 단계;를 포함하고,
    상기 비디오 특징 추출 및 압축 방법은,
    상기 서버가, 유저 정보를 바탕으로 상기 복수의 태깅 정보 중 관심 정보를 획득하는 단계;
    상기 서버가, 상기 관심 정보를 바탕으로 상기 재조합된 영상 내의 재생 시작 시점을 획득하는 단계; 및
    상기 서버가, 상기 유저 정보에 대응하는 전자 단말에 상기 재조합된 영상을 추천 비디오로 전송하되, 상기 재조합된 영상을 상기 재생 시작 시점에 대응하여 재생되도록 하는 단계;를 더 포함하고,
    상기 비디오 특징 추출 및 압축 방법은,
    상기 전자 장치가, 상기 추천 비디오의 재생 시점을 사용자 명령을 획득하여 변경하는 단계; 및
    상기 전자 장치가, 사용자 명령을 획득하여 태깅 정보에 대응하는 링크를 획득하는 단계;를 더 포함하는 비디오 특징 추출 및 압축 방법.
KR1020210103187A 2021-08-05 2021-08-05 딥러닝 기반 비디오 특징 추출 및 압축 방법 KR20230021380A (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210103187A KR20230021380A (ko) 2021-08-05 2021-08-05 딥러닝 기반 비디오 특징 추출 및 압축 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210103187A KR20230021380A (ko) 2021-08-05 2021-08-05 딥러닝 기반 비디오 특징 추출 및 압축 방법

Publications (1)

Publication Number Publication Date
KR20230021380A true KR20230021380A (ko) 2023-02-14

Family

ID=85220643

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210103187A KR20230021380A (ko) 2021-08-05 2021-08-05 딥러닝 기반 비디오 특징 추출 및 압축 방법

Country Status (1)

Country Link
KR (1) KR20230021380A (ko)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140108153A (ko) 2013-02-28 2014-09-05 엘지전자 주식회사 멀티미디어 커머스 서비스 처리 장치 및 방법

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140108153A (ko) 2013-02-28 2014-09-05 엘지전자 주식회사 멀티미디어 커머스 서비스 처리 장치 및 방법

Similar Documents

Publication Publication Date Title
CN111489412B (zh) 用于使用神经网络生成基本逼真图像的语义图像合成
US20190122146A1 (en) Dynamic and Intuitive Aggregation of a Training Dataset
Salvaris et al. Deep learning with azure
US20220129924A1 (en) Electronic device and control method therefor
KR102367346B1 (ko) 텃밭 공유 플랫폼의 제어 방법
US11651450B2 (en) Simulated network system and method for relating users of real-world e-commerce and other user network systems to information
KR20210012730A (ko) 인공지능 모델의 학습 방법 및 전자 장치
KR20220075623A (ko) 구매상품 리뷰 큐레이션 및 라이브커머스를 통한 상품 구매 방법, 장치 및 프로그램
KR102476884B1 (ko) 크리에이터 매칭 서비스를 통해 의류 정보를 추천하는 서버의 제어 방법
KR20230021380A (ko) 딥러닝 기반 비디오 특징 추출 및 압축 방법
KR20230021381A (ko) 비디오 추천을 위한 영상 재조합 방법
KR102510429B1 (ko) 비디오의 객체, 동작, 및 맥락 기반의 메타데이터 생성 및 비디오 탐색 장치
KR20230071349A (ko) 비디오 커머스 플랫폼에서의 추천을 위한 비정형 데이터 분류 및 관리 방법
KR20220000039A (ko) 휴대인공신경망장치
KR102673220B1 (ko) 사용자 스타일링 추천 정보를 기반으로 한 사용자 맞춤형 웨딩 플래너 플랫폼 서비스 제공 방법, 장치 및 시스템
KR102474282B1 (ko) 리뷰 영상 기반의 제품 구매 서비스 제공 방법 및 장치
KR102524461B1 (ko) 제품 리뷰 및 구매 통합 인터페이스 제공 방법
KR102617577B1 (ko) 지능형 캐릭터 생성 시스템의 제어 방법
KR102612586B1 (ko) 동영상 내 관절 인식에 따른 비정상 이미지 프레임을 제거 및 복원하는 전자 장치의 제어 방법
KR102662214B1 (ko) 사용자 개인 성향에 기반한 진주를 포함하는 쥬얼리 제품 추천 방법
KR20230140617A (ko) 콘텐츠 환경에 따른 캐릭터 변환방법, 장치 및 컴퓨터프로그램
KR102671314B1 (ko) 컨셉 및 디자이너 별 패션 제품의 기획 및 디자인 작업 프로세스의 자동화 처리 방법, 장치 및 시스템
KR102589253B1 (ko) 인공지능 기반 컨텐츠 가공 서비스 제공 방법, 서버 및 컴퓨터 프로그램
KR20230140618A (ko) 콘텐츠 환경에 따른 구매 아이템 변환방법, 장치 및 컴퓨터프로그램
KR102626192B1 (ko) 홈쇼핑 방송컨셉 구성 및 의상 코디네이팅 시스템