KR20210133411A - 스마트 기기에서의 유해 스트리밍 영상 검출 방법, 스마트 기기 및 기계 학습 단말 - Google Patents

스마트 기기에서의 유해 스트리밍 영상 검출 방법, 스마트 기기 및 기계 학습 단말 Download PDF

Info

Publication number
KR20210133411A
KR20210133411A KR1020200051956A KR20200051956A KR20210133411A KR 20210133411 A KR20210133411 A KR 20210133411A KR 1020200051956 A KR1020200051956 A KR 1020200051956A KR 20200051956 A KR20200051956 A KR 20200051956A KR 20210133411 A KR20210133411 A KR 20210133411A
Authority
KR
South Korea
Prior art keywords
harmful
smart device
neural network
streaming
streaming video
Prior art date
Application number
KR1020200051956A
Other languages
English (en)
Other versions
KR102432824B1 (ko
Inventor
이성희
신일홍
이남경
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Priority to KR1020200051956A priority Critical patent/KR102432824B1/ko
Publication of KR20210133411A publication Critical patent/KR20210133411A/ko
Application granted granted Critical
Publication of KR102432824B1 publication Critical patent/KR102432824B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/454—Content or additional data filtering, e.g. blocking advertisements
    • H04N21/4545—Input to filtering algorithms, e.g. filtering a region of the image
    • H04N21/45455—Input to filtering algorithms, e.g. filtering a region of the image applied to a region of the image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0454—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

실시예는 스트리밍 서버로부터 수신된 스트리밍 영상을 재생시키는 스마트 기기에서의 유해 스트리밍 영상 검출 방법이 개시된다. 스마트 기기에서의 유해 스트리밍 영상 검출 방법은, 스트리밍 영상으로부터 이미지 프레임을 순차적으로 추출하는 단계, 추출된 이미지 프레임의 유해성 여부를 미리 학습된 신경망 모델을 기반으로 검사하는 단계 및 이미지 프레임의 유해성 여부에 따라 선택적으로 스트리밍 영상의 재생을 차단하는 단계를 포함한다.

Description

스마트 기기에서의 유해 스트리밍 영상 검출 방법, 스마트 기기 및 기계 학습 단말{Method for Detecting Harmful Streaming Video in Smart Device, Smart Device and Terminal for Machine Learning}
본 발명은 영상물의 유해성 여부를 검사하는 기술에 관한 것이다.
스마트 기기의 보급과 고속 이동 통신 기술의 발전으로 언제 어디서나 실시간으로 동영상 스트리밍 서비스 제공이 가능해졌다. 이에 따라 미디어 소비 환경은 PC 뿐만 아니라 스마트 기기를 이용해서 VoD, 실시간 개인 방송 및 동영상 기반 SNS 등의 서비스를 이용하는 환경으로 진화하고 있다.
그런데, 이러한 미디어 서비스 사용 환경 변화는 미디어 소비의 다양성 및 편의성을 제공할 수 있다는 이점이 있는 반면, 음란물, 폭력물 등을 포함하는 유해물을 유통할 수 있는 채널을 또한 다양화되고 있다. 즉, 이러한 다양한 채널을 통해 유해물의 실시간 제작 송출이 가능해지면서, 불법적인 유해물의 배포 및 청소년의 이용을 방지하는 것이 더더욱 어려워지고 있다.
종래에 인터넷 유해물 차단을 위한 방안으로, 유해 웹사이트를 차단하는 기술과 금칙어가 포함된 영상 검색을 필터링하는 키워드 기반 차단 기술이 개발된 바 있다. 그러나, 이러한 종래의 차단 기술을 우회하여 유해물을 배포 및 이용하는 것이 가능할 뿐만 아니라, 차단의 오류 발생률 또한 높은 것으로 보고되고 있다.
이러한 종래 기술의 단점을 보완하기 위해 동영상의 내용을 기반으로 유해물을 식별하는 해시 목록 기반 차단 기술, 특징 기반 차단 기술 그리고 내용 기반 차단 기술이 개발되었다.
이 중, 해시 목록 기반 차단 기술은 유해물로부터 생성된 요약 정보(해시)를 DB화하고, 향후 식별 대상이 되는 영상의 요약 정보(해시)를 계산하여 DB에 저장된 데이터들과 비교하는 방식이다. 그런데, 이러한 방식에서는 DB의 지속적 업데이트가 요구되고, 영상이 변형될 경우 요약 정보 또한 상이하므로 식별이 어려워진다.
특징 기반 차단 기술은 DNA라고 불리는 유해 영상의 특징 정보들을 추출하여 DB를 구축하고 향후 식별 대상이 되는 영상의 DNA와 DB를 비교하여 유해물을 검출한다. 이러한 특징 기반 차단 기술은 DB 목록에 포함된 유해물에 대해서는 일부 변형된 유해물도 검출이 가능한 장점이 있으나, 전술한 해시 목록 기반 차단 기술과 마찬가지로 DB의 지속적 업데이트가 요구되며, 실시간으로 유해물이 제작 배포되는 개인 방송에 대한 대응은 용이하지 않다.
더욱이, 사용자 업로드 및 실시간 개인 방송 영상의 폭증으로 인해 모든 영상에 대해서 DB를 구축하는 것은 현실적으로 불가능하기 때문에 스트리밍 서비스 사업자들은 모니터링 요원을 고용하여 유해 영상을 검출하고 있다. 그러나 이러한 방식은 검출 효율이 떨어질 뿐만 아니라, 모니터링 요원의 정신적 건강 문제 및 인력 고용에 따른 고 비용을 고려할 때 바람직한 방식이 아니다.
한국등록특허 10-1237469호
실시예는 스트리밍 동영상의 유해성을 수동으로 검사함에 따른 모니터링 요원의 정신 건강 및 고 비용 발생의 문제를 해결하는 데 그 목적이 있다.
실시예는 폭증하는 스트리밍 동영상에 대한 실시간 유해성 검사를 가능하게 하는 데 그 목적이 있다.
실시예는 스트리밍 동영상의 유해성을 검사하기 위한 별도의 검출 장비 구축 및 운용 비용없이 스트리밍 영상을 수신하는 스마트 기기에서 직접 검사하도록 하는 데 그 목적이 있다.
실시예는 스마트 기기에서 스트리밍 영상의 서비스 품질 저하없이 스트리밍 동영상의 유해성을 실시간으로 검사할 수 있도록 하는 데 그 목적이 있다.
실시예에 따른 스트리밍 서버로부터 수신된 스트리밍 영상을 재생시키는 스마트 기기에서의 유해 스트리밍 영상 검출 방법은, 스트리밍 영상으로부터 이미지 프레임을 순차적으로 추출하는 단계와, 추출된 이미지 프레임의 유해성 여부를 미리 학습된 신경망 모델을 기반으로 검사하는 단계 및 이미지 프레임의 유해성 여부에 따라 선택적으로 스트리밍 영상의 재생을 차단하는 단계를 포함한다.
이때, 신경망 모델은, 기계 학습 단말에 의해 생성된 것으로, 기계 학습 단말로부터 미리 다운로드된 것일 수 있다.
이때, 기계 학습 단말은, 유해 이미지 및 비 유해 이미지를 포함하는 훈련 데이터로 학습된 제1 신경망 모델을 생성하고, 생성된 제1 신경망 모델을 경량화하여 제2 신경망 모델을 생성하되, 신경망 모델은, 제2 신경망 모델일 수 있다.
이때, 신경망 모델은, 콘볼루셔널 신경망(Convolutional Neural Network, CNN) 기반의 이미지 분류 신경망일 수 있다.
실시예에 따른 스마트 기기에서의 유해 스트리밍 영상 검출 방법은, 검사하는 단계 이후에, 유해성이 존재하는 이미지 프레임의 개수에 기반하여 스트리밍 영상의 유해성을 판단하는 단계를 더 포함하고, 차단하는 단계는, 스트리밍 영상의 유해성 판단 결과를 기반으로 수행될 수 있다.
이때, 실시예에 따른 스마트 기기에서의 유해 스트리밍 영상 검출 방법은, 스트리밍 영상의 유해성 판단 결과를 기반으로 경고 메시지를 표출하는 단계를 더 포함할 수 있다.
이때, 실시예에 따른 스마트 기기에서의 유해 스트리밍 영상 검출 방법은, 스트리밍 영상의 유해성 판단 결과를 기반으로 대체 영상을 표출하는 단계를 더 포함할 수 있다.
한편, 추출하는 단계는, 소정 추출 주기로 이미지 프레임을 추출하되, 추출 주기는, 이미지 프레임의 유해성 여부, CPU 점유율 및 배터리 잔량 중 적어도 하나에 따라, 실시간으로 변경될 수 있다.
이때, 추출 주기는, 이미지 프레임이 유해한 것으로 검사된 경우, 이전보다 작게 조절될 수 있다.
이때, 추출 주기는, CPU 점유율이 소정 임계치 이상인 경우 또는 배터리 잔량이 소정 임계치 이하인 경우, 이전보다 길어질 수 있다.
실시예에 따른 기계 학습 단말은, 적어도 하나의 프로그램이 기록된 메모리와, 네트워크 인터페이스 및 프로그램을 실행하는 프로세서를 포함하며, 프로그램은 유해 이미지 프레임 및 비 유해 이미지 프레임을 획득하고, 획득된 이미지 프레임 및 비 유해 이미지 프레임이 라벨링된 훈련 데이터를 생성하고, 신경망을 구성하고, 훈련 데이터로 제1 신경망 모델을 학습시켜 파라미터를 최적화하고, 최적화된 제1 신경망 모델을 경량화하여 제2 신경망 모델을 생성할 수 있다.
이때, 프로그램은, 네트워크 인터페이스를 통해 적어도 하나의 스마트 기기로부터의 요청에 따라 제2 신경망 모델을 다운로드 시킬 수 있다.
실시예에 따른 스마트 기기는, 적어도 하나의 프로그램 및 미리 학습된 신경망 모델이 기록된 메모리와, 스트리밍 서버로부터 네트워크를 통해 스트리밍 영상을 수신하는 네트워크 인터페이스와, 스트리밍 영상이 재생되는 인터페이스 출력부 및 프로그램을 실행하는 프로세서를 포함하며, 프로그램은 스트리밍 영상으로부터 이미지 프레임을 순차적으로 추출하고, 추출된 이미지 프레임의 유해성 여부를 미리 학습된 신경망 모델을 기반으로 검사하고, 이미지 프레임의 유해성 여부에 따라 선택적으로 스트리밍 영상의 재생을 차단할 수 있다.
이때, 신경망 모델은, 유해 이미지 및 비 유해 이미지를 포함하는 훈련 데이터로 학습된 제1 신경망 모델이 경량화된 제2 신경망 모델일 수 있다.
이때, 신경망 모델은, 콘볼루셔널 신경망(Convolutional Neural Network, CNN) 기반의 이미지 분류 신경망일 수 있다.
한편, 프로그램은, 유해성이 존재하는 이미지 프레임의 개수에 기반하여 스트리밍 영상의 유해성을 판단하고, 스트리밍 영상의 재생을 차단함에 있어, 스트리밍 영상의 유해성 판단 결과를 기반으로 수행할 수 있다.
이때, 프로그램은, 스트리밍 영상의 유해성 판단 결과를 기반으로 경고 메시지를 표출할 수 있다.
이때, 프로그램은, 스트리밍 영상의 유해성 판단 결과를 기반으로 대체 영상을 표출할 수 있다.
한편, 프로그램은, 이미지 프레임을 순차적으로 추출함에 있어, 소정 추출 주기로 이미지 프레임을 추출하되, 추출 주기는, 이미지 프레임이 유해한 것으로 검사된 경우, 이전보다 작게 조절될 수 있다.
이때, 추출 주기는, CPU 점유율이 소정 임계치 이상인 경우 또는 배터리 잔량이 소정 임계치 이하인 경우, 이전보다 길어질 수 있다.
실시예에 따라 인공 지능 기반으로 스트리밍 동영상의 유해성을 검사함으로써, 모니터링 요원의 정신 건강 및 고 비용 발생의 문제를 해결할 수 있다.
실시예에 따라, 폭증하는 스트리밍 동영상에 대한 실시간 유해성 검사를 가능하게 할 수 있다.
실시예에 따라, 스트리밍 동영상의 유해성을 검사하기 위한 별도의 검출 장비 구축 및 운용 비용없이 스트리밍 영상을 수신하는 스마트 기기에서 직접 검사하도록 할 수 있다.
실시예에 따라, 스마트 기기에서 스트리밍 영상의 서비스 품질 저하없이 스트리밍 동영상의 유해성을 실시간으로 검사할 수 있다. 즉, 스마트 기기의 처리 성능 및 배터리 상태에 따라 이미지 추출 주기를 조절함으로써, 서비스의 끊김이 없을 뿐만 아니라, 유해성 검사에 따른 추가적인 배터리 소모를 감소시킬 수 있다.
도 1은 실시예에 따른 유해 스트리밍 영상 검출 시스템의 개략적인 블록 구성도이다.
도 2는 실시예에 따른 스마트 기기에서의 유해 스트리밍 영상 검출 방법을 설명하기 위한 순서도이다.
도 3은 도 2에 도시된 스트리밍 영상의 유해성 판단 단계(S330)를 설명하기 위한 순서도이다.
도 4는 실시예에 따른 유해성 여부에 따른 추출 주기 조절하는 동작을 설명하기 위한 순서도이다.
도 5는 실시예에 따라 추출 주기에 따른 이미지 프레임 추출을 설명하기 위한 예시도이다.
도 6은 실시예에 따른 배터리 잔량에 따른 추출 주기 조절하는 동작을 설명하기 위한 순서도이다.
도 7은 실시예에 따른 CPU 점유율에 따른 추출 주기 조절하는 동작을 설명하기 위한 순서도이다.
도 8은 본 발명의 실시예에 따른 컴퓨터 시스템을 나타낸 블록도이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 것이며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하며, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 참조 부호는 동일 구성 요소를 지칭한다.
비록 "제1" 또는 "제2" 등이 다양한 구성요소를 서술하기 위해서 사용되나, 이러한 구성요소는 상기와 같은 용어에 의해 제한되지 않는다. 상기와 같은 용어는 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용될 수 있다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있다.
본 명세서에서 사용된 용어는 실시예를 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 또는 "포함하는(comprising)"은 언급된 구성요소 또는 단계가 하나 이상의 다른 구성요소 또는 단계의 존재 또는 추가를 배제하지 않는다는 의미를 내포한다.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어는 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 공통적으로 이해될 수 있는 의미로 해석될 수 있다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.
이하에서는, 도 1 내지 도 8을 참조하여 실시예에 따른 스마트 기기에서의 유해 스트리밍 영상 검출 방법 및 스마트 기기, 기계 학습 단말이 상세히 설명된다.
도 1은 실시예에 따른 유해 스트리밍 영상 검출 시스템의 개략적인 블록 구성도이다.
도 1을 참조하면, 유해 스트리밍 영상 검출 시스템은 스트리밍 서버(10), 기계 학습 단말(100) 및 스마트 기기(200)가 유/무선 네트워크를 통해 연동된다.
스트리밍 서버(10)는 적어도 하나의 스마트 기기(200)에 영상 스트리밍 서비스를 제공한다.
기계 학습 단말(100)의 학습 엔진(110)은 유해 이미지 및 비 유해 이미지를 포함하는 훈련 데이터로 학습된 제1 신경망 모델(120)을 생성한다.
즉, 학습 엔진(110)은 제1 신경망 모델(120)에서 출력된 값과 라벨링된 정답값을 손실 함수(Loss function) 또는 비용 함수(Cost Function)에 대입하여 오차를 구한다. 그런 후, 학습 엔진(110)의 비용함수(cost function)를 최소화하는 방향으로 역전파(Backpropagation) 알고리즘을 통해서 훈련 파라미터(Training Parameter)를 갱신한다.
이때, 신경망은 콘볼루셔널 신경망(Convolutional Neural Network, CNN) 기반의 이미지 분류 신경망일 수 있다. 일 예로, 모바일 단말을 위해 설계된 모바일(MobileNet)일 수 있다. 그러나, 이는 일 실시 예일 뿐, 본 발명은 이에 한정되지 않는다. 즉, 제1 신경망 모델(120)은 다양한 학습 알고리즘으로 구현될 수 있다.
이때, 기계 학습 단말(100)은 경량 모델 변환부(130)를 더 포함하는데, 경량 모델 변환부(130)는 생성된 제1 신경망 모델(120)을 경량화하여 제2 신경망 모델(220)을 생성한다. 이를 통해, 제2 신경망 모델(220)은 제1 신경망 모델(120)보다 그 파일 사이즈가 작아지고, 검출 속도가 빨라질 수 있다. 여기서, 경량 모델 변환부(130)는 텐서 플로우 라이트 변환기(Tensor Flow(TF) Lite Converter)일 수 있다.
여기서, 경량화 알고리즘을 간단히 설명하면, 모델 저장 포맷 변경 단계, 양자화(Quantization) 단계 및 가지치기(Pruning) 단계를 포함할 수 있다. 이때, 모델 저장 포맷 변경 단계에서는 제한된 컴퓨팅 자원과 메모리 자원에서 효율적으로 동작하도록 모델 저장 포맷을 변경한다. 예컨대, 모델 저장 포맷은 Flatbuffer일 수 있다.
이때, 양자화(Quantization) 단계에서는 모델의 매개 변수를 나타내는 데 사용되는 숫자의 정밀도를 줄인다. 즉, 이를 통해 정확도가 감소하는 대신 모델의 사이즈를 줄이고 검출 속도를 향상시킬 수 있다.
이때, 가지치기(Pruning) 단계에서는 모델의 파라미터 중 추론에 기여도가 낮은 것들을 제거하여, 모델의 크기를 줄이는데 유리할 수 있다. 한편, 기계 학습 단말(100)은 네트워크 인터페이스를 통해 적어도 하나의 스마트 기기(200)로부터의 요청에 따라 제2 신경망 모델(220)을 다운로드시킨다.
이때, 기계 학습 단말(100)은 스트리밍 서버(10)를 통해 스마트 기기(200)에 스트리밍 서비스를 제공하는 서비스 사업자에 의해 운영될 수 있다. 따라서, 제2 신경망 모델(220)은 서비스 사업자가 제공하는 스트리밍 서비스 앱(App)에 탑재되어 스마트 기기(200)에 제공될 수 있다.
스마트 기기(200)는 스트리밍 서버(10)로부터 수신되는 스트리밍 영상을 재생할 수 있는 장치일 수 있다.
실시예에 따라, 스마트 기기(200)은 이미지 추출부(210), 신경망 모델(220) 및 서비스 제어부(240)를 포함할 수 있다. 부가적으로, 추론부(230)를 더 포함할 수 있다.
이미지 추출부(210)는 스트리밍 영상으로부터 이미지 프레임을 순차적으로 추출한다. 이때, 이미지 추출부(210)는 스트리밍 영상의 모든 이미지 프레임을 추출하는 것이 아니라, 소정 추출 주기로 이미지 프레임을 추출할 수 있다. 이때, 이미지 프레임의 추출 주기는 미리 설정된 일정 주기일 수도 있고, 가변될 수도 있다. 이에 대한 상세한 설명은 도 4 내지 도 7을 참조하여 후술하기로 한다.
신경망 모델(220)은 추출된 이미지 프레임의 유해성 여부를 검사한다. 이때, 유해성 검사 모델(220)은 유해 이미지 및 비 유해 이미지를 포함하는 훈련 데이터로 학습된 제1 신경망 모델(120)이 경량화된 제2 신경망 모델(220)일 수 있다.
서비스 제어부(240)는 이미지 프레임의 유해성 여부에 따라 선택적으로 스트리밍 영상의 재생을 차단한다.
추론부(230)는 유해성 검사 모델(220)과 서비스 제어부(240) 사이에 위치하여, 유해성이 존재하는 이미지 프레임의 개수에 기반하여 스트리밍 영상의 유해성을 판단할 수 있다. 이로써, 신경망 모델(10)을 통한 인식 오류를 줄일 수 있다. 이에 대한 상세한 설명은 도 3을 참조하여 후술하기로 한다.
이때, 서비스 제어부(240)는 스트리밍 영상의 재생을 차단함에 있어, 추론부(230)에 의한 스트리밍 영상의 유해성 판단 결과를 기반으로 수행할 수 있다.
이때, 서비스 제어부(240)는 스트리밍 영상의 유해성 판단 결과를 기반으로 경고 메시지를 표출할 수도 있다. 예컨대, 스트리밍 영상이 유해한 것으로 판단된 경우, 서비스 제어부(240)는 자동으로 스트리밍 영상을 차단하지 않고, 스트리밍 영상이 유해함을 알려 스마트 기기 사용자가 스스로 스트리밍 영상을 중단하도록 할 수 있다. 또는, 성인 사용자가 자녀들과 함께 스트리밍 영상을 시청하는 경우, 자녀들에게 노출되지 못하도록 조치를 취하도록 할 수도 있다. 또는, 스트리밍 영상이 아직 유해한 것으로 판정되지는 않았지만, 유해성이 존재하는 이미지 프레임의 개수가 임계치에 근접하게 되는 경우, 서비스 제어부(240)는 사전에 스트리밍 영상이 유해 가능성이 크다는 메시지를 출력할 수도 있다.
이때, 서비스 제어부(240)는 스트리밍 영상의 유해성 판단 결과를 기반으로 대체 영상을 표출할 수도 있다.
이때, 스트리밍 영상의 재생 동작과 신경망 모델 기반으로 스트리밍 영상의 유해성을 추론하는 동작은 각각 병렬적으로 동시에 이루어질 수 있다.
즉, 신경망 모델 기반으로 스트리밍 영상의 유해성을 추론 동작을 거친 후, 순차적으로 스트리밍 영상이 재생된다면 스트리밍 서비스가 지연되는 문제가 발생할 수 있다. 따라서, 실시예에서는 스트리밍 영상을 재생함과 아울러 별도로 스트리밍 영상으로부터 이미지 프레임을 추출하여 신경망 모델 기반으로 유해성 여부가 추론되어, 유해성 추론 결과에 따라 재생되고 있는 스트리밍 영상을 차단 또는 대체하거나, 스트리밍 영상이 재생되고 있는 중에 경고 메시지가 출력되도록 할 수 있다.
이때, 스트리밍 영상의 유해성을 추론 동작은 쓰레드, GPU 등을 이용해서 다른 모듈, 예컨대 재생 모듈과 동시에 동작을 하며, 추론이 종료될 경우 종료 여부를 알려 추론 결과를 시스템이 활용할 수 있도록 한다. 한편, 전술한 바와 같이, 이미지 추출부(210)는 이미지 프레임을 순차적으로 추출함에 있어, 그 추출 주기는 가변될 수 있다. 이를 위해, 추론부(230)는 스케줄러(231)를 더 포함하여, 추출 주기를 실시간 산출하여, 이미지 추출부(210)에 피드백한다.
이때, 추출 주기는, 이미지 프레임의 유해성 여부, CPU 점유율 및 배터리 잔량 중 적어도 하나에 따라, 실시간으로 변경될 수 있다.
즉, 추출 주기는, 이미지 프레임이 유해한 것으로 검사된 경우, 이전보다 작게 조절될 수 있다. 즉, 유해 스트리밍 영상일 가능성이 큰 경우에만 이미지 프레임이 짧은 주기로 추출되도록 하고, 유해 스트리밍 영상일 가능성이 작은 경우에는 이미지 프레임이 긴 주기로 추출되도록 하여, 신경망 모델(220) 및 추론부(230)의 불필요한 부하를 감소시킬 수 있다.
이때, 추출 주기는, CPU 점유율이 소정 임계치 이상인 경우 또는 배터리 잔량이 소정 임계치 이하인 경우, 이전보다 길어질 수 있다. 즉, 스마트 기기(200)의 스트리밍 영상의 유해성 검사로 인한 CPU 점유율 및 배터리 소모로 인해 스트리밍 영상의 서비스 품질이 저하되는 것을 방지하기 위함이다.
도 2는 실시예에 따른 스마트 기기에서의 유해 스트리밍 영상 검출 방법을 설명하기 위한 순서도이다. 여기서, 전술한 내용과 중복되는 내용은 생략하기로 한다.
도 2를 참조하면, 실시예에 따른 스마트 기기에서의 유해 스트리밍 영상 검출 방법은, 스트리밍 영상으로부터 이미지 프레임을 순차적으로 추출하는 단계(S310)와, 추출된 이미지 프레임의 유해성 여부를 미리 학습된 신경망 모델을 기반으로 검사하는 단계(S320) 및 이미지 프레임의 유해성 여부에 따라 선택적으로 스트리밍 영상의 재생을 차단하는 단계(S340)를 포함한다.
이때, 실시예에 따른 스마트 기기에서의 유해 스트리밍 영상 검출 방법은, 검사하는 단계(S320) 이후에, 유해성이 존재하는 이미지 프레임의 개수에 기반하여 스트리밍 영상의 유해성을 판단하는 단계(S330)를 더 포함할 수 있다. 이에 대한 상세한 설명은 도 3을 참조하여 후술하기로 한다.
이때, 차단하는 단계(S340)는, 스트리밍 영상의 유해성 판단 결과를 기반으로 수행될 수 있다. 또한, 도면에는 도시되어 있지 않지만, 스트리밍 영상의 유해성 판단 결과를 기반으로 경고 메시지를 표출하는 단계를 더 포함할 수 있다. 또한, 도면에는 도시되어 있지 않지만, 스트리밍 영상의 유해성 판단 결과를 기반으로 대체 영상을 표출하는 단계를 더 포함할 수 있다.
한편, 추출하는 단계(S310)에서, 소정 추출 주기로 이미지 프레임을 추출할 수 있다. 이때, 추출 주기는, 이미지 프레임의 유해성 여부, CPU 점유율 및 배터리 잔량 중 적어도 하나에 따라, 실시간으로 변경될 수 있다. 이때, 추출 주기는, 이미지 프레임이 유해한 것으로 검사된 경우, 이전보다 작게 조절될 수 있다. 이때, 추출 주기는, CPU 점유율이 소정 임계치 이상인 경우 또는 배터리 잔량이 소정 임계치 이하인 경우, 이전보다 길어질 수 있다. 이에 대한 상세한 설명은 도 4 내지 도 7을 참조하여 후술하기로 한다.
도 3은 도 2에 도시된 스트리밍 영상의 유해성 판단 단계(S330)를 설명하기 위한 순서도이다.
도 3을 참조하면, 장치(200)는 이미지 프레임의 유해성 검사 결과가 출력됨에 따라, 분석된 연속적인 이미지 프레임들의 개수(K)를 '1'만큼 증가시킨다(S331).
그런 후, 장치(200)는 K번째 이미지 프레임에 유해성이 존재하는지 확인한다(S332).
S332의 확인 결과 이미지 프레임에 유해성이 존재하지 않을 경우, 장치(200)는 검사 대상 이미지 프레임의 개수(K)가 미리 정해진 소정 개수(N)에 도달했는지 판단(S333)하고, 판단 결과에 따라 선택적으로 검사 대상 이미지 프레임의 개수(K)를 초기화(S334)한 후, S310 단계로 진행한다. 즉, 미리 정해진 소정 개수(N)마다 이미지 프레임의 유해성 판단이 이루어지는 것이다.
반면, S332의 확인 결과 이미지 프레임에 유해성이 존재할 경우, 장치(200)는 유해성이 존재하는 이미지 프레임의 개수(M)를 '1' 증가시킨다(S335).
그런 후, 장치(200)는 검사 대상 이미지 프레임의 개수(K)가 미리 정해진 소정 개수(N)에 도달했는지 판단한다(S336).
S336의 판단 결과 검사 대상 이미지 프레임의 개수(K)가 미리 정해진 소정 개수(N)보다 작을 경우, 장치(200)는 S310을 다시 수행한다.
반면, S336의 판단 결과 검사 대상 이미지 프레임의 개수(K)가 미리 정해진 소정 개수(N)일 경우, 장치(200)는 유해성이 존재하는 이미지 프레임의 개수(M)가 임계값(th absc ) 이상인지를 판단한다(S337).
S337의 판단 결과 유해 이미지 프레임들의 개수(M)이 임계값(th absc ) 이상일 경우, 장치(200)는 스트리밍 동영상을 유해한 것으로 판단한다(S338).
반면, S337의 판단 결과 유해 이미지 프레임들의 개수(M)이 임계(th absc ) 값 이상이 아닐 경우, 장치(200)는 유해 이미지 프레임들의 개수(M) 및 대상 이미지 프레임의 개수(K)를 초기화(S339)한 후, S310으로 진행한다.
도 4는 실시예에 따른 유해성 여부에 따른 추출 주기 조절하는 동작을 설명하기 위한 순서도이고, 도 5는 실시예에 따라 추출 주기에 따른 이미지 프레임 추출을 설명하기 위한 예시도이다.
도 4를 참조하면, 스케줄러(231)는 유해성이 존재하는 이미지 프레임의 발생 여부를 판단한다(S411).
S411의 판단 결과 이미지 프레임의 유해성이 존재할 경우, 스케줄러(231)는 추출 주기를 감소시킨다(S412). 즉, 이미지 프레임의 유해성이 존재하는 것으로 검사되면 스트리밍 영상이 유해물일 가능성이 크므로, 도 5에 도시된 바와 같이 이미지 프레임을 짧은 주기(T1)으로 추출하여 검출 속도를 증가시켜야 한다.
반면, S411의 판단 결과 이미지 프레임의 유해성이 존재하지 않을 경우, 스케줄러(231)는 추출 주기를 감소시킨다(S413). 즉, 이미지 프레임의 유해성이 존재하지 않을 경우 스트리밍 영상이 유해물이 아닐 가능성이 크므로, 도 5에 도시된 바와 같이 이미지 프레임을 긴 주기(T2)으로 추출하여 검출 속도를 감소시켜야 한다. 즉, 불필요한 추론에 의한 스마트 기기의 CPU 부하 및 배터리 소모를 줄여 스트리밍 서비스의 품질이 저하되는 것을 방지할 수 있다.
도 6은 실시예에 따른 배터리 잔량에 따른 추출 주기 조절하는 동작을 설명하기 위한 순서도이다.
도 6을 참조하면, 스케줄러(231)는 스마트 기기의 배터리 잔량이 충분한지를 확인한다(S421).
S421의 판단 결과 스마트 기기의 배터리 잔량이 충분할 경우, 스케줄러(231)는 추출 주기를 감소시킨다(S422). 반면, S411의 판단 결과 스마트 기기의 배터리 잔량이 충분하지 않을 경우, 스케줄러(231)는 추출 주기를 증가시킨다(S213). 즉, 배터리 잔량이 충분하지 않을 경우, 스트리밍 영상의 유해물 검사를 위한 배터리 소모로 스트리밍 서비스의 품질이 저하되는 것을 막기 위함이다.
도 7은 실시예에 따른 CPU 점유율에 따른 추출 주기 조절하는 동작을 설명하기 위한 순서도이다.
도 7을 참조하면, 스케줄러(231)는 CPU 점유율이 소정 임계치 이상인지를 판단한다(S431).
S431의 판단 결과 스마트 기기의 CPU 점유율이 충분할 경우, 스케줄러(231)는 추출 주기를 감소시킨다(S432). 반면, S431의 판단 결과 스마트 기기의 배터리 잔량이 충분하지 않을 경우, 스케줄러(231)는 추출 주기를 감소시킨다(S433).
전술한 기계 학습 단말(100) 및 스마트 기기(200)의 구성 및 동작은 도 8에 도시된 컴퓨터 시스템으로 구현될 수 있다. 전술한 바와 같이, 학습 장치(100) 및 자동 기보 생성 장치(200)는 하나의 컴퓨터 시스템 상에서 구현될 수도 있고, 후술할 네트워크 인터페이스(1060)를 통해 상호간에 통신 가능하도록 별도의 컴퓨터 시스템으로 구현될 수도 있다.
도 8은 본 발명의 일실시예에 따른 컴퓨터 시스템을 나타낸 블록도이다.
도 8을 참조하면, 본 발명의 실시예는 컴퓨터로 읽을 수 있는 기록매체와 같은 컴퓨터 시스템에서 구현될 수 있다. 도 8에 도시된 바와 같이, 컴퓨터 시스템(1000)은 버스(1020)를 통하여 서로 통신하는 하나 이상의 프로세서(1010), 메모리(1030), 사용자 인터페이스 입력 장치(1040), 사용자 인터페이스 출력 장치(1050) 및 스토리지(1060)를 포함할 수 있다. 또한, 컴퓨터 시스템(1000)은 네트워크(1080)에 연결되는 네트워크 인터페이스(1070)를 더 포함할 수 있다. 프로세서(1010)는 중앙 처리 장치 또는 메모리(1030)나 스토리지(1060)에 저장된 프로세싱 인스트럭션들을 실행하는 반도체 장치일 수 있다. 메모리(1030) 및 스토리지(1060)는 다양한 형태의 휘발성 또는 비휘발성 저장 매체일 수 있다. 예를 들어, 메모리(1030)는 ROM(1031)이나 RAM(1032)을 포함할 수 있다.
이상에서와 같이 본 발명에 따른 스마트 기기에서의 유해 스트리밍 영상 검출 방법, 스마트 기기 및 기계 학습 단말은 상기한 바와 같이 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.
이상에서 첨부된 도면을 참조하여 본 발명의 실시예들을 설명하였지만, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다.
10: 스트리밍 서버
100: 기계 학습 단말 110: 학습 엔진
120: 유해성 검사 모델 130: 경량 모델 변환부
200: 스마트 기기 210: 이미지 추출부
220: 유해성 검사 모델 230: 추론부
230: 스케줄러 240: 서비스 제어부

Claims (20)

  1. 스트리밍 서버로부터 수신된 스트리밍 영상을 재생시키는 스마트 기기에서의 유해 스트리밍 영상 검출 방법에 있어서,
    스트리밍 영상으로부터 이미지 프레임을 순차적으로 추출하는 단계;
    추출된 이미지 프레임의 유해성 여부를 미리 학습된 신경망 모델을 기반으로 검사하는 단계; 및
    이미지 프레임의 유해성 여부에 따라 선택적으로 스트리밍 영상의 재생을 차단하는 단계를 포함하는 스마트 기기에서의 유해 스트리밍 영상 검출 방법.
  2. 제1 항에 있어서, 신경망 모델은,
    기계 학습 단말에 의해 생성된 것으로,
    기계 학습 단말로부터 미리 다운로드된 것인, 스마트 기기에서의 유해 스트리밍 영상 검출 방법.
  3. 제2 항에 있어서, 기계 학습 단말은,
    유해 이미지 및 비 유해 이미지를 포함하는 훈련 데이터로 학습된 제1 신경망 모델을 생성하고,
    생성된 제1 신경망 모델을 경량화하여 제2 신경망 모델을 생성하되,
    신경망 모델은,
    제2 신경망 모델인, 스마트 기기에서의 유해 스트리밍 영상 검출 방법.
  4. 제1항에 있어서, 신경망 모델은,
    콘볼루셔널 신경망(Convolutional Neural Network, CNN) 기반의 이미지 분류신경망 알고리즘을 기반으로 생성되는 것인, 스마트 기기에서의 유해 스트리밍 영상 검출 방법.
  5. 제1 항에 있어서,
    검사하는 단계 이후에, 유해성이 존재하는 이미지 프레임의 개수에 기반하여 스트리밍 영상의 유해성을 판단하는 단계를 더 포함하고,
    차단하는 단계는,
    스트리밍 영상의 유해성 판단 결과를 기반으로 수행되는, 스마트 기기에서의 유해 스트리밍 영상 검출 방법.
  6. 제5 항에 있어서,
    스트리밍 영상의 유해성 판단 결과를 기반으로 경고 메시지를 표출하는 단계를 더 포함하는, 스마트 기기에서의 유해 스트리밍 영상 검출 방법.
  7. 제5 항에 있어서,
    스트리밍 영상의 유해성 판단 결과를 기반으로 대체 영상을 표출하는 단계를 더 포함하는, 스마트 기기에서의 유해 스트리밍 영상 검출 방법.
  8. 제1 항에 있어서, 추출하는 단계는,
    소정 추출 주기로 이미지 프레임을 추출하되,
    추출 주기는,
    이미지 프레임의 유해성 여부, CPU 점유율 및 배터리 잔량 중 적어도 하나에 따라, 실시간으로 변경되는, 스마트 기기에서의 유해 스트리밍 영상 검출 방법.
  9. 제8 항에 있어서, 추출 주기는,
    이미지 프레임이 유해한 것으로 검사된 경우, 이전보다 작게 조절되는, 스마트 기기에서의 유해 스트리밍 영상 검출 방법.
  10. 제8 항에 있어서, 추출 주기는,
    CPU 점유율이 소정 임계치 이상인 경우 또는 배터리 잔량이 소정 임계치 이하인 경우, 이전보다 길어지는 스마트 기기에서의 유해 스트리밍 영상 검출 방법.
  11. 적어도 하나의 프로그램이 기록된 메모리;
    네트워크 인터페이스; 및
    프로그램을 실행하는 프로세서를 포함하며,
    프로그램은
    유해 이미지 및 비 유해 이미지를 포함하는 훈련 데이터로 학습된 제1 신경망 모델을 생성하고, 생성된 제1 신경망 모델을 경량화하여 제2 신경망 모델을 생성하는, 기계 학습 단말.
  12. 제12 항에 있어서, 프로그램은,
    네트워크 인터페이스를 통해 적어도 하나의 스마트 기기로부터의 요청에 따라 제2 신경망 모델을 다운로드시키는, 기계 학습 단말.
  13. 적어도 하나의 프로그램 및 미리 학습된 신경망 모델이 기록된 메모리;
    스트리밍 서버로부터 네트워크를 통해 스트리밍 영상을 수신하는 네트워크 인터페이스;
    스트리밍 영상이 재생되는 인터페이스 출력부; 및
    프로그램을 실행하는 프로세서를 포함하며,
    프로그램은
    스트리밍 영상으로부터 이미지 프레임을 순차적으로 추출하고,
    추출된 이미지 프레임의 유해 여부를 미리 학습된 신경망 모델을 기반으로 검사하고,
    이미지 프레임의 유해성 여부에 따라 선택적으로 스트리밍 영상의 재생을 차단하는, 스마트 기기.
  14. 제13 항에 있어서, 신경망 모델은,
    유해 이미지 및 비 유해 이미지를 포함하는 훈련 데이터로 학습된 제1 신경망 모델이 경량화된 제2 신경망 모델인, 스마트 기기.
  15. 제13항에 있어서, 신경망 모델은,
    콘볼루셔널 신경망(Convolutional Neural Network, CNN) 기반의 이미지 분류신경망인, 스마트 기기.
  16. 제13 항에 있어서, 프로그램은,
    유해성이 존재하는 이미지 프레임의 개수에 기반하여 스트리밍 영상의 유해성을 판단하고,
    스트리밍 영상의 재생을 차단함에 있어, 스트리밍 영상의 유해성 판단 결과를 기반으로 수행하는, 스마트 기기.
  17. 제16 항에 있어서, 프로그램은,
    스트리밍 영상의 유해성 판단 결과를 기반으로 경고 메시지를 표출하는, 스마트 기기.
  18. 제16 항에 있어서, 프로그램은,
    스트리밍 영상의 유해성 판단 결과를 기반으로 대체 영상을 표출하는, 스마트 기기.
  19. 제13 항에 있어서, 프로그램은,
    이미지 프레임을 순차적으로 추출함에 있어, 소정 추출 주기로 이미지 프레임을 추출하되,
    추출 주기는,
    이미지 프레임이 유해한 것으로 검사된 경우, 이전보다 작게 조절되는, 스마트 기기.
  20. 제13 항에 있어서, 추출 주기는,
    CPU 점유율이 소정 임계치 이상인 경우 또는 배터리 잔량이 소정 임계치 이하인 경우, 이전보다 길어지는 스마트 기기.
KR1020200051956A 2020-04-29 2020-04-29 스마트 기기에서의 유해 스트리밍 영상 검출 방법, 스마트 기기 및 기계 학습 단말 KR102432824B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200051956A KR102432824B1 (ko) 2020-04-29 2020-04-29 스마트 기기에서의 유해 스트리밍 영상 검출 방법, 스마트 기기 및 기계 학습 단말

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200051956A KR102432824B1 (ko) 2020-04-29 2020-04-29 스마트 기기에서의 유해 스트리밍 영상 검출 방법, 스마트 기기 및 기계 학습 단말

Publications (2)

Publication Number Publication Date
KR20210133411A true KR20210133411A (ko) 2021-11-08
KR102432824B1 KR102432824B1 (ko) 2022-08-17

Family

ID=78497230

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200051956A KR102432824B1 (ko) 2020-04-29 2020-04-29 스마트 기기에서의 유해 스트리밍 영상 검출 방법, 스마트 기기 및 기계 학습 단말

Country Status (1)

Country Link
KR (1) KR102432824B1 (ko)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114157912A (zh) * 2021-11-26 2022-03-08 瑞森网安(福建)信息科技有限公司 一种云视频播放方法及其在影像投屏中的应用
CN114157884A (zh) * 2021-12-02 2022-03-08 瑞森网安(福建)信息科技有限公司 一种高效云视频跨设备投屏方法、系统及存储介质
KR102395846B1 (ko) * 2021-11-19 2022-05-10 ㈜노웨어소프트 디지털 콘텐츠의 필터링 시스템 및 필터링 제어방법
KR102529170B1 (ko) * 2022-10-31 2023-05-03 주식회사 아이비주얼컴퍼니 아트월 시스템
KR20230068207A (ko) * 2021-11-10 2023-05-17 광운대학교 산학협력단 모바일 단말에서 유해 동영상 차단을 위한 단말 자원 기반의 적응적 프레임 추출 및 스트리밍 제어 시스템 및 방법

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110080224A (ko) * 2010-01-05 2011-07-13 (주)필링크 유해 동영상 검출장치 및 그 방법
KR101237469B1 (ko) 2011-05-12 2013-02-26 재단법인 서울호서직업전문학교 음란 이미지 자동 인식 방법, 장치 및 그 방법을 실행하기 위한 프로그램 기록매체
KR20150092546A (ko) * 2014-02-05 2015-08-13 한국전자통신연구원 무해 프레임 필터 및 이를 포함하는 유해 영상 차단 장치, 무해 프레임을 필터링하는 방법
KR20160107417A (ko) * 2015-03-03 2016-09-19 한국전자통신연구원 유해 동영상 탐지 방법 및 장치
KR20200037568A (ko) * 2018-10-01 2020-04-09 주식회사 이루온 유해 콘텐츠 차단 시스템 및 방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110080224A (ko) * 2010-01-05 2011-07-13 (주)필링크 유해 동영상 검출장치 및 그 방법
KR101237469B1 (ko) 2011-05-12 2013-02-26 재단법인 서울호서직업전문학교 음란 이미지 자동 인식 방법, 장치 및 그 방법을 실행하기 위한 프로그램 기록매체
KR20150092546A (ko) * 2014-02-05 2015-08-13 한국전자통신연구원 무해 프레임 필터 및 이를 포함하는 유해 영상 차단 장치, 무해 프레임을 필터링하는 방법
KR20160107417A (ko) * 2015-03-03 2016-09-19 한국전자통신연구원 유해 동영상 탐지 방법 및 장치
KR20200037568A (ko) * 2018-10-01 2020-04-09 주식회사 이루온 유해 콘텐츠 차단 시스템 및 방법

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230068207A (ko) * 2021-11-10 2023-05-17 광운대학교 산학협력단 모바일 단말에서 유해 동영상 차단을 위한 단말 자원 기반의 적응적 프레임 추출 및 스트리밍 제어 시스템 및 방법
KR102395846B1 (ko) * 2021-11-19 2022-05-10 ㈜노웨어소프트 디지털 콘텐츠의 필터링 시스템 및 필터링 제어방법
CN114157912A (zh) * 2021-11-26 2022-03-08 瑞森网安(福建)信息科技有限公司 一种云视频播放方法及其在影像投屏中的应用
CN114157884A (zh) * 2021-12-02 2022-03-08 瑞森网安(福建)信息科技有限公司 一种高效云视频跨设备投屏方法、系统及存储介质
KR102529170B1 (ko) * 2022-10-31 2023-05-03 주식회사 아이비주얼컴퍼니 아트월 시스템

Also Published As

Publication number Publication date
KR102432824B1 (ko) 2022-08-17

Similar Documents

Publication Publication Date Title
KR102432824B1 (ko) 스마트 기기에서의 유해 스트리밍 영상 검출 방법, 스마트 기기 및 기계 학습 단말
CN112749608B (zh) 视频审核方法、装置、计算机设备和存储介质
US10733452B2 (en) Brand safety in video content
CN110784759B (zh) 弹幕信息处理方法、装置、电子设备及存储介质
CN111382623B (zh) 一种直播审核的方法、装置、服务器和存储介质
EP3473016B1 (en) Method and system for automatically producing video highlights
CN111541910A (zh) 一种基于深度学习的视频弹幕评论自动生成方法及系统
CN110458591A (zh) 广告信息检测方法、装置及计算机设备
CN112995690B (zh) 直播内容品类识别方法、装置、电子设备和可读存储介质
CN111738243A (zh) 人脸图像的选择方法、装置、设备及存储介质
Sinno et al. Large scale subjective video quality study
CN110968689A (zh) 罪名及法条预测模型的训练方法以及罪名及法条预测方法
CN111479130A (zh) 一种视频定位方法、装置、电子设备和存储介质
CN111488487A (zh) 一种面向全媒体数据的广告检测方法及检测系统
CN114863221A (zh) 检测模型的训练方法、装置、系统、设备及存储介质
CN112231497A (zh) 信息分类方法、装置、存储介质及电子设备
Sani et al. SMASH: A supervised machine learning approach to adaptive video streaming over HTTP
CN116861258B (zh) 模型处理方法、装置、设备及存储介质
Chen et al. Multiclass live streaming video quality classification based on convolutional neural networks
CN112733809B (zh) 一种用于自然保护区监控系统的智能图像识别方法及系统
US20230186631A1 (en) Browser-based frame extraction method and system
CN110659561A (zh) 互联网暴恐视频识别模型的优化方法及装置
RU2807642C1 (ru) Способ и устройство, сервер и носитель данных для модерации прямой трансляции
CN118018777A (zh) 视频审核方法、装置、设备和存储介质
US20240048807A1 (en) Leveraging insights from real-time media stream in delayed versions

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant