요약본 발명의 일 실시 예에 따른 비윤리적 이미지를 검출하고 윤리적 이미지로 변환하는 방법은 (a) 사용자로부터 텍스트를 입력 받아 상기 텍스트에 대응되는 이미지를 생성하는 제1 단계, (b) 상기 입력 받은 텍스트 및 상기 생성한 이미지 중 어느 하나 이상의 비윤리성을 측정하여, 상기 측정한 비윤리성이 제1 임계값 이상인지 판단하는 제2 단계, (c) 상기 판단 결과 비윤리성이 제1 임계값 이상이라면, 상기 텍스트 및 이미지 중 어느 하나 이상이 포함하는 비윤리적 요인을 검출하는 제3 단계 및 (d) 상기 검출한 비윤리적 요인을 복수 개의 변환 알고리즘(Algorithm) 중 어느 하나 이상을 통해 처리하여 윤리적 이미지로 변환하는 제4 단계를 포함하며, 상기 복수 개의 변환 알고리즘은, 모자이크(Mosaic) 처리 알고리즘, 인페인팅(Inpainting) 처리 알고리즘, 대체 단어 생성 알고리즘 및 윤리적 캡션(Caption) 활용 알고리즘 중 어느 하나 이상이다.
대표 청구항프로세서 및 메모리를 포함하는 장치가 비윤리적 이미지를 검출하고 윤리적 이미지로 변환하는 방법에 있어서, (a) 사용자로부터 텍스트를 입력 받아 상기 텍스트에 대응되는 이미지를 생성하는 제1 단계;(b) 상기 입력 받은 텍스트 및 상기 생성한 이미지 중 어느 하나 이상의 비윤리성을 윤리 관련 텍스트 테이터 셋인 ETHICS 데이터 셋 및 이미지-텍스트 임베딩 모델인 CLIP 모델을 이용하여 학습이 완료된 비윤리성 분류기(Immorallity Classifier)를 이용하여 측정하여, 상기 측정한 비윤리성이 제1 임계값 이상인지 판단하는 제2 단계;(c) 상기 판단 결과 비윤리성이 제1 임계값 이상이라면, 상기 텍스트 및 이미지 중 어느 하나 이상이 포함하는 비윤리적 요인을 검출하는 제3 단계; 및(d) 상기 검출한 비윤리적 요인을 복수 개의 변환 알고리즘(Algorithm) 중 어느 하나 이상을 통해 처리하여 윤리적 이미지로 변환하는 제4 단계;를 포함하며, 상기 복수 개의 변환 알고리즘은, 모자이크(Mosaic) 처리 알고리즘, 인페인팅(Inpainting) 처리 알고리즘, 대체 단어 생성 알고리즘 및 윤리적 캡션(Caption) 활용 알고리즘 중 어느 하나 이상인, 비윤리적 이미지를 검출하고 윤리적 이미지로 변환하는 방법에 있어서, 상기 제3 단계는, 상기 이미지가 포함하는 픽셀 중, 복수 개의 픽셀을 랜덤으로 마스킹한 하나 이상의 마스킹 이미지(Ⅱ)를 생성하는 제3-1´ 단계;상기 생성한 하나 이상의 마스킹 이미지(Ⅱ)의 비윤리성을 측정하는 제3-2´ 단계; 상기 제3-2´ 단계에서 측정한 마스킹 이미지(Ⅱ)의 비윤리성을 이용하여 상기 이미지가 포함하는 각각의 픽셀 별 비윤리성을 산정하는 제3-3´ 단계; 및상기 산정한 픽셀 별 비윤리성이 제2 임계값 이상인 픽셀을 비윤리적 요인으로 검출하는 제3-4 ´단계; 중 어느 하나 이상을 포함하는 비윤리적 이미지를 검출하고 윤리적 이미지로 변환하는 방법.
