생성형 AI 모델의 저작권 침해 방지 기법 연구 동향 : 스타일 모방 기법과 방지 기법을 중심으로

Ⅰ. 서 론

최근 몇 년간 텍스트를 조건으로 하는 이미지 생성 (text-to-image generation) 모델의 발전은 디지털 콘텐츠 생태계에 급격한 변화를 가져왔다^[24,25,26]. 특히 Stable diffusion^[1], DALL·E^[2]와 같은 모델은 단 몇 줄의 텍스트 프롬프트만으로도 사실적이거나 예술적인 이미지를 생성할 수 있는 능력을 갖추었다. 이는 예술, 디자인, 게임 등 다양한 분야에서 창작 도구로 활용되고 있다.

그러나 이러한 비약적인 기술의 발전은 저작권 침해 우려를 불러일으켰다^[27,28]. 대부분의 대규모 생성 모델은 공개 웹사이트에서 수집한 이미지들을 바탕으로 학습된다. 이 과정에서 특정 작가의 화풍 (style)이 함께 학습되기도 한다. 그 결과, 그림 1의 오른쪽과 같이 사용자들이 입력한 ‘a drawing of [작가 이름] style’과 같은 프롬프트만으로도 생성 모델은 해당 작가의 고유한 화풍을 매우 높은 유사도로 재현할 수 있다. 하지만 이는 창작자의 의사와 무관하게 그 정체성과 표현 양식이 무단으로 복제되는 결과를 초래할 수 있으며, 나아가 저작권 침해의 소지가 있다. 예컨대, ChatGPT^[3]에 ‘지브리 스타일의 이미지 생성해줘’라는 프롬프트를 입력할 경우, 실제 지브리 스튜디오에서 만든 이미지가 아님에도 불구하고, 마치 지브리 스튜디오에서 제작한 것과 같은 이미지를 생성한다. Diffusion 기반 생성 모델^[1]은 지브리 스튜디오가 제작한 이미지에서 추출한 색감, 구도, 인물 형태, 배경 연출 등을 학습하고, 이를 바탕으로 지브리 스튜디오의 스타일처럼 보이는 완전히 새로운 이미지를 창출할 수 있다. 이는 법적으로 저작권의 핵심 보호 대상인 ‘인간의 사상 또는 감정을 표현한 창작물’ 자체가 무단 학습되어 재생산되는 것으로 해석될 수 있으며, 궁극적으로는 원작자의 경제적 이익 침해 문제로 이어질 수 있다.

Fig. 1.

Architecture of the LDM[1] and generated images conditioned on different prompts

생성형 AI로 인한 저작권 침해는 다양한 사례가 있다. 첫째로 작가 및 예술가의 저작권 침해 소송 사례가 있다. 여러 명의 시각 예술가들이 이미지 생성 AI (Stable Diffusion^[1], Midjourney^[29], DeviantArt^[30] 등)를 상대로 저작권 침해 소송을 제기하였다. 이는 자신의 작품이 무단으로 AI 모델 학습에 사용되었고, 생성된 이미지가 원작과 유사하거나 스타일을 모방했다고 주장한다. 법원이 원고의 일부 주장을 받아들여, AI가 생성한 이미지가 원작과 실질적으로 유사할 경우 저작권 침해가 성립할 수 있음을 인정하였다^[31]. 그리고 세계적인 이미지 에이전시인 Getty Images는 Stability AI가 수백만 장의 자사 이미지를 무단으로 학습 데이터로 사용했다며 대규모 저작권 소송을 제기하였다. 이 사건은 AI 모델 학습에 사용된 데이터의 출처와 허가 여부가 중요한 쟁점임을 보여준다^[32].

둘째로 언론 및 콘텐츠 기업의 집단 소송 사례가 있다. 뉴욕 타임즈는 OpenAI가 자사 기사를 무단으로 학습 데이터로 활용했다고 주장하며 소송을 제기하였다. 이 사건은 AI가 생성한 텍스트가 원본 기사와 유사하거나 일부를 그대로 재현하는 등, 실제 저작권 침해 피해가 발생할 수 있음을 보여준다^[33]. 유사하게 인도 최대 뉴스통신사 ANI 역시 OpenAI가 자사 뉴스를 무단으로 학습에 사용했다고 주장하며 소송을 제기했다. 이 사례는 비영어권 미디어도 AI 저작권 침해 문제에 적극 대응하고 있음을 보여준다.

셋째로 브랜드 및 캐릭터 스타일 침해 사례가 있다. Microsoft의 Bing AI 이미지 생성기가 ‘픽사 스타일’ 이미지를 생성하면서, 실제 디즈니-픽사 로고와 유사한 디자인이 포함된 결과물이 생성되어 논란이 되었다. 이는 AI가 특정 브랜드나 캐릭터의 고유 스타일을 모방하여 상표권 및 저작권 침해 위험을 높인 대표적 사례이다^[34].

넷째로 작가 스타일 모방 및 2차 저작물 문제가 있다. AI가 특정 작가의 이름을 프롬프트에 입력하면, 해당 작가의 고유한 화풍이나 스타일을 모방한 작품을 생성할 수 있다. 실제로 여러 아티스트 들이 자신의 이름이 프롬프트로 사용되어 모방 작품이 대량 생성되는 현상에 대해 항의하고 있다. 이러한 피해는 작가의 경제적, 명예적 손실로 이어질 수 있다^[35].

마지막으로 AI 모델의 훈련 데이터 추출 공격 및 저작권노출 사례가 있다. 연구자들은 AI 모델에 특정 프롬프트를 입력해 훈련 데이터에 포함된 저작권 이미지를 거의 그대로 복원해내는 사례를 다수 확인하였다. 이는 단순한 스타일 모방을 넘어, 원본 데이터의 직접적인 유출과 저작권 침해로 이어질 수 있음을 보여준다^[36].

이러한 text-to-image 생성 모델에 의해 발생할 수 있는 예술가 고유 화풍의 무단 모방 및 저작권 침해 문제에 대응하기 위해, 해당 스타일의 학습 및 재현을 방해하는 기술적 방어 기법 (style mimicry protection)의 도입이 활발히 논의되고 있다. 본 논문에서는 스타일 모방 가능성이 확인된 주요 생성 모델들을 분석하고, 예술가의 시각적 저작물을 보호하기 위한 효과적인 기술적 방어 메커니즘의 원리와 구현 방식을 고찰한다.

Ⅱ. 배경 지식

Ⅲ. 스타일 모방 기법의 구체화 및 이해

특정 스타일을 학습하고 재현하는 생성 모델들은 각기 다른 다양한 방식으로 작동한다. 이에 대한 자세한 분석을 위해, 본 장에서는 대표적인 스타일 모방 기법으로 알려진 DreamBooth^[6], Textual Inversion^[7], Custom diffusion^[8], StyleDrop^[9]을 중심으로, 각 기법이 어떤 방식으로 스타일 정보를 주입하고 모방하는지 비교한다.

1. DreamBooth^[6]

DreamBooth^[6]는 Google research와 Boston university가 공동으로 개발한 개인화 text-to-image generation 기법으로, 그림 2와 같은 구조를 갖고 있다. 소수의 이미지 샘플만으로도 특정 객체나 스타일을 모델이 생성할 수 있다는 특징을 가지고 있다. 사용자는 3~5장의 스타일 이미지와 함께 이를 설명하는 텍스트를 제공하며, 해당 데이터는 사전 학습된 stable diffusion 모델의 U-Net^[5] 네트워크를 fine-tuning하는 데 사용된다. 이 과정에서 “[V]”와 같은 사용자 정의 토큰을 프롬프트에 삽입함으로써, 새로운 개체나 스타일이 모델 내 latent 표현 공간에 고정 (anchor)된다.

Fig. 2.

Overall architecture of DreamBooth[6]

이렇듯 이미지를 설명하는 텍스트를 활용한 DreamBooth^[6]의 구조는 특정 작가의 색채, 질감, 구도 등 복합적인 시각 특성을 이미지 샘플과 유사하게 재현할 수 있도록 하며, 이를 통해 높은 수준의 스타일 모방을 가능하게 한다. 이는 작가의 고유한 시각적 표현이 단 몇 장의 샘플만으로도 모델에 내재화될 수 있음을 의미한다.

2. Textual Inversion^[7]

Textual Inversion^[7]은 DreamBooth^[6]와 달리 diffusion 모델의 파라미터를 조정하지 않고, 단일 텍스트 임베딩 벡터를 학습하는 방식이다. 그림 3에서와 같이, 사용자는 같은 스타일을 공유하는 이미지들과 “[S_*]”와 같은 새로운 pseudo-token을 정의한다. 이후, 학습 과정에서 해당 토큰이 주어진 이미지들의 특성을 반영하도록 CLIP^[4] 임베딩 공간 내에서 벡터가 조정된다.

Fig. 3.

Example of pseudo-tokens in Textual Inversion[7]

이러한 방식은 단일 임베딩 벡터만을 학습하기 때문에 상대적으로 연산량이 적고, 기존 모델 구조를 변경하지 않아 안정적인 학습이 가능하다는 장점이 있다. 그리고 이 장점을 바탕으로, Textual Inversion^[7]은 단순한 스타일 모방이나 키워드 기반의 표현 확장에서 유용하게 활용된다. 그러나 스타일 재현의 정밀도는 DremaBooth^[6]와 같은 파라미터 조정 방식에 비해 낮으며, 복잡한 스타일의 경우 효과가 제한적일 수 있다는 단점이 존재한다.

3. Custom Diffusion^[8]

그림 4의 Custom Diffusion^[8]은 DreamBooth^[6]와 Textual Inversion^[7]의 절충형 접근 기법으로, 모델의 일부 파라미터만 선택적으로 학습한다. 이를 위해 U-Net^[5]의 중간 레이어 일부를 fine-tuning하며, 필요에 따라 Low-Rank Adaptation of large language models (LoRA)^[14] 등을 함께 적용하기도 한다. 이 기법은 전체 모델을 수정하지 않으면서도 앞선 기법들과 비교했을 때 상대적으로 높은 수준의 스타일 반영이 가능하다는 점에서 실용적이라는 장점이 있다.

Custom Diffusion^[8]은 제한된 자원 (GPU memory, 시간 등) 내에서도 학습이 가능하므로, 개인 사용자가 사용하기에 용이하다. 그림 4는 이러한 selective fine-tuning 구조를 시각적으로 설명하고 있으며, 이는 해당 기법이 효율적인 학습을 지향함을 보여준다.

Fig. 4.

Fine-tuning process of Custom Diffusion[8]

4. StyleDrop^[9]

StyleDrop^[9]은 Google이 제안한 사실적인 이미지를 생성하는 모델인 imagen^[15]에 적용한 스타일 적응 시스템으로, 하나의 스타일을 다양한 콘텐츠에 적용할 수 있도록 설계되었다. 이 기법은 대략 30장 이상의 스타일 이미지로부터 스타일 임베딩을 추출하고, 이를 생성 모델의 조건 (condition)으로 삽입하여 다양한 입력 프롬프트에 일관되게 스타일을 적용한다.

또한, 이 기법은 단일 개체 또는 캐릭터뿐만 아니라 보다 복합적인 시각 표현 (예: 텍스트 타이포그래피, 인쇄체 등)에 대한 스타일링에도 효과적이다. 그림 5는 논문에서 발췌한 것으로 reference image가 주어졌을 때 StyleDrop, DreamBooth, Textual inversion의 스타일 모방 성능을 비교한 실험으로, StyleDrop^[9]은 가장 reference image와 유사한 스타일로 이미지를 생성한 반면, Textual Inversion^[7]은 색감과 질감 등 모든 스타일 요소 측면에서 유사도가 떨어짐을 확인할 수 있다.

Fig. 5.

Comparative analysis of style mimicry in text-to-image models using style reference images

Ⅳ. 스타일 모방 방어 기법 구체화 및 한계

본 장에서는 2.3장에서 서술한 내용을 바탕으로, Glaze^[11], Mist^[12], Anti-DreamBooth^[13]와 같은 대표적인 스타일 모방 방어 기법들에 대해 각 기법이 어떤 방식으로 스타일 모방을 방어하는지 비교한다.

2. Denoiser 기반 스타일 방어 기법

Denoiser 기반 스타일 방어 기법은 스타일 모방 여부를 정량화하기 위해 reconstruction 에러를 활용하며, 이 값이 클수록 denoiser가 원본 이미지를 정확히 복원하지 못해 스타일 학습이 실패한다고 가정한다. 이를 토대로 denoiser ε_θ가 출력하는 reconstruction 예측 값과 실제 노이즈 간의 오차를 모방률로 간주하여, 이를 증가시키는 방향으로 교란을 설계한다. 이 접근법은 에러 값이 클수록 이미지 reconstruction 품질이 떨어지고, 결과적으로 스타일 특유의 표현이 제대로 재현된다는 가정에 기반한다.

2.1 Anti-DreamBooth^[13]

Anti-DreamBooth^[13]는 DreamBooth^[6] 기반의 text-to-image 생성 모델이 악의적으로 사용되어 특정 개인의 이미지가 가지는 외형이나 스타일이 무단으로 재현되는 것을 방지하기 위해 제안된 대표적인 denoiser 기반 스타일 방어 기법이다. 그림 6은 기법의 전체 구조도로, 이 기법은 diffusion 모델의 denoising 과정에서 예측되는 노이즈 값과 실제 노이즈 간의 오차를 증가시키는 방식으로 perturbation을 설계한다. 이를 통해 diffusion 모델이 원본 이미지를 정확하게 복원하지 못하도록 유도하며, 결과적으로 DreamBooth^[6] 모델의 개인 스타일 학습 및 재현 능력을 저하시킨다.

Fig. 6.

Overall architecture of Anti-DreamBooth[13]

Anti-DramBooth^[13]는 공격자가 사용할 수 있는 DreamBooth^[6] 모델의 내부를 직접적으로 알 수 없다는 현실적인 제약을 고려하여, surrogate model (대리 모델)을 도입한다. Surrogate 모델이란, 실제 스타일 모방 기법 모델과 유사한 학습 구조를 갖도록 훈련된 대체 모델로, 이를 이용해 교란을 간접적으로 최적화한다. Anti-DreamBooth^[13]는 이러한 surrogate 모델을 이용해 노이즈 예측 오차를 최대화하는 방향으로 perturbation을 학습함으로써, 실제 공격자 모델에서도 유사한 효과를 얻을 수 있다고 기대한다.

이러한 구조 아래에서 Anti-DreamBooth는 두 가지 주요 변형 기법을 제안한다. 첫 번째는 Fully-trained Surrogate Model Guidance (FSMG)로, 원본 이미지에 대해 사전에 DreamBooth^[6] 파인튜닝을 완료한 고정된 surrogate 모델을 사용한다. 이후에는 해당 모델을 참조하여 각 방어 대상 이미지에 대한 적대적 교란을 설계한다. 이 방식은 효율적이라는 장점이 있지만, surrogate 모델과 스타일 모방 기법 모델 간 학습 설정 또는 데이터 차이로 인하여 (예: 다른 reference 이미지로 학습되어) 방어 성능이 저하될 수 있다는 단점이 존재한다.

두 번째는 Alternating Surrogate and Perturbation Learning (ASPL)으로, surrogate 모델을 고정하지 않고 반복적으로 갱신하는 동적 구조를 갖는다. 각 반복 (iteration)마다 surrogate 모델을 클린 이미지로 파인튜닝한 후, 이 모델을 기반으로 현재 perturbed image에 대해 PGD를 적용하여 교란을 최적화한다. 이후 이 perturbed images로 surrogate 모델을 다시 학습하는 과정을 반복하며, 이를 통해 실제 공격자의 DreamBooth^[6] 학습 과정을 더 정밀하게 모사할 수 있다.

그림 6은 Anti-DreamBooth의 두 가지 변형 방식인 FSMG와 ASPL의 구조적 차이를 구체적으로 보여준다. 두 방식 모두 PGD를 활용하여 적대적 교란 δ를 생성하며, 이는 surrogate model의 reconstruction 손실함수인 L_cond를 최대화하는 방향으로 최적화된다. FSMG는 고정된 surrogate 모델을 기반으로 모든 방어 이미지에 대해 동일한 모델을 참조하여 perturbation을 생성하는 반면, ASPL은 surrogate 모델을 각 반복마다 업데이트하여, perturbation 생성과 모델 학습을 교차적으로 수행한다.

표 1은 CelebA-HQ^[18]와 VGGFace2^[19] 두 얼굴 데이터셋을 대상으로, 제안된 네 가지 방어 기법 (FSMG, ASPL, T-FSMG, T-ASPL)의 방어 성능을 비교한 결과이다. 이때 FSMG와 ASPL은 비타겟 방식이며, T-FSMG와 T-ASPL은 특정 방향으로 교란을 유도하는 타겟 방식의 변형 기법이다. 이때 타겟 이미지는 클린 이미지 (reference image)와는 무관한, 사용자가 임의로 지정한 별도의 이미지이다.

Table 1.

Comparison of defense performance between FSMG and ASPL in Anti-DreamBooth[13]

실험 평가 지표로는 Fake-to-Detection Failure Rate (FDFR)^[20], Identity Similarity Metric (ISM)^[21], Style Error Rate – Face Quality Assessment (SER-FQA)^[22], Blind/Referenceless Image Spatial Quality Evaluator (BRI-SQUE)^[23]을 사용하였다. 먼저 FDFR는 방어된 이미지가 탐지 모델에 의해 원본 이미지로 오인되는 비율로, 값이 클수록 방어 이미지가 원본과 유사한 외형을 유지하고 있음을 의미한다. ISM은 원본 이미지와 생성 이미지 간의 신원 유사도를 나타내며, 일반적으로 얼굴 임베딩 간의 코사인 유사도 등을 통해 계산된다. ISM 값이 작을수록 신원 정보가 효과적으로 은폐되었음을 의미한다. SER-FQA는 방어 이미지의 얼굴 품질 저하 정도를 평가하는 지표로, 값이 작을수록 스타일 손실이 적고 이미지 품질이 우수함을 의미한다. 마지막으로, BRI-SQUE는 참조 이미지 없이 이미지 품질을 정량적으로 평가하는 지표로, 값이 클수록 구조적 왜곡이 적고 시각적으로 자연스러운 이미지임을 의미한다.

실험에는 학습 시 사용된 프롬프트 (“a photo of sks person”)와 학습 과정에서 사용되지 않은 새로운 프롬프트 (“a dslr portrait of sks person”)가 모두 포함되었다. 그 결과 ASPL이 모든 지표에서 가장 안정적이고 우수한 방어 성능을 보였다. 반면, 타겟 방식 (T-FSMG, T-ASPL)은 비타겟 방식에 비해 오히려 방어 성능이 낮은 경향을 보였는데, 이는 노이즈가 특정 방향으로 수렴하면서 전체적인 파인튜닝 방해 효과가 분산되었기 때문으로 해석된다. 이러한 결과는 ASPL이 DreamBooth^[6] 학습 과정을 가장 현실적으로 반영하고 있으며, 강건한 일반화 성능을 갖춘 효과적인 방어 기법임을 시사한다.

5. 스타일 모방 방지 기법의 한계

현재까지 제안된 스타일 모방 방지 기법들은 이미지 생성 모델이 저작권 스타일을 무단으로 학습하는 것을 방지하기 위한 효과적인 시도이지만, 몇 가지 본질적인 한계를 내포하고 있다.

첫째, 시각적 품질 저하 문제이다. 대부분의 방어 기법은 원본 이미지에 일정 수준의 perturbation을 인위적으로 삽입하여 스타일 모방 기법의 학습 효율을 저하시키고, 그 결과로 스타일 모방을 억제한다. 그러나 이러한 방식은 이미지의 시각적 품질을 훼손시키며, 때로는 눈에 띄는 잡음이나 왜곡을 유발할 수 있다. 그림 7의 좌측은 원본 이미지, 우측은 원본 이미지에 perturbation을 삽입한 이미지로, 우측 이미지에서 시각적 품질 저하가 발생했음을 확인할 수 있다. 예술가나 디자이너와 같은 창작자들은 자신의 포트폴리오나 SNS 게시물에 고품질의 이미지를 게시하는 것이 중요한데, 이미지가 손상된 상태로 게시되어야 한다면 해당 방어 기법의 실사용 가능성은 크게 저하된다.

Fig. 7.

Left: Original image / Right: Image with inserted perturbation

둘째, 모델 구조 및 버전 종속성 문제이다. 대부분의 방어 기법은 특정한 이미지 생성 모델 구조, 예컨대 stable diffusion v1.4와 같은 특정 버전에 맞춰 설계되고 최적화되어 있다. 이러한 기법은 해당 버전에서는 효과적으로 작동할 수 있지만, 구조적으로 상이한 다른 버전의 생성 모델에서는 방어 효과가 현저히 감소하거나 무효화된다. 이는 공격자가 방어된 이미지를 수집하여 다른 모델 아키텍처에서 학습을 수행하는 경우 방어 실효성이 상실될 수 있음을 의미한다. 따라서 방어 기법이 특정 모델 구조에 의존적이라는 점은 일반화 측면에서 중대한 제약으로 작용한다.

추가적으로, 본 논문에서는 웹툰 이미지에 기존 기법을 적용하여 성능을 실험하였다. 기존 기법들은 주로 사실적인 사진을 대상으로 평가되어 왔으나, 웹툰 이미지는 평면적이고 단순한 특성을 지니기 때문에 perturbation의 영향이 더욱 뚜렷하게 나타날 것으로 예상하였다. 이에 따라 실험을 진행한 결과, 그림 8과 같이 perturbation 삽입 시 이미지 품질 저하가 명확하게 관찰되었다. 이는 복잡한 실제 사진과 달리, 단순한 웹툰 이미지 도메인에서는 기존 기법들이 이미지 품질 저하라는 한계를 가지는 것을 보여준다. 특히, 웹툰 작가들은 자신의 작품을 온라인에 고화질로 공개하는 것이 중요한데, 기존 기법들은 이미지 품질 저하를 초래하여 실질적인 활용에 한계가 있음을 시사한다.

Fig. 8.

Experimental results on image quality using webtoon images in existing methods

Ⅴ. 향후 연구 방향 및 결론

본 논문에서는 딥러닝 기반 이미지 생성 모델에서 발생할 수 있는 스타일 모방 문제를 인식하고, 현재까지 제안된 스타일 모방 방지 기법들에 대한 소개와 더불어 해당 기법들의 한계를 분석하였다. 대표적인 방어 방식으로 활용되고 있는 이미지 perturbation 삽입 기법은 생성 모델이 특정 스타일에 대한 학습을 방해하는 데 일정 수준의 효과를 보였으나, 시각적 품질 저하와 모델 구조 및 버전의 종속성에 대한 구조적 한계를 가지고 있었다. 이러한 한계를 극복하기 위해, 향후 연구에서는 다음과 같은 방향으로의 발전이 필요할 것으로 보인다.

첫째, 시각적 품질을 보존하는 방어 기법에 대한 연구가 필요하다. 인간이 인지할 수 없는 수준의 고차원적 특징 공간에서의 방어 perturbation 삽입 또는 주파수 도메인 기반의 비가시적 변형 방식 등을 고려할 수 있다.

둘째, 생성 모델의 구조에 대한 의존성이 낮은 일반화된 기법 연구가 필요하다. 생성 모델의 구조에 의존하지 않고, 다양한 모델 및 버전에서 방어 효과를 유지할 수 있는 일반화된 방어 메커니즘 개발이 요구된다.

셋째, adversarial robustness가 아닌, privacy-preserving generation 또는 워터마크 삽입 및 사후 추적 기법 개발로의 전환이 필요하다. 기존의 스타일 모방 방지 기법이 adversarial noise에 기반했다면, 향후에는 모델 내부에서 학습이 되지 않도록 하는 원천적 접근, 혹은 복원 가능한 워터마크 삽입을 통한 사후 추적 기반의 protection이 필요할 것이다.

종합하면 스타일 모방 방지 기법은 단순한 시각적 변형을 넘어서, 학습 과정 전반에 영향을 미칠 수 있는 구조적이고 일반화된 접근이 필요하다. 특히 다양한 생성 모델 환경에서도 일관된 방어 효과를 보장할 수 있는 일반화된 메커니즘의 방어 전략 개발이 주요한 과제로 남을 것이다. 더불어, 시각적 품질을 보존하면서도 효과적인 방어를 달성할 수 있는 새로운 방식에 대한 탐색이 요구된다.

Acknowledgments

이 논문은 2025년도 정부(과학기술정보통신부)의 재원으로 한국연구재단 지원 (RS-2023-00208763) 정보통신기획평가원–학·석사연계ICT핵심인재양성 지원을 받아 수행된 연구임 (IITP-2025-RS-2023-00260248)

References

• R. Rombach, A. Blattmann, D. Lorenz, P. Esser, and B. Ommer, “High-resolution image synthesis with latent diffusion models,” Proc. IEEE/CVF Conf. Computer Vision and Pattern Recognition (CVPR), pp. 10684–10695, 2022. [https://doi.org/10.48550/arXiv.2112.10752]
• A. Ramesh, M. Pavlov, G. Goh, et al., “Zero-shot text-to-image generation,” Proc. Int. Conf. Machine Learning (ICML), PMLR, pp. 8821–8831, 2021. [https://doi.org/10.48550/arXiv.2102.12092]
• OpenAI, “ChatGPT overview,” https://openai.com/chatgpt/overview/, (accessed May 19, 2025).
• A. Radford, J. W. Kim, C. Hallacy, et al., “Learning transferable visual models from natural language supervision,” Proc. Int. Conf. Machine Learning (ICML), PMLR, pp. 8748–8763, 2021. [https://doi.org/10.48550/arXiv.2103.00020]
• O. Ronneberger, P. Fischer, and T. Brox, “U-net: Convolutional networks for biomedical image segmentation,” Medical Image Computing and Computer-Assisted Intervention – MICCAI 2015, Vol. 9351, Springer, pp. 234–241, 2015. [https://doi.org/10.48550/arXiv.1505.04597]
• N. Ruiz, Y. Li, C. Liao, et al., “Dreambooth: Fine tuning text-to-image diffusion models for subject-driven generation,” Proc. IEEE/CVF Conf. Computer Vision and Pattern Recognition (CVPR), pp. 28517–28527, 2023. [https://doi.org/10.48550/arXiv.2208.12242]
• R. Gal, O. Alaluf, Y. Nadav, et al., “An image is worth one word: Personalizing text-to-image generation using textual inversion,” arXiv preprint arXiv:2208.01618, , 2022. [https://doi.org/10.48550/arXiv.2208.01618]
• N. Kumari, Y. Li, R. Salakhutdinov, et al., “Multi-concept customization of text-to-image diffusion,” Proc. IEEE/CVF Conf. Computer Vision and Pattern Recognition (CVPR), pp. 28528–28538, 2023. [https://doi.org/10.48550/arXiv.2212.04488]
• K. Sohn, S. Gidaris, R. Zhang, et al., “Styledrop: Text-to-image generation in any style,” arXiv preprint arXiv:2306.00983, , 2023. [https://doi.org/10.48550/arXiv.2306.00983]
• M. Heikkilä, “This artist is dominating AI-generated art. And he’s not happy about it,” MIT Technology Review, 2022.
• S. Shan, E. Zou, J. Zhu, et al., “Glaze: Protecting artists from style mimicry by text-to-image models,” Proc. 32nd USENIX Security Symposium (USENIX Security 23), 2023. [https://doi.org/10.48550/arXiv.2302.04222]
• C. Liang and X. Wu, “Mist: Towards improved adversarial examples for diffusion models,” arXiv preprint arXiv:2305.12683, , 2023. [https://doi.org/10.48550/arXiv.2305.12683]
• T. V. Le, X. Xu, X. Zhu, et al., “Anti-dreambooth: Protecting users from personalized text-to-image synthesis,” Proc. IEEE/CVF Int. Conf. Computer Vision (ICCV), pp. 16310–16319, 2023. [https://doi.org/10.48550/arXiv.2303.15433]
• E. J. Hu, Y. Shen, P. Wallis, et al., “LoRA: Low-rank adaptation of large language models,” Proc. Int. Conf. Learning Representations (ICLR), pp. 1–18, 2022. [https://doi.org/10.48550/arXiv.2106.09685]
• C. Saharia, W. Chan, S. Saxena, et al., “Photorealistic text-to-image diffusion models with deep language understanding,” Advances in Neural Information Processing Systems (NeurIPS), Vol. 35, pp. 36479–36494, 2022. [https://doi.org/10.48550/arXiv.2205.11487]
• R. Zhang, P. Isola, A. A. Efros, E. Shechtman, and O. Wang, “The unreasonable effectiveness of deep features as a perceptual metric,” Proc. IEEE Conf. Computer Vision and Pattern Recognition (CVPR), pp. 586–595, 2018. [https://doi.org/10.48550/arXiv.1801.03924]
• A. Madry, A. Makelov, L. Schmidt, D. Tsipras, and A. Vladu, “Towards deep learning models resistant to adversarial attacks,” arXiv preprint arXiv:1706.06083, , 2017. [https://doi.org/10.48550/arXiv.1706.06083]
• Q. Cao, L. Shen, W. Xie, O. M. Parkhi, and A. Zisserman, “VGGFace2: A dataset for recognising faces across pose and age,” Proc. IEEE Int. Conf. Automatic Face & Gesture Recognition (FG), pp. 67–74, 2018. [https://doi.org/10.48550/arXiv.1710.08092]
• T. Karras, T. Aila, S. Laine, and J. Lehtinen, “Progressive growing of GANs for improved quality, stability, and variation,” arXiv preprint arXiv:1710.10196, , 2017. [https://doi.org/10.48550/arXiv.1710.10196]
• J. Deng, J. Guo, E. Ververas, I. Kotsia, and S. Zafeiriou, “RetinaFace: Single-shot multilevel face localisation in the wild,” Proc. IEEE/CVF Conf. Computer Vision and Pattern Recognition (CVPR), pp. 5203–5212, 2020. [https://doi.org/10.48550/arXiv.1905.00641]
• J. Deng, J. Guo, N. Xue, and S. Zafeiriou, “ArcFace: Additive angular margin loss for deep face recognition,” Proc. IEEE/CVF Conf. Computer Vision and Pattern Recognition (CVPR), pp. 4690–4699, 2019. [https://doi.org/10.1109/TPAMI.2021.3087709]
• J. Song, C. Meng, and S. Ermon, “Denoising diffusion implicit models,” Proc. Int. Conf. Learning Representations (ICLR), 2021. [https://doi.org/10.48550/arXiv.2010.02502]
• A. Madry, A. Makelov, L. Schmidt, D. Tsipras, and A. Vladu, “Towards deep learning models resistant to adversarial attacks,” Proc. Int. Conf. Learning Representations (ICLR), 2018. [https://doi.org/10.48550/arXiv.1706.06083]
• Ming Ding, Zhuoyi Yang, Wenyi Hong, Wendi Zheng, Chang Zhou, Da Yin, Junyang Lin, Xu Zou, Zhou Shao, Hongxia Yang, et al., “Cogview: “Mastering text-to-image generation via transformers,” Advances in neural information processing systems, 34:19822–19835, 2021. [https://doi.org/10.48550/arXiv.2105.13290]
• MingDing, WendiZheng, and Wenyi Hong,andJie Tang, “Cogview2: Faster and better text-to-image generation via hierarchical transformers,” Advances in Neural Information Processing Systems, 35:16890–16902, 2022. [https://doi.org/10.48550/arXiv.2204.14217]
• Chitwan Saharia, William Chan, Saurabh Saxena, Lala Li, Jay Whang, Emily L Denton, Kamyar Ghasemipour, Raphael Gontijo Lopes, Burcu Karagol Ayan, Tim Salimans, et al., “Photorealistic text-to-image diffusion models with deep language understanding,” Advances in neural information processing systems, 35:36479–36494, 2022. [https://doi.org/10.48550/arXiv.2205.11487]
• Noa Garcia, Yusuke Hirota, Yankun Wu, and Yuta Nakashima, “Uncurated image-text datasets: Shedding light on demographic bias,” In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition, pages 6957–6966, 2023. [https://doi.org/10.48550/arXiv.2304.02828]
• Gowthami Somepalli, Vasu Singla, Micah Goldblum, Jonas Geiping, and Tom Goldstein, “Diffusion art or digital forgery? investigating data replication in diffusion models,” In Proceedings of the IEEE/CVF conference on computer vision and pattern recognition, pages 6048–6058, 2023. [https://doi.org/10.48550/arXiv.2212.03860]
• https://en.wikipedia.org/wiki/Midjourney
• https://www.deviantart.com/
• MacCarthy, M. (2024, January 24). Generative AI and copyright issues globally: ANI Media v. OpenAI. Tech Policy Press, https://www.techpolicy.press/generative-ai-and-copyright-issues-globally-ani-media-v-openai/
• Silicon Republic. (2023). New Glaze app looks to protect art from AI mimicry. Silicon Republic, https://www.siliconrepublic.com/machines/glaze-ai-art-protection-copyright-mimicry
• Wired Staff. (2024). AI copyright case tracker. Wired, https://www.wired.com/story/ai-copyright-case-tracker/
• BrandShield. (2024). Generative AI and copyright infringement: What brands need to know. BrandShield, https://www.brandshield.com/blog/generative-ai-and-copyright-infringement-what-brands-need-to-know/
• Ars Technica Staff. (2024). Glaze, a tool protecting artists from AI, bypassed by attack as demand spikes. Ars Technica, https://arstechnica.com/tech-policy/2024/07/glaze-a-tool-protecting-artists-from-ai-bypassed-by-attack-as-demand-spikes/
• Freethink Staff. (2024). AI copyright violations. Freethink, https://www.freethink.com/robots-ai/ai-copyright-violations
• Zhu, Peifei, Tsubasa Takahashi, and Hirokatsu Kataoka. “Watermark-embedded adversarial examples for copyright protection against diffusion models.” Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2024. [https://doi.org/10.48550/arXiv.2404.09401]
• Gui, Dongnan, et al. “I2VGuard: Safeguarding Images against Misuse in Diffusion-based Image-to-Video Models.” Proceedings of the Computer Vision and Pattern Recognition Conference. 2025.
• Chen, Liangyu, et al. “Simple baselines for image restoration.” European conference on computer vision. Cham: Springer Nature Switzerland, 2022. [https://doi.org/10.48550/arXiv.2204.04676]