주의. 사건·사고 관련 내용을 설명합니다.
이 문서는 실제로 일어난 사건·사고의 자세한 내용과 설명을 포함하고 있습니다.
이 문서는 실제로 일어난 사건·사고의 자세한 내용과 설명을 포함하고 있습니다.
1. 개요2. 상세3. 대회 및 전시회 참여 논란
3.1. Midjourney 예술대회 우승 사건3.2. 암스테르담 국립미술관 아마추어 전시전 AI 그림 참여 논란
4. 인간 작가 위장 및 사기4.1. 인간 커미션 위장
5. 상업적 이용 논란4.1.1. Preview 작가 AI 커미션 의혹
4.2. AI 사용자의 허위 포트폴리오 사건4.3. 텀블벅 프로젝트의 AI 사용 의혹4.4. 서울코믹월드 AI 굿즈판매 논란4.5. 신한 블랙컨슈머 그림AI를 활용한 페이퍼컴퍼니를 통한 부정수급 논란5.1. 랜덤채팅의 그녀! AI 그림 논란5.2. 승리의 여신: 니케 AI 일러스트 사용 의혹 및 사용 부인 논란5.3. 백야극광 축전 AI 그림 논란5.4. 네이버 웹툰 만우절 AI 표지 논란5.5. 심규선 뮤직비디오 AI 사용 논란5.6. 웹소설 AI 일러스트 논란들5.7. Rayark의 AI 일러스트 상업적 활용 공식화 논란5.8. 신과함께 돌아온 기사왕님 AI 그림 논란5.9. 웹소설 표지 단가 시비5.10. 원신 팬아트 공모전 대량 트레이싱 및 AI 의혹 사건5.11. ai를 이용한 저작권 침해5.12. 소설 아몬드의 AI를 이용한 무단 표지 작업 결과물 논란
6. 무단 학습 논란6.1. 그림 학습에 대한 대중의 인식 오류6.2. 김정기 그림 AI 학습 및 고인모독 논란6.3. 라스트오리진 일러스트레이터 AI 학습 사건6.4. 일러스트 작가 화풍 AI 학습 후 인간작가 행세6.5. 미드저니의 미키마우스 생성 논란6.6. AI 학습 및 어그로성 댓글 사건6.7. Sam Does Arts 작가 무단학습 양산 사건6.8. Nekojira 작가 무단학습 사건 Civitai6.9. Corridor AI 애니메이션 논란6.10. 어도비 AI 학습 사건6.11. 일반인 사진 대량 학습 및 윤리적 책임 논란6.12. 명일방주 일러스트레이터 무단 학습 논란6.13. t2i 카드캡터 사쿠라 사건6.14. 荻pote 작가 그림 및 이름 악의적 도용, 영업방해 사건
7. 학습모델 도용 및 사기8. 소송 관련9. 사이버불링6.14.1. 연관 PIXIV 규약 개정
6.15. 네이버 도전만화가 보이콧 시위6.16. 드롭박스 데이터 AI 무단사용 논란9.1. AI 그림 플랫폼 이용자의 악성 어그로9.2. 애니메이터 Tarrow 조롱 사건9.3. 무분별한 AI 사용 의혹 제기9.4. 중국 버튜버 신상털이 및 사이버불링9.5. 裏方작가 사칭 및 살해협박9.6. jizell작가 사이버불링 9.7. urct 작가 사이버불링 및 살해협박 피해
10. img2img 기능 오용 및 도용 사건들10.1. 트위치 스트리밍 그림 학습 사건10.2. img2img 댓글 트롤링10.3. AI 사용자간 img2img 도용10.4. 일대다 img2img 도용10.5. @U__MASU 유저의 Img2Img 이용 사건10.6. 일본 버츄얼 유튜버 무단 상표 등록 사건
11. 기타11.1. AI 개발자 인터뷰 날조 논란11.2. stable diffusion 선정적 그림 생성 및 화풍학습 너프에 대한 반발11.3. 텐센트 QQ소세계 서비스의 윤리적 논란 및 의혹11.4. 랜사앱 서비스의 윤리적 논란11.5. 아트스테이션 사용자들의 AI 거부 시위11.6. 거대ai 6개월 실험 중지 요청 공개서한
12. 규제 및 제재13. 딥페이크1. 개요
그림 인공지능의 논란 및 사건 사고를 정리한 문서.2. 상세
AI 그림을 활용한 사건사고는 여기에 모두 기재하기에는 불가능할 수준으로 전 세계에서 광범위하게 발생하고 있다. 특히 그림 시장이 엄청나게 발전된 일본을 포함한 여러 국가의 작가들이 상당히 심대한 피해를 입고 있는 실태이다. 중국의 경우 AI 학습자들이 모여 조직적으로 반대측이나 작가를 괴롭히고 있을 정도이다. 따라서, 여기에 기재된 사건 사고들은 AI 그림시장에서 일어난 사건사고의 극히 일부일 뿐임을 알아두자. 특히 무단 학습은 유명 일러스트레이터의 그림을 학습시키고 그 학습 내용을 돈을 받고 파는 사건이 아주 흔할 정도이다. 거기에 디시인사이드의 신규 기능인 디시픽에서는 대놓고 wlopstyle의 그림을 그릴 수 있도록 추천하고 있을 정도.인공지능의 기술에 대한 신비주의와 호사가들의 기대로 가득찼던 기술 대두 초기와 달리, 그림 인공지능이 발전한 지 얼마 되지 않아 생기는 여러가지 기술적인 한계와 문제점이 속속들이 드러나고 있다. 그리고 그런 한계들을 무마하려는 목적 또는 AI 그림 생성을 더 쉽게 하기 위해 남의 그림을 무단 도용하며 이를 사실상 저작권 세탁 용도로 사용하는 사례가 급증하고 있다.
여러 사건을 추가로 파악하고 싶다면 일본에서 정리한 AI그림 사건사고 사이트를# 참조해보는 것도 도움이 될 것이다. 다만 이 사이트마저 모든 AI 사건사고를 설명하고 있지는 않다. 그 덕에 일본 위키 역시 이 쪽 사건사고 링크를 참조로 걸어두고 있다.
3. 대회 및 전시회 참여 논란
3.1. Midjourney 예술대회 우승 사건
의 2022년 예술대회 우승 사건 부분을
참고하십시오.콜로라도 주립박람회 미술대회 우승 이후에 AI를 사용했음을 작가가 SNS에 직접 밝혀 논란이 되었다. 주최 측은 AI를 사용했음을 알고 심사했더라도 결과는 바뀌지 않았을 거라며 우승 박탈하지 않았다.
3.2. 암스테르담 국립미술관 아마추어 전시전 AI 그림 참여 논란
2023년 3월경, 암스테르담 국립미술관에 남은 공간을 잠시 채울 아마추어 전시전에 걸린 그림 중 하나가 AI를 사용했음을 사전에 밝혔음에도 의견이 극단적으로 엇갈렸다. 해당 그림은 진주 귀고리를 한 소녀를 I2I 돌린 것이다. #4. 인간 작가 위장 및 사기
최근 아주 많이 벌어지는 문제다. AI그림이 나오고 시간이 지남에 따라 AI에게 먹이는 그림이 늘어나고, 그 그림이 꽤나 정갈하게 나오기 시작하면서 이 상황이 더욱 문제가 되고 있다. 바로 AI그림이 아니라 자기가 그린 그림인 척 하는 것이 문제점인데, 예시로 들 수 없을 정도로 많은 위장 작가들이 픽시브나 트위터 등지에서 활동하고 있다. 들켜도 다른 사람의 그림을 다시 학습시키면 그만인지라, 사라졌다가 다시 나타나도 동일인인지 알 수 없는 문제도 있다.4.1. 인간 커미션 위장
AI 그림이 탄생한 이후, 자신을 '사람이 그리는' 그림쟁이인척 위장하는 가짜 커미션 생산자들이 나타나고 있다. 더군다나 사람 작가인척 위장하며 '사람이 그리는 그림 커미션' 인냥 커미션들을 받고 실제로는 AI가 출력한 그림을 보내주는 사기 수법도 늘어나고 있다. #1-1 #1-2 #2 #3 #4위와 같은 상황이 많이 발생하자, 진짜 사람의 그림인데도 AI로 의심하고 악플을 다는 경우가 생겼다. 서로 예민해져서 생긴 문제. #
AI 그림은 아래와 같은 특징이 있음으로 참고해서 구분하면 좋다. 특히 인물이 2인 이상이 되거나 묘사가 디테일할수록 아래의 특징이 도드라진다.
- 손, 발, 귀 등 일부 신체 부위가 비틀려 있다. 특히 손은 그 복잡한 구조상 실제 초보 일러스트레이터들 및 미술 관련 학생들은 물론이고 어느정도 실력이 오른 그림쟁이들조차 어려워 하는 높은 장벽인 만큼, 그림 AI 개발 측에서도 아주 고질적인 문제점이다. 아직까지는 AI가 손에 대한 해부학적 지식과 논리 없이 보이는 그대로 수많은 손 데이터를 조합해서 손을 재현하려고 하는지라 아무리 AI의 보조 기능이 발전해도 항상 문제가 나타난다. 손가락 4개, 6개는 기본이고 아예 형체도 못 알아보도록 뭉게지거나 손가락과 손가락 사이에서 다른 손가락이 나오는 등 인간이 인체를 틀리는 방식과도 쉽게 구분된다. 별도의 수정 없이 이를 보완하기 위한 다양한 시도들[1]이 나오고는 있으나, 여전히 뒤틀리고 괴상한 손은 자주 나온다. 그래서 아예 손을 주머니에 넣는 등 주변 사물이나 도구로 가리거나 어색하지 않도록 최대한 단순화시키는 경우도 많다. 그림 자체의 퀄리티는 분명 높은데 손이 유독 다른 사물에 가려져 있거나 나와도 그 모습이 주먹 등 단순하게 그려져 있을 경우, 한 두장이면 그럴 수도 있겠지만 여러 그림을 봐도 다 그렇게 그려져 있다면 AI임을 의심해볼만 하다.[2]
- 이빨이 있는 경우 일그러진다. 이빨은 특별한 의도가 없는 한[3] 인간작가는 잘 그리지 않는 부위다.
- 악세사리나 장식이 정확한 형태를 띄지 못하고 녹아있다.
- 악세사리나 장식의 일부분이 머리카락이나 옷과 뒤섞여 녹아있다.
- 머리카락 끝이 거미줄이나 나뭇가지처럼 비틀려있다.
- 눈썹과 머리카락이 닿는 곳이 일그러진다.
- 좌우대칭 디자인을 잘 못뽑는다.: 오른쪽 왼쪽 단추 디테일이 달라지는 식.
- 그림체를 하나로 고정하기 힘들다.: 인간 작가가 그림체를 바꾸는 경우는 연구를 위한 실험이나, 독자를 고려하여 용도에 맞게 조정하는 경우, 그림 공부하는 학생이 배운 것을 그림에 적용하는 경우가 많아 AI와는 구별된다.
- 고정된 캐릭터를 그리기 어렵다.: 차렷 자세에서 각도만 돌려도 장식물 등이 바뀌어버린다.
- 물체 앞에 다른 물체가 있어 자르듯이 가린경우, 뒤에있는 물체가 일그러진다.
- 체크무늬나 프릴같이 규칙 속에 불규칙이 있는 패턴을 그리지 못한다. 프릴은 레이스와 형태가 뒤섞여 녹아버리는 경우가 많고, 체크무늬는 부분부분 체크무늬가 다른 경우가 많다. 둘다 사람의 그림처럼 보이게 하려면 싹 다 다시그려야 한다.
- 역동적인 자세나 특정 음식을 먹는 포즈와 같이 데이터가 적은 구도는 뒤틀린다. 꼭 역동적이지 않더라도 다리 꼬기 같이 뼈가 얽히는 자세에서도 오류가 자주 나타난다. 이는 ControlNet의 Openpose 기능와 이를 수동으로 지정할 수 있는 확장 기능을 활용하면 자세를 직접 지정해줄 수 있게 되어 많이 개선되었기는 하나, 이렇게 해도 그 자세들에 대한 기본적인 데이터가 적다 보니 오류가 나는 경우가 많다. 분명 넘어지는 자세를 상정하고 지정해줘도 달리거나 덮치는 자세로 해석하거나, 다리를 꼬게 해도 다리가 3~4개로 나오거나 등 아직 부족한 점이 많다.
- 유명하지 않은 캐릭터는 유명한 캐릭터로 바꾸거나 특징을 지워버린다.: 그래서 마이너 장르의 특정 캐릭터 팬아트는 그리기 어렵다. 물론 태그 조합만으로 충분히 비슷하게 만들어 낼 수 있는 심플한 디자인의 캐릭터라면 불가능하지는 않고, 학습 기능도 크게 발전하여 어느정도 공식 이미지와 팬아트만 있으면 학습 기능과 반복 학습을 활용해서 충분히 만들 수도 있다. 그러나 아무래도 커미션을 받는 입장에서는 그 마이너 장르의 팬이 아닌 한 애정도 없을 캐릭터에 시간을 투자하기 귀찮기 때문에 대부분 거절한다. 그리고 아무리 유명한 장르의 지명도 있는 캐릭터라도 LoRA 파일 등 다른 사람이 만든 학습 파일이 풀리지 않았다면 거절한다.
- 총처럼 구도와 형태를 포함해 논리가 필요한 복잡한 형태의 무기는 그리지 못한다. 마찬가지로 평범한 형태의 아무 장식이 없던 한손 무기,양손 무기도 조금이라도 복잡한 형태를 표현하려고 하게 된다면 높은 확률로 녹아 흘러내려가거나 일그러지기 시작한다.
- 일본향 그림체의 경우, 중년 혹은 노인 여자는 그리지 않는다. 또한 무국적을 지향하는 일본향 그림체 덕분에 다양한 특징과 생김새를 가지고 있는 인종을 그리지 못한다.
- 글자나 로고에 일그러짐이 있다. 특히 로고의 경우 정체불명의 로고가 되거나 심하게 일그러지며 이는 워터마크에도 해당된다.
- 그림 구석에 가끔 워터마크의 흔적이 보인다. [4]
- 벡터 작업이 불가능하다.: 클립스튜디오의 경우 벡터 라인드로잉이 가능하다.
- 그림 과정이 없어 스피드페인팅이나 라이브 드로잉 쇼 같은 컨텐츠가 불가능하다.
- 레이어가 없다.: 선화, 채색, 효과등 각 레이어에 세부적인 파트를 나눌수가 없기 때문에 리터칭의 난이도가 극악으로 올라가게 되며, 전체 이미지를 들어낼수 밖에 없기 때문에 어떠한 형식으로든 어색한 부분과 흔적이 남게 된다. 리터칭 후 자기 그림으로 속이는 짓이 금방 들통나게 되는 원인이다.[5]
- 인쇄 가능한 해상도[6]가 나오지 않는다. (장물 데이터로 마개조한 경우는 제외.)
- 이스터에그를 넣는 것이 불가능하다. 그림에 이스터에그를 넣는 작가도 그닥 많지는 않다지만, 방법도 착시이용, 아이콘화 하여 숨기기, 단순히 작게 그려넣어 숨기기 등등 다양해서 정형화하기 힘든 작업 중 하나다.
- 정해진 레이아웃에서 캐릭터만 바꿔주는 커미션은 인간 작가의 커미션일 가능성이 높다. 이 경우 캐릭터 외에는 크게 바꾸지 않음으로, 샘플과 겹쳐보면 일치하는 경우가 많다.
- 사람이 아닌 말과 같은 동물은 다리 개수가 일치하지 않는 경우가 많다.
- 뜬금없는 곳에서 인체의 일부가 튀어나오는 경우가 있다. 예를 들어 목도리 술 대신 손가락 등이 뒤엉켜 그려져 있는 경우가 있고, 단순 작붕으로 보기 어려울 만큼 구성이 어색한 경우도 많다.
- 드로잉이 불규칙적이다. 실제 그림은 털선 위주의 잔털 스케치가 아니라면 선을 한번에 그어 명확하고 균일하지만, 뜬금없이 드로잉이 오돌토돌한 경우가 있다.
위와 같이 AI의 문제들이 드러나자, AI가 그린 것 같다라는 말은 욕으로 통용되기 시작했다. 대충 정물이나, 인체가 뭉개졌다, 형태 오류가 심하다, 작화가 붕괴했다라는 말로 들으면 된다.
물론 위 항목도 통상적인 경우이고, AI 사용자가 원래 그림을 잘 그리거나 그림에 대한 지식이 해박하거나 AI와 코딩에 해박한 사람이라면 구분 난이도는 더욱 뛴다. 특히 그림과 코딩 모두에 해박하고 적극적으로 활용하는 사람이라면 위 내용 모두를 고려하고 생성하기 때문에 구분은 더욱 힘들다. 애초에 시간이 흐를수록 기술도 발전하므로 구분은 점점 어려워질 것으로 예상된다.
4.1.1. Preview 작가 AI 커미션 의혹
AI그림 이전부터 활동해오며 명성을 쌓던 Preview 작가가 AI그림을 마치 자기가 그린 것 마냥 투고하고, 커미션까지 올리고 있다며 주장한 글들이 신빙성을 가지며 논란이 되었다. ##그는 이러한 사실이 논란이 되자, "내가 AI를 사용하지 않는다는 것을 증명할 이유가 없다."#, "꼬우면 팔로우 하지마라"#등의 배째라 식 반응을 보이고 있으며, 자신의 AI관련 의혹을 막기 위해 현재는 커미션과 트위터 답글을 닫은 상태이다.
일러스트레이터 본인에게 근본적인 실력이 있었기 때문에 AI그림에다 리터칭을 해도 잘 들키지 않은 케이스였는데, 김형태같은 작가와는 다르게 AI사용을 인정하지도 않고, 그 그림으로 커미션과 팬박스도 운영하는 중이기 때문에 논란이 가열되고 있다. 특히 1/31일자 커미션 그림#과 2/16일자 그림#은 리터칭도 제대로 안한 것으로 보이고 있어 이 주장에 힘을 실어주는 중. 결국 본인은 끝까지 부정하며, 자신을 AI를 사용하는 사람이라고 말하는 자들을 "악플러"라고 칭하며 사건을 일축했다. 그럼에도 불구하고 유명작가에게까지 저격을 당하는 등#[7], 사건은 현재진행형이다.
4.2. AI 사용자의 허위 포트폴리오 사건
AI 사용자가 AI프로그램으로 허위 포트폴리오를 만들어 방사 커뮤니티에 구직 게시글을 작성한 사건이다. 비록 대표적인 특징인 손은 리터칭을 하였으나, 그리려고해도 할 수 없는 부서진 로고, 눈동자나 머리카락의 이상함, 입은 옷감 뒤에 다른 옷감이 코트처럼 펄럭거리는 알 수 없는 묘사, 캐주얼 그림체인데도 화풍이 고정되지 않음을 지적하며 의혹을 제기하자 게시글이 삭제되어 캡쳐본만이 남아있다. 상단의 언급된 허위 커미션과 비슷한 사례이다.| 캡쳐본 | |||
| {{{#!wiki style="margin:0 -10px" {{{#!folding [ 펼치기 · 접기 ] {{{#!wiki style="margin:-6px -1px -11px" | 내용 | }}}}}}}}} |
4.3. 텀블벅 프로젝트의 AI 사용 의혹
약 1000종의 하늘 소스와 구름 브러쉬 등이 포함된 프로젝트에 AI 사용 의혹의 불거졌다. 심지어 샘플이미지와 다른 이미지를 제공해, 더욱 문제가 되었다. 해당 소스 등은 포토샵과 클립스튜디오만 사용하여 본인이 순수 창작했다고 했으나, 공지된 해상도에 못미치는 해상도의 소스가 제공된 점, AI 판독기에 집어넣었을 때 99%가 나온 점, 패키지의 소스들의 그림체가 통일되지 않은 점, 프로젝트 페이지의 예시 이미지에 AI 그림이 사용된 점 때문에 커뮤니티에 비판과 환불요청이 쏟아졌다. #1 #2한편, 비슷한 시기에 비슷한 분량의 맑은하늘소스를 제작했지만, 위 프로젝트와는 전혀 상관없는 작가가 해명문을 올리는 해프닝도 있었다. 11월28일 창작자 공지 참고
텀블벅의 프로젝트 중 AI를 사용했음을 명시한 프로젝트들이 미달등으로 무산되거나 중도 취소되는 경우가 많아, 앞으로 AI를 사용했음을 숨기는 프로젝트들이 더 생길 가능성이 있다. #
1월 10일에 텀블벅 공지가 나왔다. 주된 내용은 프로젝트 등록시 AI 사용범위를 명확히 표기하고, 그렇지 않은 프로젝트는 신고하라는 것. #
4.4. 서울코믹월드 AI 굿즈판매 논란
2023년 3월, 172회 서코에서 한 블루 아카이브 동인부스가 AI 그림을 트레이싱하고 굿즈를 만들어 논란이 되었다. 트레이싱이라고는 하나, 사람 손으로 새로이 그렸음에도 어색한 부분이 있어 걸렸다. 해당 굿즈들은 환불처리 진행중이다. https://www.dogdrip.net/4709312974.5. 신한 블랙컨슈머 그림AI를 활용한 페이퍼컴퍼니를 통한 부정수급 논란
신한 '더모아카드' 블랙컨슈머, 페이퍼컴퍼니 만들어 부정수급 신한카드, 혜택만 쏙쏙 '체리피커'에 골머리...약관 변경 예정5000원 이상 결제할 때 결제 금액에서 백단위가 1000원 미만일 경우 나머지를 다 포인트로 적립해주는 '신한 더모아카드'를 이용한 수법
문화상품권 5000원 권을 5999원에 판매하면서 거기에 ai그림 1개를 추가로 지급한다고 홍보했다.
999원은 신한 더모아카드에 적립되기 때문에 문상가격만 지불하는 것으로 ai그림을 공짜로 얻을 수 있다는 이야기에 890명의 이용자가 모였다.
10개의 페이퍼컴퍼니(고객이 문상을 여러 개 구입할 경우 가맹점 등록번호가 같으면 포인트가 한 번만 지급되기 때문에 10개의 페이퍼컴퍼니를 운영) 문화상품권을 저렴하게 구매해 5999원에 판매하면서 얻는 차익을 부정으로 챙기면서 최소 수천에서 억단위를 챙겼을 것으로 추정된다.
최근에 신한의 거래감지 시스템에서 이상을 감지해 일부 포인트를 환수하고 거래를 정지시켰는데, 위와같은 이유로 적자가 발생하게 생긴 판매자 거래한 내역과 개인정보를 토대로 구매자들에게 부정으로 얻은 포인트의 일부 또는 비용을 내놓으라며 협박을 했다.
5. 상업적 이용 논란
활용부터 난관…소비자는 ‘별점테러’, 창작자는 “내가 학습도구?” (생성형AI리스크)일부 기업들이나 일러스트레이터들은 인공지능에 대해 긍정적으로 보고 적극적으로 포용하고 활용하겠다는 입장을 자주 비추고 있지만, 많은 네티즌들의 그림 인공지능의 상업적 이용에 대한 반응은 매우 좋지 않은 편[8]이다. 특히 그림 인공지능이 AI의 발전을 위해 함구되었던 각종 이미지 도용으로 만들어졌다는 사실이 널리 알려진 시점에서는, 그림 인공지능 자체를 죄악시하는 경향까지 나타났으며 이를 사용한 미디어들은 불매하거나 영구제명하겠다는 반응도 있을 정도. 굳이 저작권 침해 같은 문제가 아니더라도, '내가 비싼 돈을 주고 구매 및 커미션을 했는데 그림 인공지능으로 내 돈을 날로 먹을 생각이냐'[9]는 반발심도 강하다.
실제로 긍정적으로 보았던 기업들과 작가들도 그들의 판단보다 구매층의 반발이 매우 심하고 도용 및 저작권 논란이 점차 심화되자 이를 해명하는데 노력을 기울여야 했다. 심지어 그림 인공지능을 몰래 쓰고 그렇지 않은 척하다가 걸려서 곤욕을 치루는 사례도 많아지고 있으며, 그림 인공지능 기술이 계속해서 시간이 지나면서 발달하는 중이라 이러한 사례는 계속 늘어나고 있다. 거기에 무단 크롤링으로 데이터를 축적하고 있기 때문에 이러한 현상은 더 심화되고 있다.
다만 AI 이미지 특유의 독특한 혹은 불편한 이미지를 활용해서 의도적으로 AI로 만들었거나, 분명히 AI로 만들었음을 밝히고 사용했음에도 과도하게 비난하는 반대층에 대해서도 비판의 목소리가 적지는 않다.
5.1. 랜덤채팅의 그녀! AI 그림 논란
2022년 11월경, 네이버 웹툰의 랜덤채팅의 그녀!가 258화에서 어떤 장면을 AI를 이용하여 그렸다는 의혹이 터진 사건. 의혹이 제기되자 재빠르게 해당 장면이 수정되어 논란이 더욱 증폭되었으며, 결국 작가 본인이 AI로 생성한 그림임을 인정하면서 의혹이 사실로 드러났다.
5.2. 승리의 여신: 니케 AI 일러스트 사용 의혹 및 사용 부인 논란
의 AI 일러스트 사용 의혹 및 부인 논란 부분을
참고하십시오.2023년 2월 7일경, AI 일러스트의 가장 문제되는 것 중 하나가 바로 AI 일러스트를 사용해놓고 마치 사람이 그린 것마냥 소비자를 속인다는 점이다. 여기서 국내에서 일러스트레이터로 유명한 김형태의 시프트업의 게임 승리의 여신: 니케의 행보가 소비자들의 비판을 받았다. # 참고로 승리의 여신: 니케가 AI를 사용하지 않았다고 하기에는 의심스러운 점이 매우 많다. (예시) [10]
5.3. 백야극광 축전 AI 그림 논란
의 축전 AI 그림 논란 부분을
참고하십시오.2023년 2월 22일경, 게임 내 축전으로 공개된 일러스트 중 하나가 AI를 사용한 것으로 드러나 논란이 되었다.
5.4. 네이버 웹툰 만우절 AI 표지 논란
2023년 3월 29일, 네이버 웹툰 중 일부의 표지를 AI 그림(대부분 실사풍 모델로 만들어 실사판처럼 해놓았다)으로 바꾸었다가, 독자들의 비판으로 인해 몇시간만에 내렸다. 이는 4월 1일 만우절 이벤트로 네이버 웹툰의 모든 표지를 하루동안 바꾸는 것 중 일부가 먼저 공개된 것으로 보인다. 그리고 이번 독자들의 반발에도 불구하고 2023년 만우절 이벤트의 주제를 AI로 밀고나갈 것인지에 대해서 네이버측은 "더 말씀드릴 수 있는 내용이 없다"며 답변을 거부했다. 이에 권창호 웹툰협회 사무국장은 "AI 관련 저작권 문제 등 부작용이 있는 상황에서 (네이버웹툰의 AI 표지는) 경솔했다"며 "신중할 필요가 있었다"라고 말했다.# 하지만 기획은 예정대로 진행된건지 2023년 4월 1일 만우절 당일 네이버 웹툰의 연재중인 대다수 작품의 표지가 AI그림으로 변경되었다. 이에 일부 연재 작가가 자신의 표지로 AI이미지를 만든 것에 불만을 표하기도 했다.5.5. 심규선 뮤직비디오 AI 사용 논란
심규선의 신곡 Periwinkle Blue의 유튜브 뮤직비디오[11]에 그림 AI가 사용되어 논란이 되었다. 이에 해당 뮤비를 삭제하고 사과문을 올렸다.5.6. 웹소설 AI 일러스트 논란들
네이버 시리즈의 웹소설 이별해주세요, 제발!이 표지와 내부 삽화[12]에 AI가 사용되었음이 밝혀져, 작가와 출판사가 모두 사과문을 올리고, 5월 16일 당일에 문제된 일러스트를 삭제했다. #1-1#1-2[13]노벨피아에 연재중인 웹소설에 AI임을 밝히고 표지를 사용한 작가가 있다. 그런데 AI 사용 여부가 아닌 내용이 문제되었는데, 그 표지가 교복을 입은 여주가 팬티를 내리는 이미지여서 아청법으로 신고당했다. 현재는 표지, 작가명, 소설 제목을 모두 바꾸고 연재중이다. # #
5.7. Rayark의 AI 일러스트 상업적 활용 공식화 논란
의 그림 인공지능 상업적 활용 공식화 부분을
참고하십시오.2022년 10월 중 회사 차원에서 공식적인 그림 인공지능 프롬프트 커뮤니케이터 채용으로 시작하여, 해당 방식으로 생성된 일러스트들이 게임에 활용된 것으로 확인되었다. 공식적으로 이를 인정하였으며 앞으로도 지속적으로 활용할 것이라는 요지의 입장 또한 밝힌 상태로, 위 논란들과 달리 상업적 용도로의 활용을 게임 업계에서 공식적으로 인정하고 채택한 첫 사례가 되어 논란이 되었다.
5.8. 신과함께 돌아온 기사왕님 AI 그림 논란
의 그림 인공지능 사용 논란 부분을
참고하십시오.랜덤채팅의 그녀!에 이어 AI 그림 의혹이 터진 네이버 웹툰의 두 번째 사례.
그림 AI를 사용한 흔적이 한 두 군데가 아니며 심지어는 무직전생 애니메이션의 몇몇 장면들을 i2i로 변환하여 장면에 넣는 신종 표절 기법을 사용했다는 논란까지 제기되는 상황이라 이전 사례인 랜덤채팅의 그녀!보다 더 심각하다.
이후 해당 웹툰의 다음 회차들을 비롯하여 네이버 웹툰과 관련된 ip에 대해, 조금이라도 이상한 부분이 보일때마다 ai 사용 의혹들이 제기되는 중이다. 신의탑 게임 근황 이는 네이버의 반복되는 ai 사용 의혹 사건들로 인해 신뢰가 깨져버렸기 때문이다.
5.9. 웹소설 표지 단가 시비
특정 작가의 그림체를 학습한 AI로 표지가 발견되어 논란이 되었다. #이 사건은 작가와 출판사의 입장문, 사과로 일단락되는 듯 했으나, 일명 대나무라는 트위터 계정이 피해 작가를 사이버 불링 가해자로 몰며 사건이 커졌다. # 심지어 웹소설 표지 단가도 폭로했는데, 정확한 정보도 아니었다. #
5.10. 원신 팬아트 공모전 대량 트레이싱 및 AI 의혹 사건
2023년 7월 즐거운 여름 팬아트 공모전 발표 후 생겨났던 사건으로 해당 사건에서 그랑블루 판타지는 물론, 명일방주와 공식 일러스트까지 대량으로 트레이싱해 큰 충격을 준것에 이어 행운상 작품에서 AI 의혹까지 받았다.해당 사건은 7월 19일 해당 작품들이 수상 대상에서 내려가고, 자발적으로 삭제한 사람은 수상 자격을 포기하는 것으로 간주하며 일단락 되었다.
5.11. ai를 이용한 저작권 침해
도용이 명백한 ai 출력물이 상업적으로 이용된 사례가 다수 발생했다. 서브컬쳐 수요를 노리고 제작된 셔블웨어 유형의 게임에서 AI 그림을 이용해 삽화 리소스를 충당해 상업적으로 팔아먹는 사례들이 생기는 중.최애의 아이 1화 표지 i2i
보치 더 락 >> 눈나 더 락 - 인게임 캐릭터의 이름은 봇찌, 보치와 동일한 분홍색 머리에 장식같은 것이 있고, 기타를 든다.
5.12. 소설 아몬드의 AI를 이용한 무단 표지 작업 결과물 논란
의 논란 부분을
참고하십시오.6. 무단 학습 논란
의 저작권 관련 부분을
참고하십시오.본 문단에서 저작권 등 법리적인 문제에 대해서는 다루지 않는다.
대부분의 그림 생성 인공지능은 사람이 그린 수많은 일러스트를 기계학습하여 원본을 '복구'하고자 시도하는 과정에서 새로운 일러스트를 생성하는 원리로 돌아가기에 사람이 만든 원본 데이터가 필수불가결하나, 학습의 대상이 된 원 데이터의 원작자에게 허가를 받는 개발자나 유저는 매우 극소수이다.
NovelAI가 소스코드를 공개하지 않고 자체적인 데이터셋을 이용한 서비스만을 공개하고 있을 때에는 그나마 수십억장 단위의 데이터셋에서 그림계의 전반적인 스타일을 모방했을 뿐 특정 개인에게 공격적인 마케팅은 일어나지 않았지만, NovelAI의 소스코드가 유출된 후로는 추가된 하이퍼 네트워크 시스템[14]을 사용한 Web ui라는 프로그램을 이용하여 아카라이브 AI 그림 채널 등 사이트에서 다른 작가들의 작품들을 무단으로 대거 캡쳐 및 저장을 한 후 AI학습 시키는 일들이 발생하고 있다.[15]#1 #2 #3 #4 #5 #6 #7
외국에서도 동일하게 무단학습이 진행중이다. #
적잖은 일러스트레이터들이 이에 대해 큰 불쾌감을 표하고 있다. 극단적인 경우 기계학습의 대상이 되지 않도록 하기위해 레딧, 데비안트 아트, 픽시브 등에서 공개한 작업물을 전부 지워버리는 현상이 벌어지고 있으며, 앞으로는 작가들이 개인 소장을 위한 판매나 아니면 법적으로 학습이 방지될 수 있도록 보장될 수 있는 통로가 아니고서야 향후 자신의 작업물을 쉬이 공개하지 않을지도 모른다는 우려도 생기고 있다.
일러스트레이터 개개인이 자신의 저작물이 기계학습에 이용되었는지 검색할 수 있는 Have I Been Trained 등의 서비스가 등장하였으며[16], 자신의 저작물을 인공지능 학습에 사용시킬 의사가 없음을 표하고 인공지능 제작자들에게 자신의 저작물을 데이터셋에서 제거할 것을 요구하는 spawning.ai와 같은 운동이 실시되고 있다.
영어권에서 유명한 창작 커뮤니티, DeviantArt에서 드림업이라는 자체 유료 AI 서비스를 시작했는데, 학습 논란으로 잡음이 있었다. 데이터셋에서 자신의 작품을 빼는 태그 기능이 있기는 했는데, 그걸 하나하나 수동으로 체크해야 했기 때문이다. 이후 AI 학습 불가 태그가 디폴트로 바뀌었다. #
현직 일러스트레이터이자 버츄얼 유튜버로 활동중인 니노마에 이나니스는 생방송에서 그림 인공지능에 대해 전적으로 부정하지는 않았지만 아티스트들의 허가 없이 학습 대상을 수집하는 건 좋지 않은 것 같다고 견해를 밝혔다. #
허락도없이 일러스트레이터의 그림을 AI에 넣고 돌리는 일도 빈번하게 생기고있다. 특히 I2I를 사용하여 과거 작품들을 꺼내와서 자기가 그린 그림인 것 마냥 구는 사람들은 거의 3~4일에 한번꼴로 나오고 있다. #1 #2 대부분의 유명작가의 경우, 도용이 의심되는 것들은 팬들이 작가에게 제보한다. 그래서 팔로워가 많으면 많을수록 도용 비슷한 것이라도 모두 작가들에게 제보된다고 보면 된다.
무수한 논란 끝에 현재 개발중인 스테이블 디퓨전의 버전 3.0에서는 스테이블 디퓨전 개발사에서 직접 제공하는 Have I Been Trained? 사이트를 통해 원작자가 직접 자신의 저작물이 학습이 되었는지를 찾아볼 수 있으며, 직접 삭제할 수 있는 권한을 제공하고 있다. 또한 직전 버전인 2.0에서는 저작권, 초상권 등 논란이 될 수 있는 이미지 학습을 처음부터 학습 제한하도록 하고 있다. 때문에 아래와 같은 각종 학습 논란은 2.0 이전 버전인 1.0~1.5 버전 기반으로 만들어진 AI 프로그램들에서 일어난 사건 사고가 대다수이다.
스테이블 디퓨전을 비롯 OpenAI 개발진까지 모두 이러한 비정삭적, 비도덕적이고 반인륜적인 AI 악용에 대해 경고했고, 현재도 경고하고 있으며, 많은 국가에서 AI 산업 개발 명목으로 면책을 쥐어준 데이터 학습에 대한 제재 법안[17]이 무수히 많이 제안되고 발의되기 시작했다. 이에 따른 논란은 모두 저작물을 함부로 이용하는 AI 사용자들에게 책임이 갈 수 있음을 시사하는 바이다.
김형태 작가의 작품이 AI 사용자들에게 lora로 학습되어 훔쳐졌으며, 현재 결과물을 해당 사이트에 공유중이다. # 김형태 작가의 경우 지금도 AI를 이용한 그림들을 계속 공개하고 있고, 상술된 승리의여신 니케의 AI 사용 논란과도 연관되어 있다보니 동정여론은 크지 않은 편이다. [18]
간접 영향으로 불법 사이트 단속이 활성화될 가능성도 있다. 보통 저작권 의식이 희박한 경우는 정말로 몰라서 그래도 되는 줄 알고 혹은 고의로 저작권을 준수하라는 상식적인 사람의 충고를 무시하는 경우가 대부분이기 때문에 그러한 성향의 인원이 모이기 마련인 불법 사이트를 단속하여 딸깍충을 몰아내자는 움직임이 일어나도 이상하지는 않다.
6.1. 그림 학습에 대한 대중의 인식 오류
이미 2022년 말부터 수 개월이 넘는 시간동안 국내외 많은 AI 전문가들이 경고하는 것 중 하나가 이 AI에 대한 인식 오류이다. 전문가들이 경고하는 부분이 AI의 학습방식과 사람이 하는 학습과 얼마나 유사한지 증명할수있는 이론이나 근거가 부족하다는 점이며, 뉴런과 노드라는 근본적인 구조에서 오는 차이로 인해 나타나는 학습방법의 차이가 현재로선 더 크다는 점이다.[19] 그러나 AI에 대한 지나친 환상이나 인격체를 부여[20]해 곡해하면서 생기는 각종 논란과 오류들이 빈번해지고 있다. 때문에 AI 전문가들은 AI는 언제까지나 도구로써 철저한 인간 감시 하에 향후 어떤 발전이 있어도 AI를 쉽게 통제할 수 있도록, 기본적으로 인간이 AI의 작동 방식 개념을 바르게 이해하고 남용 및 오용하지 않도록 해야한다고 이야기하고 있다. 특히 Open AI, ChatGPT 등의 제작자들 조차도 현재 일어나는 각종 AI로 인한 사건 사고들을 예로들며 AI 규제의 필요성을 이야기하고 있다. Open AI의 경우 2023년 2월부로 각국 정부에게 AI 규제 방안 가이드라인을 제시했으며, 이 가이드라인에는 통제없이 민간에 AI 사용이 풀린 것에 대한 감시 및 제재, AI 생성물을 구분할 수 있도록 하는 워터마크 법제도화 등 AI 전문가들이 우려하는 문제점들을 어느정도 잡아줄 수 있는 방안들이 담겨있다.동시에 AI의 학습이 인간과 다르기 때문에 AI에게 학습시키는 것은 지적재산권, 저작권, 초상권 등과 같은 인간 기본권 침해를 세탁하는 데에 사용해도 된다고 착각하는 점이 있다. 이 때문에 web ui가 등장하였을 때 버젓이 활동하는 작가들의 지적재산권인 그림, 이미지 데이터들을 마구잡이로 학습하여, AI 산출물로 뽑았으니 도의적 책임이 없다고 주장하거나 그렇게 받아들이고 단순 소비재처럼 받아들이는 사람들의 수가 상당해졌다.
또한 이런 침해가 빈번해짐에도 별다른 조치를 취할 수 없는 회색지대라는 점을 악용해 아래 문단들에서 볼 수 있듯이 작가의 그림들을 무단 학습한 걸 뛰어넘어 연예인, 인플루언서, 정치인, 일반인 SNS 이미지 등을 닥치는대로 가리지않고 학습시키는 파렴치한 일들이 벌어졌기 때문이다.
이 때문에 AI 그림이 마치 발전하고 있다라고 착각하는 여론들을 쉽게 발견할 수 있는데, 단지 표현법이 간략화된 이미지를 학습했느냐, 실제 사진을 학습했느냐의 차이로, 사실상 "그림 인공지능"이라는 단어에 갇혀 실제 사진 같은 이미지를 생성하는 것이 마치 발전한다고 착각을 일으키게 한다.
아래 나오게 될 다수의 사건 사고들은 전부 AI의 그림/이미지 학습에 대한 곡해와 남용에서 비롯된 일들이다. 한국을 포함 절대 다수의 국가들이 AI에게 '공정 이용'에 한해 데이터 학습 시 면책권을 주고 있으나, 이런 남용들은 공정 이용과는 전혀 거리가 멀다는 데에 논란이 뒤따르고 있다.
디시인사이드 그림 미니 갤러리에 올라온 글로 여러 분야에 걸친 오해들의 반박과 AI의 한계점 등을 지적한 글인데, 주요 주제가 '데이터 학습'과 대중의 인식 오류이다.[21] #
6.2. 김정기 그림 AI 학습 및 고인모독 논란
한 외국인이 김정기 사망 4일 뒤, 2022년 10월 7일, Stable Diffusion 인공지능 모델로 김정기의 그림들을 넣어 학습시킨뒤 그의 화풍을 따라그리는 AI를 자신의 트위터에 공개하면서 논란이 되었다. #이 자체로도 사람으로 치면 그림체 표절이 아니냐는 지적이 있지만 '그림체' 자체는 저작권의 보호 영역이 아니기 때문에 이 자체에 대해서는 위법성 여부를 따질 순 없다.
다만 법적인 문제와 별개로 도의적인 차원에서 사람이 죽은지 얼마 안됐는데 고인 이름 팔이 해서 홍보한 AI로 수익을 벌려는 의도가 너무 뻔히 보여서 비판을 받고있다. 더군다나 해당 AI를 사용하여 만든 작품에 김정기의 이름이 아닌 자기 AI를 크레딧으로 남겨달라고 하였다. 정말 순수하게 김정기를 추모하고자 하는 의도였다면 적어도 크레딧에는 김정기 이름을 기억해달라고 했어야 하는게 아니냐는 지적이 나온다.
이후 사람들에게 지탄을 받자, 해당 AI 제작자는 '김정기의 영혼을 디지털로 백업해서 앞으로도 그가 계속 그림을 그릴 수 있게 하는 거면 좋은 거지 뭐가 문제냐'라는 발언을 했으나, 수익의 일부가 유가족들에게 가면 모를까 100% 제작자에게 가고 있어 비판을 피할 수 없다.
6.3. 라스트오리진 일러스트레이터 AI 학습 사건
#2022년 11월 29일, AI 사용자가 라스트 오리진의 일러스트레이터 Taesi작가의 그림 60장을 드림부스로 학습시킨 후 아카라이브에 올린 사건이 발생하였다.[22] 그림을 위해 힘든 시간을 버텨내면서 커리어를 쌓았으나 허락없이 자신의 노력을 무단으로 학습시켜서 양산시키는 모습을 보고 심적으로 큰 상처를 받은 해당 작가는 앞으로 작업을 그만둬야할지도 모르겠다고 입장문을 밝혔다.
해당 컨텐츠의 소비자가 이에 대해 크게 분노하면서 해당 상황이 발생하게 된 원인 제공자 확인 및, AI 그림의 악용에 관련된 내용의 게시글들이 개념글로 올라가게 되었다.# 상황이 심각해지자 해당 AI 사용자는 사과문을 작성하였다.#
팬들과 소비자들의 많은 위로 끝에 해당 작가는 다시 마음을 잡고 작업에 열중하겠다는 입장문을 재차 밝히며 해당 사건은 마무리가 되었다. 여담으로 해당 작가가 심적으로 힘들어하는 그 순간에도 악성 AI 사용자가 다량의 악성댓글을 작성하였다.
| 악성 댓글이 포함되어 있으므로 열람 시 주의 | |||
| {{{#!wiki style="margin:0 -10px" {{{#!folding [ 펼치기 · 접기 ] {{{#!wiki style="margin:-6px -1px -11px" | 악성댓글 | }}}}}}}}} |
6.4. 일러스트 작가 화풍 AI 학습 후 인간작가 행세
“Flux”라는 닉네임의 사용자가 ヒトこもる[23]의 작가의 화풍을 드림부스로 학습시킨 후 그림을 투고하여 일러스트레이터 작가 행세를 하고 있는 정황이 포착되었다. 해당 링크 초창기에는 Ai 태그를 명시하지 않음으로써 직접 그린 그림으로 오인하여 사람들에게 많은 관심을 받았으나 그림이 계속 업로드되면서 AI 그림의 묘사에서 나타나는 이상한 부분이 포착되면서(ex. 머리카락, 눈, 입) 사람들이 의문을 제기하기 시작하였다. #1 #2 #3최종적으로 아카라이브 AI 그림 채널에서 flux라는 동일인물의 활동 내역이 밝혀지면서 AI 사용자임이 확실해졌다. 몇몇 게시글은 삭제되었다.
| AI 학습 채널 기록 | ||
| {{{#!wiki style="margin:0 -10px" {{{#!folding [ 펼치기 · 접기 ] {{{#!wiki style="margin:-6px -1px -11px" | 내용 | |
| 내용 | }}}}}}}}} |
이후 flux의 프로필 사진이 다른 AI 그림 사용자의 프로필로 사용되었다.
6.5. 미드저니의 미키마우스 생성 논란
트위터의 한 유저가 미드저니로 생성한 미키마우스, 스파이더맨, 피카츄 등 유명ip 캐릭터를 생성해 공개하며, AI의 저작권 문제를 지적했다. 그가 공개한 미키마우스 중에는 미드저니 봇[25]이 생성한 것도 있었다.미드저니 설립자가 저작권자의 동의 없이 1억장의 사진과 그림을 AI제작에 사용했음을 밝히기도 했다. 이에 대해 격분한 아티스트들이 비판에 나섰다. #
한편 아카라이브에서도 디즈니가 저작권에 민감하던말던 상관하지 않고 학습 중이다. 스파이더맨을 학습시키는 과정 공유글
6.6. AI 학습 및 어그로성 댓글 사건
사건 총 정리Yoru라고 불리우는 AI 그림 사용자가 작가들의 그림을 긁어다 AI에게 학습시킨 뒤, 그 작가의 스타일로 그림을 뽑은 후 'AI 학습에 잘 썼고, 앞으로도 AI 학습에 쓰게 그림을 계속 그려라.'와 같은 조롱성 비방 댓글을 단 사건이다.
빵집으로 비유하자면, 동네 **빵집 케이크의 레시피를 훔쳐서 만든 조립공장제 케이크를 **빵집st 케이크로 홍보하며 팔고, 빵집에는 앞으로도 계속 훔칠 좋은 케이크를 계속 만들어달라고 한 셈.
해당 문서의 항목 중 김정기 고인모독 사건 및 라스트오리진 일러스트레이터 AI 학습 사건과 유사하나 좀 더 악질적이라고 볼 수 있는데, 학습된 그림으로 얼굴에 음란한 요소를 넣어서 해당 작가에게 보여주는 선 넘은 조롱행위를 거리낌없이 하고 있다.
한편 특정 작가의 화풍을 모방한 AI에 해당 작가의 이름까지 사용하는 경우, 부정경쟁방지법 위반의 가능성이 있다고 보는 시각도 있다. # (변리사 답변 참조.)
6.7. Sam Does Arts 작가 무단학습 양산 사건
95만 유튜버이자 일러스트레이터 Sam Does Arts가 AI 학습에 자신의 그림이 무단으로 사용된 경험과 함께 AI 학습에 대한 자신의 의견을 영상으로 만들었다. 그는 그림이 사용된 것에 대해 항의를 했으나, 그것을 비웃기라도 하는 듯 더 많은 AI 개발자들이 그의 그림을 긁어 더 많은 그림생성 AI 모델을 만들었다.
아트스테이션에서의 시위와 그의 경험을 근거로, 그는 그림생성 AI에 대한 규제가 필요함을 주장했다. 또, AI 개발자들이 AI 학습을 위한 저작물 이용 면책[26]을 악용하여, 천문학적인 양의 저작물들을 제멋대로 사용하고 있으며, 이게 지금의 현직인들에겐 위협이 안되나, 그림 분야를 꿈꾸는 학생들을 위해 합심해야한다고 호소했다. #
6.8. Nekojira 작가 무단학습 사건 Civitai
트위터 50만 팔로워인 네코지라 작가의 그림을 무단으로 학습시킨 사건이 발생했다.해당 트위터 게시글이 올라온 후, 많은 사람들이 해당 모델이 부적절하다는 반응을 보였으며, 작가에 대한 위로 및 AI 그림 사이트인 Civitai를 신고를 해야한다는 여러 의견이 나왔다.
6.9. Corridor AI 애니메이션 논란
미국 로스앤젤레스에 기반한 유튜브 인디 컨텐츠 제작회사에서 이미지 생성 AI를 이용해 단편 애니메이션을 만들었다. 해당 애니메이션은 2023년 2월 27일 AI로 제작한 단편 애니메이션이 업로드되고, 화려한 영상미와 연출, 그리고 빵 터지는 줄거리 덕분에 호평하는 반응들이 이어진다.
문제는 AI의 학습 방법. 기존의 AI 일러스트도 누군가의 그림체를 무단으로 학습한 것이기에 저작권 논란이 있는데 이 경우는 대놓고 유튜브에 돌아다니는 애니메이션 뱀파이어 헌터 D(Bloodlust)의 샘플을 동의 없이 긁어모아 싸그리 학습시킨 후 작업한 것이다. 그래놓고 뻔뻔하게 '고효율의 작업을 저노동으로 쉽게 해낼 수 있게 됐다.' 우리는 애니메이션의 민주화를 만들어냈다는 등의 어처구니 없는 발언을 쏟아내었다.
이 발언에 많은 애니메이터들이 해당 발언에 대해 분노하였다. 그 중 넷플릭스 캐슬배니아 애니메이션 감독 및 랄프 박시와 같은 거장 애니메이터 겸 감독 또한 부정적인 반응을 보였다.## 또한 이미 창작의 길은 항상 열려있었는데, AI를 핑계로 창작이 가능한 새 시대가 열린 것마냥 옹호하는 사람들에게 부정적인 의견을 표했다.
다만 해당 애니메이션은 정말로 AI가 모든 작업을 진행한 것이 아니라 실사 영상을 기반으로 AI가 필터를 씌우는 일종의 로토스코핑[27] 기법으로 제작되었으며, 논란이 되는 부분 외의 3d 애셋, 의상, 각본 등의 모든 구성요소는 전부 사람의 손으로 만들어졌단 점에서 저작권 침해 문제를 해결하면 결국 반복적인 작업들을 AI에 맡김으로서 아낀 시간과 자원들을 세부적인 사안들에 집중할 수 있게 될 것이라는 긍정적인 의견도 존재한다.
제작진 측도 논란에 대해 인지하고 제작 과정을 담은 영상의 고정 댓글을 통해 자신들의 입장을 밝히고 있다.
서양 애니메이터들 사이에서 터진 AI 논란
뮬란, 알라딘, 라이온 킹 등의 대표적인 디즈니 애니메이션 제작에 참여해온 애니매이터 아론 블레이즈의 소감. 기존 저작권이 준수된다는 가정 하에 AI 애니메이션에 대해 긍정적인 소감을 표했다.
6.10. 어도비 AI 학습 사건
어도비가 프로그램 사용자의 작업물을 AI 학습에 사용하는 것을 허용하는 것으로 디폴트 설정이 되어있었던 것이 드러났다. 이를 해제하려면 어도비 홈페이지에 접속하여 해제해야한다. # 어도비에는 포토샵, 에펙 등, 사진, 디자인, 영상, 3D 등 디자인 전반에 걸친 툴들이 포함된 점, 작업물을 어디까지 수집했는지 사용자는 알 수 없다는 점, 해당 데이터 수집에 대해 미리 공지가 없었던 점에서 심각하다. 어도비는 클라우드 서비스도 제공하고 있어, 미공개 저작물도 데이터마이닝 하지 않았는지, 의심되는 상황이다. #한편, 클립스튜디오는 생성 AI 기능 탑재계획을 철수한 바 있다. 당시 클튜 사용자들의 데이터를 사용하지 않겠다고 밝혔으나, 아래와 같은 다른 많은 문제들이 제기되었기 때문이다.
- 현 상황의 이미지 생성 AI 방식이 저작권을 침해하지 않아도 누군가의 저작물을 이용하여 이미지가 생성되고 있어 그 출처가 불분명한 앱은 사용하고 싶지 않다.
- 윤리적으로 문제가 없는 방법으로 수집된 데이터를 이용하지 않는다면 사용할 수 없다.
- 아티스트를 위한 도구라고 해도 이미지 생성 AI 기능은 오히려 아티스트를 곤경에 몰아넣고 그 활동을 저해한다.
- CLIP STUDIO PAINT를 사용했다는 이유만으로 이미지 생성 AI로 만들었다고 의심받는다.
- 신용할 수 없는 기능이 탑재되어 있는 도구를 창작 파트너로서 받아들일 수 없다.
- 왜 요청이 많은 기능 개선을 등한시하면서, 문제시되고 있는 기능을 추가하는지 이해할 수 없다.
- 타인의 권리가 침해될 가능성이 있는 이미지가 생성될 수 있는 기능을 제공해 놓고 그렇게 되지 않도록 스스로 유의해 주길 바란다는 셀시스의 자세는 무책임하다.
6.11. 일반인 사진 대량 학습 및 윤리적 책임 논란
최근 일본이나 영미권에서 성인용 콘텐츠를 판매하는 사람들의 경우 자신의 설명란에 "AI학습금지"를 넣어두는 경우가 생겨나고 있다. 이들은 평범한 사람들일 뿐인데 이런 말을 써놓는다는 것은 곧 이들뿐만이 아니라 인스타에 사진을 올리는 일반인들 모두가 학습 이미지의 대상이 될 수 있음을 시사한다. 이렇게 만들어 놓은 학습 이미지는 곧 빌리 아일리시의 딥페이크 사건과 같이 포르노 이미지로 가공되는데 쓰인다.빌리 아일리시 사건과 같이 딥페이크 포르노 이미지를 만든 사례에 이어 학습 이미지가 회색 지대[28]에 있다는 점을 악용해 인스타그램, 트위터, 페이스북 등 각종 SNS 등 플랫폼을 가리지 않고 실제 일반인들의 모습이 담긴 사진들을 무더기로 학습하여 악용하는 사례가 늘어나고 있다. 딥페이크 문서에도 나와있듯이 국내에선 성폭력범죄의 처벌 등에 관한 특례법 제14조 2항에 따라 처벌이 가능하나, 이를 입증하기엔 학습 이미지를 공개하지 않는 이상 처벌 자체의 실효성은 떨어지며, 해외 대다수 국가에서는 이러한 피해에 법적 대처가 불가능하다. 때문에 빌리 아일리시 딥페이크 포르노 역시 현지법상 유포자는 처벌이 불가능하다.
딥페이크는 최초 등장에서는 영상 분야라 사람들이 쉽게 믿을 수 있다는 점 때문에 언론과 여러 기업 단체에서는 빠른 속도로 쉬쉬되는 형태로 잠잠해졌으나, 포르노나 딥 웹 등의 음지에서는 아직도 실존 인물이나 연예인을 합성한 영상이 유포되고 있다. 독일 경찰은 이런 점을 역이용해 아동성범죄자를 검거하기도 한다. 그러나 단일 이미지의 완성도가 뛰어난 실사에 가까운 그림 AI 혹은 이러한 이미지 생성 AI에 대한 딥페이크 사례 역시 기하급수적[29]으로 늘어나고 있어 국내외에서 상당한 지적이 이뤄지고 있다.
법은 윤리적인 문제에 있어 실효성, 집행 가능성, 적용 대상의 명료성, 의견 불일치 등에 의해 윤리나 도덕을 반영하기 어렵다. 그러나 윤리적인 문제를 단순히 법적으로 처벌하지 못하는 회색 지대이며 산업 발전을 위한 '공정 이용'에 한해 면책을 주고 있다는 이유로 손쉽게 AI 프로그램을 접하면 접할 수록, 악의를 갖고 이용하는 사람들은 이미 기하급수적으로 늘어나고있다. 특정 작가의 지적재산인 그림들을 무단으로 크롤링해 학습시키는 일은 이미 양심과 거리가 먼 공공재 수준으로 주저앉았으며, 각종 SNS 플랫폼의 연예인은 물론 실존 일반인 인물 사진까지 전부 학습시키는 과감한 일까지 벌어지고 있다. 때문에 일반인 피해자가 양산될 가능성이 다분하다. 국내 특정 커뮤니티들에서는 실사 사진에 가까운 결과물을 AI가 뽑아내는 게시글마다 이런 윤리적 지적은 찾아볼 수 없고 단순히 신기하고, 앞으로 더 많이 생성될 음란물에 대한 기대만 하는 댓글들이 대다수이다.#1 #2 이미 AI 프로그램의 결과물들의 윤리적 책임은 고사하고 단순 소비재[30]로 착각하여 오용하는 여론도 상당히 존재하기 때문이다.
알파고의 등장 이후 2010년대 중후반부터는 국내외에서 인공지능 윤리적 문제에 대한 윤리 기준 혹은 법적 기준에 대한 이야기가 이미 진행되었다. #1 #2
이미 미드저니가 최초 등장부터 상당한 실사풍 이미지를 생성할 수 있기 때문에 영상보다 한 장의 이미지의 결과물이 훨씬 완성도가 높아 전문가들이 이런 문제점을 지적하고 있었다. 2023년 부터는 web ui 등을 필두로 훨씬 쉽고 간편하게 이미지 학습을 이용자가 할 수 있게 됨으로 윤리 문제가 상당히 심각하게 지적받는다.
많은 전문가들은 그림 AI를 비롯 2023년 큰 화제를 몰고오는 챗 GPT에 대한 것 등 Pre-Trained 형식의 모든 AI들은 하나의 인지를 가진 인간 비슷한 존재가 아니라, 인간을 위한 '도구'라는 점을 명확하게 인식해야한다고 경고 혹은 충고한다.챗GPT에 관한 전문가의 의견 그림 AI 역시 도구로서, 이 프로그램에 학습 시키는 것은 인간에게 학습 시키는 것과 전혀 다르며(AI와 AGI의 차이), 이를 악용하는 것도 AI가 하는게 아닌 사람이 한다는 점을 지적하고 있고, 여기에 맞춰 새로운 법안 발의의 필요성이 상당히 제시되고 있다. 앞서 이 문서에 자주 이야기하듯 많은 국가에서 법 제안이 많이 이뤄졌지만 법 자체의 역동성 등이 산업 발전에 비해 상당히 떨어지기 때문에 시간이 지체되고 있어 2023년 초부터 피해 기업과 아티스트 대표 등을 필두로 사법적 소송이 시작되었다.
6.12. 명일방주 일러스트레이터 무단 학습 논란
발단은 한 트위터리안이 스카디의 음성을 이용한 무단 샘플링 음원[31] 영상과 함께 스카디를 비롯해 각종 오퍼레이터의 일러스트를 담당한 alchemaniac을 직접적으로 언급하였는데, alchemaniac는 본인의 이름을 언급하지 말아달라는 말과 함께 AI 학습 또한 허용하지 않는다는 소개문 스샷을 같이 올렸다.그러자 해당 트위터리안은 alchemaniac에게 미국 법을 들먹이며 AI 학습이 불법이 아니라는 궤변과 함께 팬아트의 자유를 보장하라는 취지의 트윗을 AI로 제작한 스카디의 그림과 함께 업로드 했다.
당연히 팬들 입장에서는 해당 트위터리안에게 비판의 의견이 쏟아졌으며, 조소 섞인 반응도 상당수 나왔다.
이후에도 일본 서버와 글로벌 서버 공식 트위터 계정을 직접적으로 트윗 내에 인용하면서 팬들에게 더 이상 상처를 주지 말라는 투의 트윗을 작성하기도 했다. 당연히 반응은 냉담하다.
해당 트위터리안은 픽시브 계정과 유튜브 채널도 운영 중인데, 픽시브 계정의 경우 그림에 AI 태그를 붙이지 않은 채 댓글까지 막아놓은 형태로 본인에게 오는 비난을 면피하고 있으며, 유튜브 계정은 모든 영상이 타 사이트에서 업로드 된 영상을 무단 전재 해놓은 영상이며, 앞서 언급된 성우가 녹음한 음성의 무단 샘플링 영상을 업로드 해놓는 등 양심이라곤 털끝만큼도 없는 전형적인 비양심적인 채널이다.
이후로도 계속해서 AI 그림을 올리며 'design by Hypergraphy' 등의 문구를 삽입하면서 어그로를 끌고 있다.# 실제로는 제작사인 하이퍼그리프 측에서 디자인을 한 게 아니기 때문에 기업에 소송당할 여지가 있는 허위 사실 및 가짜 정보 유포를 겸하고 있는 셈이다.
6.13. t2i 카드캡터 사쿠라 사건
AI 옹호론자 중 한명인 하코니와 작가가 여느때처럼 텍스트로 AI를 뽑는 중, 카드캡쳐체리를 명시하는 프롬프트를 작성하지 않았는데도, 해당 작품의 캐릭터가 튀어나온 것을 보고 트윗을 했다. 혹시 비슷한 일러스트가 없는지 확인한 것인데, 이에 수많은 제보가 쏟아졌다. 하지만 하코니와는 '원본의 느낌을 살린 오리지널(?)'로 혼자 결론내리며, 자기합리화를 했다. #하코니와의 행동과는 별개로, 위 사건은 AI 사용자가 의도하지 않아도 유명 ip 도용문제가 생길 수 있음을 시사함으로, 이전부터 줄곧 나타나왔지만 애써 AI 사용자들 사이에서 쉬쉬해오던 '어디선가 본 캐릭터를 AI가 그리는 행위'[32]를 하코니와 작가가 직접 말을 꺼냄으로써 직접적으로 문제가 수면 위로 드러난 사건이다.
6.14. 荻pote 작가 그림 및 이름 악의적 도용, 영업방해 사건
작가 본인 피해 트윗.요즘 심심하면 일어나는 무단 도용 사건이지만, 이 사건은 조금 궤를 달리한다. 荻pote작가를 악의적으로 괴롭힐 목적으로 작가의 그림을 무단 도용하여 AI로 19금 그림을 그리고 자신이 아닌 작가의 이름으로 그림을 뿌리고 다니는 존재가 있는 것. 작가는 지금까지 그 그림을 찾아다니며 "자기가 그린 것이 아니다."라고 해명하고 다녔지만, 계속해서 퍼지는 그림을 막지 못해서 결국 트윗하는 지경까지 이르렀다.
이 사건의 핵심은 바로 荻pote작가의 그림을 사용한 회사의 영업 방해까지 함으로써 도를 넘어버린 것. 해당 작가의 화풍은 19금 그림과는 거리가 먼 화풍으로 깔끔하고 아름다운 화풍이라는 것이 특징이어서 많은 곳에서 사용되고 있는데, 그 작가의 그림을 무단 학습하여 19금 그림을 만들고는 작가의 이름을 도용하여 공개해버리니 그림을 사용하는 회사들에게까지 타격이 간 것. 이 사건으로 인해 일본 내에서 미적지근한 AI그림 관련 법률적 움직임을 촉구하는 목소리가 크게 일고 있다.
심지어 이 사람은 twitter에 자신이 픽시브의 팬박스를 통해 AI로 수익을 얻은 것을 조롱하듯 자랑하기도 했다.# 현재는 계정을 폭파한 상태.
덤으로 작가 자체는 AI가 그림의 제작 도구로써 발전하는 것에 대해 찬성하는 입장임을 덧붙였으나, 소위 'AI극단주의자'[33]가 '니 그림이 도용당해서 발전하면 좋은건데 이기적으로 굴지 마라'# 정도의 발언을 해서 더욱이 이목이 쏠리고 있다. 심지어 문제의 딸깍충 중 한 명은 조롱에 이 사건과 관계없는 작가의 작품을 마음대로 써대서 눈살을 찌푸리게 했다.
6.14.1. 연관 PIXIV 규약 개정
#위 사건이 터지고 불과 이틀도 안돼서 올라온 픽시브의 2023년 5월 2일자 공지이다. 해당 내용의 요약은 다음과 같다.
* 운영자, 다른 사용자, 기타 제3자 행세를 하는 행위 또는 그와 같이 오인될 우려가 있다고 당사가 판단하는 행위
* 특정 창작자의 화풍·작풍을 모방한 작품발표를 반복·계속하여 함으로써 해당 창작자의 이익을 부당하게 해친다고 당사가 판단하는 행위
* 특정 창작자의 화풍·작풍을 모방한 작품발표를 방조하는 도구 등을 배포·판매함으로써 해당 창작자의 이익을 부당하게 해친다고 당사가 판단하는 행위
* 특정 창작자의 화풍·작풍을 모방한 작품발표를 반복·계속하여 함으로써 해당 창작자의 이익을 부당하게 해친다고 당사가 판단하는 행위
* 특정 창작자의 화풍·작풍을 모방한 작품발표를 방조하는 도구 등을 배포·판매함으로써 해당 창작자의 이익을 부당하게 해친다고 당사가 판단하는 행위
위 세 가지 행위를 포함한 여러 규정을 추가한다는 것. 확정이 된 위 세 가지 개정 내용 이외에 추가 개정 내용과 적용 일지는 이번달 내라고만 나왔을 뿐, 정확한 일정은 공개되지 않았지만 위 세 가지만으로도 특정 작가를 모방하여 판매하는 AI그림에는 큰 제약이 따를 것으로 보인다.
이는 실제로 AI를 악용하여 픽시브의 팬박스에서 수익창출이 발생한 결과로 보인다. 하지만 이에 더해 추가적으로 많은 사건들이 벌어졌고, 이는 곧 일본 골든위크 AI파장으로 이어진다.
6.15. 네이버 도전만화가 보이콧 시위
만우절 ai 썸네일 사건이나 웹툰 신작의 ai 사용 논란 등, 네이버의 친 ai적 행보에 더불어, 네이버웹툰 이용약관 중 "회원이 네이버웹툰 서비스 내에 게시하는 게시물은 네이버웹툰 서비스, 관련 프로모션 등에 노출될 수 있고, 네이버웹툰 및 네이버 서비스를 위한 연구목적으로 활용될 수 있다"라 명시된 부분이 논란이 되었다. 여기에 2023년 지상최대공모전에 투고시 필수적으로 네이버 도전만화가에도 업로드하도록 해서, 공모전 참여작들을 ai 학습에 활용할지도 모른다는 우려가 확산되었다.이와 관련 네이버웹툰 측은 "도전만화, 베스트도전, 공모전 출품작을 자사 AI 학습에 전혀 활용하지 않았고 활용 계획도 없다"고 해명했지만, 이미 불신의 골이 깊어진 상태다. 그래서 네이버 도전만화가에서의 'AI웹툰 보이콧' 은 독자들의 지지를 받아 실시간 인기 도전만화를 도배하다시피 했다. #
한편 네이버웹툰의 위와같은 이슈를 캐치한 카카오웹툰은 ai를 배제한 '인손인그' 공모전을 열기도 했다. https://www.news1.kr/articles/5063106
6.16. 드롭박스 데이터 AI 무단사용 논란
드롭박스에는 자기사진, 자료백업등 개인적인 자료들 뿐만 아니라 불법 데이터도 저장된 가운데 데이터 학습허용을 미리 디폴트로 설정해 데이터를 제공한다는 논란이 생겼다.#7. 학습모델 도용 및 사기
7.1. 텀블벅 AI 그림체 판매 및 사기 논란
타인의 그림을 도용한[34] AI가 텀블벅 프로젝트로 올라왔다가, 운영팀에 의해 삭제되어 지금은 볼 수 없다.[35] 덕분에 22.3.17일 기준 쑥곰(프로젝트를 올린 아이디)과 AI가 텀블벅 검색어 1, 2위에 등극했다. 1# img2img 도용1 img2img 도용2 쑥곰 해명샘플이미지 중 img2img 조차 하지않고 그대로 긁어온 이미지도 발견되었다. #
샘플 이미지 도용과 별개로 이 프로젝트 자체가 사기인데, 본인이 네이버, 카카오 웹툰 등을 연구해서 만든 모델로 뽑았다는 그림들마저 실제론 civitai에 올라와있는 오픈 소스 모델들의 샘플 그림들을 가져온 것이다. 애초에 본인이 뭘 한 것 없이 오픈 소스로 공유되는 모델을 사기쳐서 팔아먹으려고 한 것.
유사 사건. 커뮤니티 탭 참조 위와 유사한 시도가 또 있었고, 이에 학습을 진행했던 사람이 비난에 나서기도 했다. 하지만 학습을 진행한 사람들 대부분 학습데이터로 타인의 저작물을 허락없이 가져와 사용하기 때문에, 이 비난 행위 또한 조롱당하기도 했다. #
23.6.1일에 새로이 공개된 ai 모델의 판매자가 쑥곰과 동일인이라는 의혹이 후원 커뮤니티에 제기되었다. 이 문제 외에도 해당 모델이 구글 코렙 서버를 사용하는 점과 저작권 논란에서 자유로울수 없는 webui에 기반하면서도 저작권 문제가 없다고 설명하는 등의 문제가 지적되었다. # 구글 코렙 서버는 생성 ai 관련 무료 사용자를 제제하고 있다 11.9 문단 참고 현재는 프로젝트가 제제당한 것인지, 볼 수 없다.
7.2. Civitai 학습모델 도용 사이트 등장
Civitai에 공유된 학습모델을 도용한 유료 생성 AI 사이트가 나왔다. 이 영향으로 공유되었던 학습모델들이 대거 내려갔다. 도용된 학습모델 중에는 특정 작가의 그림을 집중적으로 학습한 모델도 다수 포함되어있다. #8. 소송 관련
8.1. 이미지 생성 AI 개발사 저작권 소송
스태빌리티, 미드저니, 디비언트아트[36] 등 주요 이미지생성 AI 개발사가 저작권 소송에 휘말렸다. 소송을 건 주체는 두 그룹이다.하나는 게티이미지다. 게티이미지는 스테이블 디퓨전이 게티이미지의 유료소스 워터마크를 재현하려하는 경향이 있음을 지적했다. 동의없는 이미지스크래핑은 게티이미지의 사이트 약관을 어긴 것이기도 하다는 지적 또한 했다. #
또 다른 하나는 3명의 아티스트가 대표가 되어 진행하는 대규모 집단소송이다. 이는 미드저니의 설립자가 동의 없이 수억개의 이미지를 사용했음을 인정하는 인터뷰를 한 것이 발화점이 되었다. # 이들은 AI 개발사가 동의 없이 가져간 저작물을 이용해 '상업적인 이득'을 취한 행위는 공정이용으로 볼 수 없다고 주장했다. '상업적 이득'을 취한 순간 공정이용이 인정되지 않은 판례 또한 많다. #
아티스트 들의 집단소송에서 새로운 시사점이 보인다. 특정 작가의 그림 데이터를 집중적으로 수집한 후 AI 모델에 학습을 시키고 '작가의 이름'과 같은 그 작가를 지칭하는 키워드로 해당 작가의 그림 스타일을 그대로 모방한 그림을 생성하도록 유도하거나 용인하는 행위는 초거대 AI 모델의 일반적인 학습 행위와는 별개로 살펴보아야 할 쟁점으로 보는 시각이 있다. 해당 행위는 그 자체로 모방의 목적이나 의도가 드러나고, 그림 생성 초거대 AI 모델은 짧은 시간 내에도 대량의 그림을 생산해 낼 수 있다는 점에서 특정 작가가 작품 활동을 하고 있는 현재 또는 잠재적인 시장 가치에 상당한 영향을 미친다고 평가될 가능성이 높기 때문이다. #
그림 AI와 유사한 생성 AI들 또한 같은 문제로 각종 단체들에 의해 소송당하기 시작했다. 소송에 나선 기업 및 단체들에는 트위터, 레딧, 뉴스미디어연합, 월스트리트 저널, CNN, 유니버설 뮤직 등이 있다. 1# 2# 이렇게나 많은 소송, 혹은 소송 예고 소식에, 학습시 저작권을 지키도록 하는 것이 오히려 AI 개발사를 보호하는 것이 아니냐는 의견까지 나왔다.
블룸버그는 2023년은 AI 도구의 소유권, 저작권 및 진정성에 대한 법적 갈등이 본격적으로 시작되는 한 해가 될 것이라고 예상했다.
8.2. 미국 일리노이 주 무단 개인정보 학습 집단 소송
지난 2018년 출시한 사진 편집 앱 '렌사'에 AI 기술을 활용한 이미지 생성 도구 '매직 아바타' 기능을 2022년 말 추가한 바 있다. 해당 AI 도구는 사진에서 특정 물체를 제거하거나 촬영한 사진의 노이즈, 결점 등을 제거하며, 배경을 변경할 수 있는 등 다양한 기능을 제공하는 스마트폰 앱이다.그러나 미국 일리노이 주 주민들이 해당 앱의 AI 개발 회사인 "Prisma Labs"를 상대로 생체 정보 수집에 대한 일리노이 주 BIPA(2008)법과 연방법을 위반했다며 집단 소송을 제기했다. 소송 측은 렌사 AI가 모델을 훈련시키기 위해 사용자의 얼굴 데이터를 불법적으로 추출 및 Prisma Labs로 데이터를 이동했으며, 렌사 앱이 많은 아티스트들의 저작물들을 온라인에서 무단으로 스크랩 했다며 이와 같이 주장했다.
해당 소송의 변호사 Mike Kanovitz는 "렌사는 미국에서 가장 많이 다운로드되는 앱 중 하나이기 때문에 이 소송과 Prisma Labs의 BIPA 준수가 절실히 필요한 것"라며, "Prisma Labs는 사용자의 동의 없이 불법적으로 사용자의 생체 데이터를 수집했고, 이것은 일리노이 주법을 위반한 것"이라 밝혔다.#
9. 사이버불링
2024년 현재도 기존 작가를 향한 AI이용자들의 괴롭힘이 계속되고있는 상황이다. 조금이라도 AI에게 비판적인 발언을 한다면 AI이용자들끼리 단체로 몰려가 집단 사이버불링을 시전하고 있는상황이다.[37]최근엔 단순 괴롭힘을 넘어서 살인예고 까지 나오고 있는 실정이다.9.1. AI 그림 플랫폼 이용자의 악성 어그로
위와 같이 인공지능에 대한 호불호의 의견과는 별개로 인공지능 그림이 탄생한 이후 AI 그림을 지나치게 맹신하거나 자신이 'AI 그림 유저'라는 것에 대한 부심을 부리며 악용하는 사람이 늘어나서 각종 인터넷에서 사회적 문제를 일으키고 있다. 이는 AI, 도구 자체의 문제점이나 논란이라기 보다는 이를 악용하는 인간들의 윤리적 문제, 즉 문화 지체 현상이라고 볼 수 있다.단순히 AI가 인간 산업을 대체하게 될 것이라고 전망하는 수준을 넘어서 '짤쟁이들 이제 다 뒤졌다.' "너희들이 이때까지 노력한 것은 그저 AI의 사료로 전락되었다." 등등의 폄하와 멸시, 비하가 이어지고 있다. 자본주의 사회이니 너희들은 도태되는 것이 옳다고 조롱하는 것은 덤. # 더더욱 나아가 부당하게 저작권 재산을 동의없이 훔쳐간 AI 그림을 사용하여 개인적인 재미와 이득을 보고 싶어하는 부류는 학습데이터를 만들 수 있는 그림 작가들이 스스로 목숨을 끊길 원한다며 조롱을 하기도 하며 #1 #2 #3 자기 할 일을 하고 있는 사람 작가들한테 까지 굳이 조롱 DM을 보내기도 한다. # 아카이브 사건의 중심이 되었던 스트리머 김너겟은 커미션을 신청하는 척 하면서 마지막에 AI 그림을 올려놓고 'AI가 더 좋은데 널 왜쓰냐 넌 이제 망했다.'고 조롱하였다. 더군다나 피해자가 트위터에 피해 호소를 하자, 이를 주동한 트위치 스트리머가 역으로 자기가 피해를 당했다며 피해자를 고소하겠다고 적반하장을 시전하고 사과문이랍시고 올린 글은 온통 피해자를 조롱하는 글들 뿐이었다.
코딩이나 프로그래머들 과학자들은 서로 연구와 지식을 공유하기도 하는데, 왜 그림을 그리는 사람들은 그런 걸 피하려 하느냐? 식의 비난도 서슴치 않는데#, 이는 완벽히 핀트를 벗어난 조롱으로, 오히려 그림을 그리는 사람들은 취미로든 업계든 각자 그림 스터디를 통해 서로 연구 및 발전을 유도한다. 오히려 그림쟁이들의 분노는 동료들의 노력의 결과가 본인들의 의사와는 관계 없이 사용되어지는 것에 대항하는 연대에 가깝다. 연구와 지식을 공유하기보다는 남의 논문이나 연구 성과를 합의 없이 훔쳐다가 조합한 결과물에다 자기 이름을 박아놓고 올리는 꼴에 가깝다. 그들이 그린 그림을 '동의 없이' 긁어다가 자료로 사용하는 것에 대한 논란이 그림 Ai 논란의 주요 쟁점 중 하나이기도 하기 때문이다. 학습에 대해서도 조롱이 많은데, 자기 밥그릇 지킨다고 기술적 발전을 무너뜨린다고 주장하며, 환쟁이들은 이기적이다는 말도 안되는 비판을 하기도 한다.
새롭게 뜨고 있는 작가들, 유튜브 아트 교육관련 커뮤니티에 찾아가서 AI가 이제 그려줄 텐데 앞으로 잘 선택해라는 걱정을 빙자한 조롱을 보내는 등 'AI가 그려줄 텐데 왜 배우냐? ㅋㅋ.'를 위시한, '아무튼 내 문제는 아님.'이라는 마인드를 업고 그 문제에 직면해 있는 상대를 놀리는 하나의 놀이문화처럼 즐기는 사람들이 등장하기 시작했다. 이와 같이 조롱하는 사람들이 자주 언급하는 두 가지의 예시가 있다. 러다이트 운동, 그리고 적기조례를 예시를 들며 지금 이 학습을 막는 것은 기술의 발전을 저해하는 행위라고 하지만, 해당 예시는 매우 근본적인 문제가 있다.
그림 AI의 가장 큰 문제점은 저작권이 있는 작가들의 상업용 이미지들을 대량으로 학습시켜서 괜찮은 결과물이 나오는 것이지, (최근에는 퀼리티를 높이기 위하여 실제 사람의 사진을 많이 학습시키고 있다) 문제가 없는 이미지만을 사용할 경우 절대 일반적으로 원하는 결과물을 나오기 힘들다.
즉, 그림 AI 데이터는 해당 업종의 자산을 착취하는 형태에서 작동한다는 말. 당연히 같은 선상에서 볼 수 없는 문제이다.
주로 유튜브나 여러 커뮤니티에서 그림 그리는 사람을 조롱하기 위해 위 두가지의 사례를 가져와 역사는 반복된다며 조롱하지만, 지적재산권을 착취하는 현 그림 AI는 해당 예시와는 전혀 동일할 수가 없다.
인디게임, 웹소설에 측에 해당되는 일부 창작자들이 빨리 그림을 그리는 작가들의 데이터를 모두 흡수해서 모조리 망해버리고 잠재적인 이익이 자신들에게 들어왔으면 좋겠다는 극단적인 발언을 커뮤니티에 계속해서 쏟아내고 있다.
그러나 이는 매우 근시안적인 사고로, 이런 저작권 침해 AI 프로그램의 선례가 만들어지게 되면 다른 창작활동의 분야들 또한 어떠한 권리 주장도 하지 못한 채 데이터 학습에 이용될 가능성이 높다. 변호사가 바라본 스테이블 디퓨전 현 고소사건 실제로 외국에서는 단순히 그림관련 종사자들 뿐만 아니라 3d 업계, 음악, Ai 관련 전문가들이 악용되는 문제를 지적했으며, 그들의 권리를 보호할 수 있는 단체에 후원을 하는 여러 모습이 관찰되었다. 또한 그림 분야가 아닌 창작분야에서도 AI 기술을 활용하여 창작물을 훔치고, 그 방법을 당당히 강연까지 하며 공유한 사례도 발생했다. 유튜브 컨텐츠가 그것인데, 과학유튜버 리뷰엉이가 노아AI 표절 사건을 공론화했다.
자율차 주행 등의 이슈 속에서 시위를 하다가 대다수의 대중들에게 조롱당했던 택시 기사들을 비롯하여 AI를 들먹이며 만성적으로 비하당했던 산업노동자들은 "그때는 자신은 '하급 육체노동자'가 아니니 마음껏 비꼬던 대열에 속해있던 직업들이 하나둘씩 태세를 전환하게 되는거보니 기분이 복잡하다."는 식의 반응을 보이기도 했다. 다만 조롱을 당한 그림작가들 개개인과는 별 상관 없는 문제이고 특별히 그림계 사람들만이 노동계 사람들의 문제를 냉대했다는 근거는 없다. 이런 논조는 오히려 산업노동자들을 비하했듯이 곤란에 처한 이들을 비웃는 행위를 오락처럼 소비하는 이들의 핑계거리에 악용되는 경우가 더 많다. 그림 AI의 경우는 시간이 지날수록 일자리 문제 뿐만 아니라 인공지능 개발 장려의 비호 아래 타인의 작업물을 무단으로 사용해서 만들어진다는게 주된 논란거리가 되고 있기에 아직 동일선상에 두기에 힘든 단계라는 점도 차이점이다.
9.2. 애니메이터 Tarrow 조롱 사건
AI 사용자들이 유튜브 구독자 50만 애니메이션 크리에이터 Tarrow에게 여러 조롱성 메시지로 사이버불링을 하여, 이에 대한 반응을 트윗하였다.
9.3. 무분별한 AI 사용 의혹 제기
작가가 레이어 인증, 작업과정 인증을 했음에도 불구하고 AI 사용 의혹을 제기하는 경우가 다수 생겼다. #1 #2그림 AI에서 주로 보이는 그라데이션을 많이 쓴 듯한 미소녀 그림체를 가진 작가가 주로 타겟이 되곤 한다. 또, 이러한 그림체가 개성없기 때문에 AI 그림과 유사해진 것이라고도 주장하는데, 이는 AI가 인간작가를 모방했기 때문에 그리 된 것을 작가 탓을 하는 주장이다. 즉, 가해자는 따로 있는데 피해자를 탓하는 2차 가해인 셈.
실제로 AI 누명 때문에 타임랩스까지 공개하는 상황까지 생겼다.
- 2023년 4월, 인디팀의 미연시 게임 '시스터즈 커리큘럼'의 일러스트가 AI로 의심받아 그림 제작 전체 과정을 녹화한 타임랩스까지 공개하는 상황까지 생겼다. #
- 2023년 5월, 웹소설 수상한 호구를 주우면이 연재 시작 하자마자 AI로 작품 표지를 만들었다는 의혹이 제기되어 논란이 되었으며, 이후 해당 작품을 담당한 일러스트레이터[38]가 "AI가 그린 그림이 아니라"라며 SNS에 표지 제작 과정을 타임랩스 영상으로 올린 후에야 논란이 수그러들었다. AI 누명을 쓴 일러스트레이터가 올린 타임랩스 영상. 해당 사건이 카카오페이지 소설 A로 언급된 제도권 기사
국내에서도 23년 5월 11일, 루리웹에서 이러한 사건이 발생했다. #1 #2
해외 활동이 주력인 한국인 일러스트레이터가 투고한 그림을 보고 AI의혹 및 시비를 걸어, 작가를 압박했다. 사람에 의해 투고된 그림에 대고 "내가 AI가 맞다고 단언은 못 하지만 너또한 AI를 쓰지 않았다고 단언할 수 없다" 는 식의 적반하장과 함께 작가의 그림 실력까지 폄하하는 자세를 보였다. 작가는 당연히 본인의 실력이었고 인증을 했으며, 의혹을 제기한 측은 사과문을 작성했지만, 이미 흘린 물(말)은 주워담지 못 한다는 것만 증명하면서 상처만이 남는 결말이 되었다. 제 2의 '선도 제대로 못 긋는 사람' 사건을 갱신한 건 덤.
2023년 5월 일러스트레이터 아라이즈미 루이가 개인 트위터에 업로드한 일러스트가 평소 그리던 화풍과 다르다는 이유로 AI 의심을 받아 해당 그림의 레이어를 공개하면서 해명한 일이 있었다.
9.4. 중국 버튜버 신상털이 및 사이버불링
2023년 3월말~4월 초, 중국에서 VirtuaReal Link 소속 버튜버 카론#이 그림 생성 AI로 인한 저작권 문제를 비판하는 글을 올리자, 중국내 AI그림 만능론자/신봉자들이 카론의 학교등 신상을 털고, 대학에 거짓 제보를 넣어 박사학위 따는 것을 방해하려 하거나, 해당 대상을 학습시킨 AI로 딥 페이크 음란물을 만들어 카론에게 보내는 등, 강도높은 사이버불링을 하는 중이다. #9.5. 裏方작가 사칭 및 살해협박
작가 원본 트위터 #2023년부터 자신의 그림 스타일과 이름을 모방한 AI그림을 만드는것을 자제요청을 한 이후 AI 옹호론자들에게 집중적인 괴롭힘을 당하고 있는중이다. 그리고 그 수위는 점점 심해지고 지금은 완전히 도를 넘어버린 상황이다.
보통 괴롭힘을 넘어서 해당 작가의 사칭 계정을 만든 후[39] 이상한 발언을 하고 적반하장으로 역으로 저작권 신고를 한다던가[40], 이를 넘어서 살해협박까지 나온 실정이다. #
裏方작가는 지속적인 괴롭힘으로 인해 무기한 활동중지에 들어간 상태이며#, 괴롭힘으로 인한 심각한 정신적 스트레스로 울분을 토하고 있다.
9.6. jizell작가 사이버불링
최근 jizell작가는 자신의 그림이 AI로 오해받는 일이 일어나자 타임랩스를 통해 AI로 생성한것이 아님을 인증했다. #하지만 AI이용자들은 jizell작가가 인증한 그림을 이용해 AI에게 무단학습, 거기에 더 나아가 AI가 더 낫다는등, 이전에 裏方작가에게 하던 동일한 지속적인 사이버불링을 하는 중이다.
9.7. urct 작가 사이버불링 및 살해협박 피해
요약글, 살해협박 발언 주의현재는 다행히 활동을 재개했다.
10. img2img 기능 오용 및 도용 사건들
모델 학습의 경우는 엄밀하게 따져서 신경망의 원리를 모사해서 데이터를 만드는 것이기 때문에 실제 인물 사진을 쓰거나 배포 결과물이 말썽을 일으키지 않는 이상 아무리 반발이 심해도 학습 자체만으로는 법적 저작권을 따지기 힘들다. 까놓고 말해 특정 그림체에 치중하지 않고 여러 가지 그림을 학습해 모델을 만든다면, 원본의 그림체들이 섞여서 모델 고유의 "그림체"가 생겨나고, 이렇게 만들어진 그림체로만 생성된 그림을 활용해 모델을 완성시키면 각 원본 그림의 개성이 없어져서 학습 자료를 추정하기 어려워진다. 하지만 아예 기존 그림을 참조하는 기능인 img2img는 상황이 다른데, 이것은 쓰는 방식에 따라 기존 그림을 베끼거나 소위 짜집기에 가까운 원리로 이용할 수 있기 때문이다.현재 남의 그림을 그대로 베낄 수 있는 img2img 기능도 여러모로 문제를 많이 일으키지만, ControlNet의 Canny, Depth 등 그 이상의 강력한 성능을 지닌 이미지 참고 기능의 등장으로 도용이 더 쉬워져서 폐해가 더욱 심해질 전망이다. 이하는 빙산의 일각인 셈.
10.1. 트위치 스트리밍 그림 학습 사건
2022년 10월, 트위터에 신규 가입한 익명의 영미권 사용자가 자신을 '프리랜서 일러스트레이터(Freelancer illustrator)'라고 소개하면서 여러가지 AI 학습 일러스트를 샘플로 올리며 커미션과 외주를 받기 시작했다. 이 사건이 널리 알려진 계기는 해당 계정이 원신 관련 일러스트를 그리는 한 일러스트레이터의 그림 작업 방송 스트리밍을 그대로 캡쳐하여 AI(NovelAI 이미지 제네레이터로 추정.)에 집어넣은 뒤, 생성된 결과물을 일러스트레이터보다 먼저 투고한 것이었다.[41] 해당 트위터는 이전부터 다른 사람의 결과물을 가져다 AI 돌리고 자기가 그린듯이 올린 전적들도 추가로 발견되었다.이후 그는 해당 일러레가 트위터에 완성본을 올리자 역으로 자기 그림을 표절했다고 주장했다. # 이 도용러는 순전히 AI로만 그림을 뽑아내면서 자기를 프리랜서 일러스트레이터라고 속여서 위 문단인 '그림쟁이 행세'에도 해당하는 케이스. 이후 트위터 내에서 논란이 일자 해당 계정이 삭제되었지만, 이후 2022년 10월 14일 이 사건을 쉴드치면서 AI 그림으로 일러스트레이터들을 조롱하는 악성 어그로 계정이 생겼는데 동일인으로 추정된다.
10.2. img2img 댓글 트롤링
일러스트레이터가 그린 그림을 AI에 넣어 돌리고, 그 결과물을 댓글로 남겨 어그로를 끈 사건이다. 작가가 이에 대해 언급하자, 댓글을 삭제하고 잠적했다. 하지만 작가가 캡처를 공개해, 아이디까지 그대로 남았다. # 위와 비슷한 여러가지의 트롤링 사건이 일어나고 있다. 1 1-1 210.3. AI 사용자간 img2img 도용
AI 사용자가 올린 그림이 다른 Ai 사용자에 의하여 img2img로 돌린 후 자기 작품처럼 AI 태그를 달지 않고 올린 사건이다. 해당 게시글에서 알 수 있듯이 해당 사용자에게 신고해야한다는 반응을 보였으나, AI 산출물 자체에는 저작권이 존재하지 않으므로, 특별히 조치를 취할 수 있는 부분이 없다. #해당 사건에 디시인사이드 실시간 베스트 갤러리에서는 AI 채널 사용자들이 그림 그리는 사람들의 작품은 존중하지 않으면서 자신이 프롬포트를 사용하여 나온 AI 산출물은 지키고자 하는 모습을 조롱했다. #
10.4. 일대다 img2img 도용
한 명의 AI 사용자가 다수의 작가의 그림을 훔쳐 그림을 생성한 사건이다. 작가가 도용된 자신의 그림을 살펴보다가 알고지내는 다른 작가의 그림을 발견하고 알려주는 식으로 알려졌다. #1 #2 #3 #4 #5 #6해당 사용자는 무단으로 그림을 훔친 것도 모자라 생성된 그림에 자신의 닉네임 로고를 박아 작가인 양 행세했다. 논란이 커지자 문제되는 그림들을 삭제했는데, 원작을 그린 작가에게 인스타로 찾아와서 "자신을 도둑으로 모는 건 너무한 거 아니냐 인간으로써 니가 너무했다"라며 적반하장으로로 나왔다.
유저의 이름은 SFA로, 계정을 없앤 것이 아니라 단지 비공개로 잠그고 숨어버린 것이라 위의 flux처럼 얼마든지 다시 활동할 가능성이 있다.
10.5. @U__MASU 유저의 Img2Img 이용 사건
이번에는 한 일본 트위터리안이 발견한 I2I 도용 사고.의혹이 번지자 해명을 한답시고 한 게, "나는 러프를 직접 그려서 AI를 돌린다. 그러므로 위의 예시들과 지금 떠도 는 문제는 "내가 아는 사람 여럿과 이야기 해 본 결과 우연의 일치이다." 라는 변명을 해서 AI그림 = 타인의 그림을 도용하는 그림이라는 것을 더욱 공고히 해버렸다. 오히려 이 사람을 옹호하는 AI 사용자도 보여서, 파쿠리를 AI라는 틀에 씌워 사실상 합법화시킨 셈이다.
또한 이 유저는 100명의 다른 AI 사용자들을 소개한다는 명목으로 서적화를 준비하고 있었다.
10.6. 일본 버츄얼 유튜버 무단 상표 등록 사건
#일본에서 한 개인세 버츄얼 유튜버 호시노 카논, 등재기준 미달의 작은 버츄얼 유튜버의 그림을 무단으로 AI를 돌린 다음, 그 그림으로 일본에서 상표 등록, 쉽게 말해 저작권 등록을 해 버린 사태이다. 당사자의 트윗 해당 사례는 저 개인세 유튜버가 빠르게 이를 확인해 이의제기를 통한 상표등록 제고를 할 수 있는 상황이라 망정이지, 만약 저 버튜버가 이를 못 보고 지나쳤다면 최악의 경우 해당 사례의 버튜버 뿐만이 아니라 성장이 어려운 개인세 무명 버츄얼 유튜버들이 전부 AI 그림을 통한 상표등록의 희생양이 되어 작은 버츄얼 유튜버 층이 전부 송두리째 뽑힐 뻔 했을 수도 있었을 사건이다. 또한, 소위 '마마'나 '엄마'라고 불리는 버츄얼 유튜버의 그림을 그려준 일러스트레이터 들에게도 추가로 문제가 생길 수도 있었다.
이는 AI그림을 사용하여 직접적으로 남의 일자리를 빼앗으려 한 사건으로, 만약 이 상표등록이 성공했다면 개인세란 개념 자체가 사라지는건 물론, 대규모 회사를 제외한 버츄얼 유튜버 판 전체가 무너질 수도 있던 사건이다. 상표 등록이 된다면 그 후 버튜버를 직접 고소하여 소송전을 벌이는 것이 가능해지기 때문인데, 그로 인해 상표등록을 시도한 이가 얻을 수 있는 이익이 많지 않다는 점에서 상당한 악의가 느껴지는 사건이라 할 수 있다.
11. 기타
11.1. AI 개발자 인터뷰 날조 논란
10월 2일, 트위터와 루리웹에서는 논란이 되고 있는 AI 그림 메커니즘인 Stable Diffusion 개발자가 인터뷰에서 "미술은 도구이자 지겨운 것이라며 차라리 ai쪽으로 오라"는 오만한 발언을 해 업계가 폭발했다는 잘못된 내용이 퍼졌다.| Emad Mostaque 인터뷰 일부 (날조 번역) |
| But Mr Mostaque says he's not worried about putting artists out of work - the project is a tool like Microsoft's spreadsheet software Excel, which -he notes- "didn't put the accountants out of work, I still pay my accountants". '당신의 AI 사이트 때문에 젊은 예술가들이 피해를 입지 않을까'라는 질문에 루리웹에 올라온 논란 유발글 |
| Emad Mostaque 인터뷰 전문 (일부 의역 포함) |
| {{{#!folding [ 펼치기 · 접기 ] |
- 당신들(예술가)는 예술을 하는 게 아니라 그저 그림 그리는 도구일 뿐이다: 원문은 인공지능 업계를 자랑하기 위해 "일러스트 디자인보다 여기가 더 재밌어 보이지 않아?" 라고 으쓱하는 투로 하는 말이지 너네는 도구일 뿐이라며 내려치는 말이 아니다.
- 돈 안 되는 거 때려치고 우리쪽으로 와라: 그냥 이쪽 업계가 재밌을 거라고 권유할 뿐, 창작자를 비하했다고 날조하기 위해 창조 번역한 것에 가깝다.
- 기존 미술 분야를 비하하는 대답을 남김: 개발자는 해당 인터뷰에서 "엑셀이 나왔다고 해서 회계사들이 직업을 잃지는 않았다"며, 기존 미술 분야와 함께 갈 수 있다는 점을 어필했지 비하를 한 것이 아니다.
- 당연히 업계는 폭발함: 당시 업계가 폭발했던 것은 Midjourney 2022년 예술대회 우승 사건 때문이었지, 해당 인터뷰 때문이 아니다. 무엇보다 인공지능과 예술에 대해 다룬 인터뷰는 이것 말고도 차고 넘치게 많다.
여러 커뮤니티에서 해당 번역이 잘못되었다고 지적했다. 블루 아카이브 채널에서는 "당신의 가족이 돌아가셨습니다"를 "니 가족 뒤짐"이라고 번역한 급에 가깝다는 글이 베스트에 등재됐고, 디시인사이드에서는 ‘또 하나의 자막 주작 선동’이라는 제목으로 실시간 베스트 갤러리에 등재되기도 하였다. 당장 같은 곳인 루리웹에서도 번역이 잘못되었다는 반박글이 올라왔지만 분리수거 게시판으로 이동되었다.
인터뷰어인 Emad Mostaque는 애당초 개발자도 AI 연구자도 아니라 펀드 매니저를 하다 이런저런 스타트 업을 차려 CEO가 된 사람이다. 옥스포드에서 수학과 전산학 석사과정을 공부하긴 했지만, AI와는 전혀 관계 없는 이력을 가진 사람으로 이번 일엔 돈만 댔다. 진짜 개발자들은 관련 문서에 나와 있듯이 뮌헨 대학교 등의 연구자들이다.
11.2. stable diffusion 선정적 그림 생성 및 화풍학습 너프에 대한 반발
stable diffusion 2.0 모델이 나오면서 해당 관계자는 타 작가 화풍 학습 및 선정적인 그림을 생성하는 기능을 너프시켰다고 밝혔다. 외부적 전문가들의 의견을 수용하여 앞으로 인공지능 윤리에 대해서 고려해서 움직이고 있다는 입장을 밝혔다.1#2# 이는 EU의 AI 규제 움직임을 의식한 것으로도 보인다. EU의 규제 초안에 따르면 인간의 기본권을 침해할 여지가 있는 AI는 작동방식을 사람들이 완전히 이해하도록 해야 한다. 이에 따라 해당 AI는 데이터 셋을 모두 오픈하고 검증받아야한다. # 해당 규제 초안은 미국에서도 수용할 것으로 보인다. #그런데 여기에 AI 사용자들이 반발했다. 위 기능들을 사용할지 말지는 앤드개발자가 선택하도록 하는 것이 오픈소스 정신에 맞다는 논리다. # 화풍 학습 또한 진행 중으로 많은 사건 사고를 낳고 있다.
11.3. 텐센트 QQ소세계 서비스의 윤리적 논란 및 의혹
중국산이며 텐센트에서 서비스하는 간단한 그림생성(img2img방식)으로 틱톡에서 유행하는 <QQ小世界> AI 플랫폼에 두가지 논란이 불거졌다.하나는 사진을 넣었을 때 흑인을 원숭이나 백인으로 바꾸는 일[44]이 일어났다. # 이는 그림생성 뿐 아니라 전반적인 AI에서 일어날 수 있는 윤리적인 문제다. 그 예로 마이크로소프트 테이(인공지능) 및 버전업 이전의 이루다가 사회적 약자에 대한 혐오발언을 쏟아낸 사건이 있었다. # 그런데 테이의 경우 비윤리적인 언어들을 학습시키려는 움직임이 있었다고 하나, 그림생성 AI는 자신의 그림을 학습시키지 말라는 분의기가 있는데 왜 윤리 문제가 생긴 건지는 밝혀진 것이 없다. 이와 비슷한 사건으로 AI에게 5인 가족을 그려달라고 하자 엄마와 초등학생 정도 된 딸이 동시에 임신한 그림이 나와버린 일이 있었다. # 대부분의 그림 생성 AI가 스테이블 디퓨전에 기반하고, 같은 문제를 공유하기 때문에, 중국발이 아닌 AI에서도 위와 같은 윤리 문제가 있을 수 있다. [45]
또 다른 하나는 해당 AI가 사용자가 넣는 사진들을 학습하는 것에, 사람들이 제기한 의혹이다. 학습한 데이터들은 중국 시민을 감시하고 상벌점을 메기는 중국의 비윤리적인 AI개발에 사용된다는 것이다. #1 #2 이는 개인정보를 다루는 중국의 태도 때문에 생긴 불신으로 불거진 의혹일 가능성이 크다.
11.4. 랜사앱 서비스의 윤리적 논란
미국 실리콘밸리에 있는 프리즈마랩이 개발한 렌사 앱이 텐센트 QQ소세계 서비스와 완벽히 같은 윤리적 문제가 있음이 드러났다. 심지어 렌사의 원천기술인 스테이블 디퓨전의 음란물 생성 방지 기능도 앱에 적용되어있지 않았다. 외신이 실험으로 일반인 셀피와 누드모델 사진 각 5장, 총 10장을 넣자 일반인의 누드 그림을 내놓은 것이다. #11.5. 아트스테이션 사용자들의 AI 거부 시위
2022년 12월 14일부터 아트스테이션 이용자들 사이에서 시작된 "No to AI Generated Images"와 큰 크기의 AI로 적힌 글자 뒤 금지 픽토그램을 넣은 이미지를 업로드하는 시위이다. 시작되자마자 폭발적으로 많은 수의 사람들이 이에 동참하면서 아트스테이션 홈페이지 메인의 95%가 채워지기도 했다.
아트스테이션은 세계 각지의 현업 그래픽 아티스트, 프로, 지망생 등이 포트폴리오를 올리는 용도로 사용하는 사이트이고 동시에 회사, 스타트업, 외주 업체 등과 같은 사람들이 고용을 위해 이들의 포트폴리오를 보러 이용하는 곳이다. 그러나 DeviantArt와 마찬가지로 AI 생성 그림들이 무차별적으로 업로드되기 시작하면서, 포트폴리오로 이용하는 사람들의 작품들이 빠르게 묻히는 등의 문제가 발생하여 상당한 불만이 제기되었다. 이후 점차 고조되다가 이와 같은 이용자들의 움직임으로 변화되었다.
곧바로 이튿날 12월 15일, 아트스테이션이 긴급 공지를 올린 바 있다. 논지는 'AI에 사용자들의 작품이 수집되지 않도록 하는 태그를 추가하겠으나, AI 그림을 따로 분류하거나 조치를 하지 않겠다'는 정도의 공지였고, 사용자들은 사실상 태그 추가 외에 아무것도 하지 않겠다[46]는 의미로 받아들여졌다. 이로 인해 같은 날 Round 2라며 또 다른 시위가 시작되었다. 또 두 번째 시위에선 사용자들이 아트스테이션의 오픈부터 주장해왔던 '커뮤니티 콘텐츠 지침'과 AI 공지가 서로 모순을 일으켰다고 보며 비판했다.
해당 지침은 ArtStation은 포트폴리오 플랫폼입니다. 포트폴리오의 작품은 본인이 만든 작품이어야 합니다. 귀하가 소유하거나 게시 권한이 있는 작업만 게시하십시오.[47]라는 내용이 상단부에 버젓이 적혀있다. 때문에 두 번째 시위에서 모순점을 비판받은 아트스테이션은 15일에 올렸던 AI 공지를 내렸다.
2022년 5월 EU에서도 AI로 인한 인간의 권리 침해에 따른 보호 규제가 이미 진행되었고, 국내에서도 2021년 발의된 2개의 법안에서도 AI의 저작권 침해를 제한하는 내용이 담긴 만큼 기업가들이 AI를 사용하는 데에 주저함이 있다. 아트스테이션이 단순 아트웍 SNS가 아니라, 실제 고용과 외주 계약이 오고가는 포트폴리오 사이트인 만큼 AI의 한계점이 명확한데도 불구하고 고용주와 이용자 모두 피해를 보고 있는 상황이다.
7일이 지난 2022년 12월 21일, 아트스테이션이 중간에 한 번 더 공지를 올렸으나 역시 이전과 전혀 차이가 없는 공지였고 때문에 이용자들이 더더욱 반발하기에 이르렀다. 그 이후 아트스테이션은 아무런 조치를 취하지 않으며 묵묵부답으로 일관했고, 결국 일러스트레이터 Kan Liu를 비롯 팔로워가 상당히 많은 다수의 아티스트들이 다른 SNS나 그림 커뮤니티를 이용하겠다며 아트스테이션 내 작품을 모조리 내리고 AI 반대 포스트만 남긴 채 떠나기에 이르렀다.
상당수의 아티스트들이 아트스테이션이라는 플랫폼을 떠나야하는 것을 대비해야한다는 의견을 밝혔고, 이미 여러 곳에서 AI의 무차별적 저작권 침해 제재 관련 법안을 만드는 모금 활동이나 인간 창작자만을 위한 정상적인 커뮤니티 플랫폼이 새롭게 나오는 등 아트스테이션의 장기적인 이용자 감소가 예견되고 있다.
특히 아트스테이션의 모회사가 에픽 게임즈이고, 이 회사에 재직 중인 거의 대다수의 컨셉 원화, 3D, 일러스트 등의 아티스트들조차 아트스테이션을 이용함에도 불구하고 조치를 제대로 취하지 않아 사내에서도 반발이 상당하다.
결국에는 아트스테이션 측에서 AI 필터를 적용하기로 하였다. #
11.6. 거대ai 6개월 실험 중지 요청 공개서한
스타트업 AI 대표자와 연구원 등이 거대 AI 실험을 6개월간 중지할 것을 요청하는 서한을 공개했다. #이에 AI 개발 후발주자들이 선두주자들을 따라잡기 위한 시간을 벌기 위해 윤리와 예측불가능성을 들먹이는게 아니냐는 반응이 있었다. 1# 2#하지만 Ai 기술의 등장에 비해 제도적 보호가 미흡한건 사실이고 악용사례도 계속 나오고 있어 제도적, 윤리적 준비기간이 필요한건 사실이다.
12. 규제 및 제재
12.1. 중국의 AI 컨텐츠 검열
2023년 1월 10일부터 중국 국가사이버정보판공실(CAC)이 생성 AI(generative AI)를 이용한 콘텐츠에 대해 제작과 유통을 금지할 것임을 발표했다. 여기에는 텍스트, 이미지, 음성 및 비디오 등 거의 모든 콘텐츠가 포함된다. 이는 AI를 통해 만들어진 정치적 목적의 딥페이크 콘텐츠를 차단하는 것이 주된 목적으로 보인다. #한편 스테이블 디퓨전과 드림부스를 이용한 딥페이크에 대한 경고의 목소리가 세계적으로 나오고 있다. #
2023년 2월에는 "우크라이나 전쟁은 러시아의 침략"이라는 답변을 했다는 이유로 중국 내에서 처음 선보인 챗봇 AI "챗위안"이 사흘 만에 정지당하는 일이 벌어졌다.#
12.2. 구글 코랩 WebUI 무료사용자 제재
StableDiffusion Web UI를 돌리고 싶은데 컴사양이 낮거나 한 이들이 클라우드(웹?) 컴퓨팅 서버를 임대해서 Web UI를 돌리는 플랫폼으로 사용하는 경우가 많았는데, 그중에서도 구글에서도 서비스하는 Colab은 진입장벽이 그나마 낮아서 많은 사람들이 썼었다. 그러나 한국시각 2023년 4월 21일 새벽, 구글측이 약관을 바꾸었고[48] 코랩 임대 서버를 이용해서 일부 코드를 실행시 이 약관에 의거된 경고 문구가 뜨도록 바뀌었다. 감지 방식은 클라이언트에서 자바스크립트로 코드에 webui나 webui가 사용하는 주소가 들어가는지 체크만 하는 방식이며[49], 폴더명을 변경하거나 클라이언트 자바스크립트를 조금만 바꾸면 바꾸면 경고문 자체는 감출 수 있지만 약관 위반이라는 것은 변하지 않는다.원래 코랩은 공과 학부생들을 대상으로 학술 및 프로그래밍 연산보조 목적을 위해 서버를 임대해서 쓰도록 하는데, 그림 인공지능업계의 대두 이후로 그림 인공지능 용으로 트래픽이 많이 몰리자 구글측에서 칼을 빼든것으로 보인다.
다만 레딧이나 트위터에서 구글 코랩 PM이 밝힌 바에 따르면 제재하는 것은 WebUI뿐이고 그 이외 프로젝트를 이용하거나, 코드를 통해 이미지를 생성한다면 기존과 같이 사용할 수 있다고 한다. 또한 아직까지 경고만 할 뿐 사용자를 제재할 계획은 없다고 밝혔다. #1 #2
5월 7일 기준, 이제 본격적으로 무료사용자에 대한 제재에 들어간것으로 보인다. (AI챈)
관련글 : (AI챈) , 깃헙 , 레딧/r/StableDiffusion
12.3. 스팀의 인공지능 제작 어셋을 사용한 게임 입점 규제
스팀에서도 이런 그림 인공지능의 논란을 주목했는지, 2023년 7월부로 인공지능으로 만든 그림을 어셋에 활용하거나 그렇게 거의 에셋을 만든 게임을 규제하겠다고 발표했다. 말이 규제지, 실질적으로는 금지에 가깝다. #13. 딥페이크
13.1. 빌리 아일리시 딥페이크 포르노 사건
미드저니 및 렌사과 비슷한 이미지 AI를 이용한 빌리 아일리시의 딥페이크 포르노가 틱톡에 업로드 되었다가 4일만에 삭제되었다. #빌리는 성인이 되기 전인 2년 전까지 몸매가 드러나지 않는 펑퍼짐한 옷만 입은 것으로 유명한데, 불특정 다수가 자신의 몸매에 대해 이런저런 평가를 하는 것을 막기 위해서였다.
13.2. 프랑스 연금 개혁 시위 페이크 사진 논란
2023년 연초부터 촉발된 연금개혁에 관한 프랑스인들의 시위가 진행되고 있는 와중, 누군가 이들의 시위 사진 등의 데이터를 AI에 학습시켜 생성한 가짜 사진이 논란이 되었다. 경찰관들이 시위 참여자들을 마치 위기에서 구하고, 배웅하는 듯한 느낌의 사진인데 자세히 보면 시위자의 귀나 경찰관의 손 등이 일그러져있어 AI로 생성된 이미지임을 알 수 있다. 그러나 언뜻보면 실제 사진처럼 보이고 착각할 수 있어 큰 화제가 되었고, 해당 논란을 지적한 트윗은 조회수 1,200만을 넘기며 해외에서 큰 화제가 되었다. 실사에 가까운 이미지를 생성할 수 있는 AI가 등장한지 며칠 되지 않아 생긴 일로, 일반인 사진 대량 학습 논란과 더불어 본격적으로 가짜 뉴스에 사용 될 수 있음을 시사하는 논란이다.13.3. 튀르키예 지진 피해자 후원 사기
2023년 튀르키예·시리아 대지진 사건의 피해 사진 등을 SNS로 보여주고는 후원이라는 명목으로 가상 화폐 등의 금품을 요구하는 사기가 다수 발생했다. 여기에 쓰이는 사진들에는 AI까지 동원된 딥페이크 이미지도 포함되었다. 그 중에는 해당 사건과는 전혀 관계없는 사람이 만든 AI 이미지를 그대로 가져다 이용한 사례도 있다. #
13.4. 트위치 스트리머 QTCinderella의 딥페이크 포르노 피해 및 사용 중지 호소 사건
트위치 스트리머이자 인플루언서로 유명한 28세 여성 QTCinderella가 2023년 2월 6일, 악의적 AI 사용자들이 자신의 이미지들을 AI에 무단으로 학습해 포르노 이미지와 합성시킨 음란물들을 웹에 배포한 것을 알게되어 충격에 빠졌고, 당일 울면서 트위치 스트리밍 방송을 켜 해당 딥페이크 포르노 이미지를 만드는 사람들을 향해 더이상 유포하거나 자신의 사진을 학습 시키지 말라며 호소했다.#이 일 전후로도 이미 무수히 많은 여성 트위치 스트리머들이 실제 딥페이크 포르노 피해를 받고 있으며, 대개는 이런 일이 벌어지는지조차 모르고 있다고 밝혔다. 아무런 규제없이 이미지 생성 AI가 전 세계 민간에 풀리면서 저작권[50]과 초상권을 모두 침해당하며 인권을 침해당하는 일이 비일비재하지고 있다. [51]
13.5. 영국 정부의 Web UI 아동 포르노 이미지 생성에 대한 항의 및 조사 착수, 그리고 유럽의 규제
스페인에서 이미지 생성 AI를 이용해 아동 포르노 이미지를 만든 프로그래머가 체포되는 일이 발생했다.# 직후 영국 정부는 아동학대자선단체(NSPCC) 등을 비롯한 많은 민간 단체에서 이미지 생성 AI를 이용한 딥페이크 기술로 일어나고 있는 문제들에 대한 항의를 받았다. 데일리메일의 AI 딥페이크 사진 및 영상에 대한 비판 기사# 곧바로 영국 NCA는 수사에 착수했으며, 현재 스테이블 디퓨전 구 버전을 활용한 WEB UI를 대상으로 조사 및 대책을 논의 중임을 밝혔다.다른 이미지 생성 AI인 미드저니, 달리 등은 2022년부터 수많은 항의를 받아 초상권, 저작권 침해 및 음란물 합성에 대한 규제를 강하게 하기 시작했고 이에 맞춰 스테이블 디퓨전 역시 2.0 버전부터 저작권과 초상권 침해 여지가 있는 이미지 학습 금지 및 화풍 학습 다운그레이드, 3.0 부터는 원작자가 직접 학습된 이미지를 삭제할 수 있도록하는 사이트를 개설해 운영 중에 있다.
그러나 현재 모든 WEB UI로 돌아다니는 프로그램들은 스테이블 디퓨전 1.x 버전으로, 이러한 저작권과 초상권, 인간 기본권 침해할 수 있는 학습에 대한 제한이 없는 상태이다. 즉, 소프트웨어 발전은 아예 없는 상태인데 무분별한 데이터 학습만 진행되어 사용되고있는 상태이다. EU 역시 이 생성 AI의 저작권, 초상권 세탁 문제 및 아동 포르노 문제가 발발하기 수 년 전 이미 AI 합의안을 발표했으나 현재까지 단 한 번도 제대로 지켜지지 않았고, 이에 2022년 말 AI 규제안을 최종적으로 채택해 2023년 4월 중 발표 및 시행할 예정이다.
이 규제안은 상위 저작권 관련 문단에서 확인할 수 있듯이, 각각 4단계의 위험군을 용인할 수 없는 위험, 고위험, 제한된 위험, 최소한의 위험으로 나눠놓았다. 이 중 아동 포르노 문제 및 일반인 개인정보 학습, 저작권 침해 등과 같은 인간 기본권 침해의 경우 고위험군으로 규제되어있다. 때문에 각종 AI를 활용한 산출물로 저작권을 인정받고자 하는 움직임에 큰 제약이 걸렸으며, 근본적인 데이터 학습에 대한 원저작권자의 저작권 침해 등을 고려하도록 될 예정이다.
13.6. 중국 요트 파티 접대부 논란
2023년 2월, 중국에서는 AI 그림으로 그린 접대부 사진을 실제 인간인 것처럼 보이게 하고는 요트 파티 광고를 해 논란이 되었다. 이 회사는 호화 요트 파티에서 1일당 430달러(약 57만원)에 1대1 접대 서비스를 제공한다고 선전했다.그런데 이미지의 손가락이 부자연스러워서 AI인게 들켰으며 신고되었다.[52] 결국 호화 요트 파티는 취소됐고, 해당 업체는 경찰의 수사를 받게 되었다. (사우스 차이나 모닝 포스트를 인용한 국내기사 #)
13.7. 중학생 딥페이크 사건
대한민국에서 중학생이 또래의 사진[53]을 SNS에서 찾아내 딥페이크를 만들고, '지인능욕'이라는 키워드로 커미션을 받으려했다가 징역형을 받았다. #13.8. 블룸버그 사칭 AI 펜타곤 폭파 사건
해당 기사(insider 원문), (동아일보) 정보 트윗결국 AI그림이 주식시장까지 영향을 미치기 시작했다. 트위터 블루를 돈을 주고 산 가짜 블룸버그통신 계정이 펜타곤이 폭파된 사진을 AI로 만들어 악의적으로 유포한 것. 사실 주식 관련 시장이 위험할 수 있다는 예상은 트럼프 연행 사진 조작 등으로 계속 언급되오던 문제였지만, 이처럼 직접적인 영향을 준 것은 이번이 처음이다.
결국 주식시장이 출렁였고, 인도의 민영 방송사(?) 리퍼블릭 TV도 낚였으며 해당 사진이 가짜인 것이 드러났음에도 관련 주식이 곤두박질 치고 있다.
13.9. 테일러 스위프트 딥페이크 사건
해당 기사 테일러 스위프트 딥페이크 영상에 '부글부글'…팬들의 반격2024년 1월 26일 유명 팝 가수 테일러 스위프트의 불법 딥페이크 포르노 영상이 X(구 트위터) 등 온라인에 퍼진 상황이다.
딥페이크 제작은 마이크로소프트제 생성형AI를 우회해서 만들어졌다고 한다.
[1] 손 관련 보완 및 방지 태그 도배, 손을 전담하는 학습 파일 제작 및 사용, 손 보조 확장 기능 설치, 자체적인 모델 제작 시 손 형태 신경쓰기 등이 있다. 일부 모델은 아예 손을 포기하고 비주얼에 치중한 경우도 있는데 이 경우 손의 상태는 실로 굉장하다.[2] 물론 손발은 사람이 그리기도 쉽지 않은지라 이것만으로 판단하다 오해가 발생하는 경우도 잦으니 주의가 필요하다.[3] 캐릭터성을 강조한다던가, 짐승같은 분의기를 내려고 했다던가 ….[4] 이런 문제가 발생하는 이유는 학습테이터에 워터마크가 있는 그림들이 있기 때문이다. 도용을 막기 위해 워터마크를 붙였더니 그대로 긁어 학습시키는 (…) 인간 때문에 생긴 문제. # 그와중에 워터마크의 흔적이 있는 AI 그림을 판매하려는 사람도 있었다.
[5] 반투명한 천과 몸의 레이어를 나누는 것은, 작가가 직접 제공하지 않는 한 극악의 난이도다.[6] 약 300dpi 이상.[7] 이 저격을 먹고 계정을 잠궜다가 다시 풀었다.[8] 다만 이는 반대 측이 매우 적극적으로 나서고, 찬성 측이 여러 논란 때문에 눈치를 보느라 소극적으로 나서는 점이 크다. 실제로 반대 측이 절대다수인지, 시끄러운 소수인지는 알려지지 않았다.[9] 사실 인공지능으로 제대로 된 이미지를 뽑는데도 어느정도 노력이 필요하며, 상업적 가치가 있게 만들려면 전문가나 관련 예술가의 도움도 필요하다. 그러나 이미 기업이나 일러스트레이터들이 언론에서 인공지능을 통해 인력난 해소나 작업량 감소 등 인공지능의 편의성에 대해서만 강조하고 다니고, 딱히 그림 인공지능을 사용할 이유가 없는 일반적인 소비층에서도 그림 인공지능은 소위 편하게 꿀 빨려는 것이라는 인상이 박혀 버린지라 저런 반발심이 생겨날 수밖에 없다.[10] 자세히 보면 메뉴판의 글씨가 괴문자로 되어있는데, 이런 패턴의 괴문자는 StyleGAN 시절부터 인공지능이 문자를 '그림'으로 인식하면서 벌어지는 대표적인 현상이다.Stable Diffusion 시대에 와서 아라비아 숫자 및 로마자의 경우 뜻은 없지만 그럴싸하게 보이게 할 정도가 되었지만, 같은 아라비아 숫자/로마자라도 필기체같은거나, 한글, 가나(문자), 한자, 이들을 포함한 非로마자의 경우 아직까지도 '그림'처럼 인식해서 괴문자나 외계어처럼 보여진다.[11] 팬 분들에게 받은 영상으로 만든 것과 AI 쓴 버전 2가지가 있었다.[12] 삭제 시점 기준 삽화 19장+표지 (1, 2, 3, 4, 7, 9, 11, 15, 17, 20, 22, 28, 31, 37, 43, 49, 52, 58, 63, 70화)[13] 1-2 기사에서는 AI 사용한 사례로 나온 B로 언급되며, 이별해주세요, 제발!의 초기 표지 캡쳐가 기사에 들어갔다. (해당 기사에서 언급된 작가 해명 캡쳐)[14] 현재는 Lora 라는 학습 모듈이 이 자리를 대신하는중이다.[15] 일부는 애니띵 같은 모델들을 활용해서 그림체를 학습을 시킨다. 훗날 더 성능좋은 모델들이 출시되면 그 모델들을 이용해서 학습시킬 가능성이 높다.[16] 다만 소스코드 유출 이후 개개인이 구성하는 데이터셋이나 비공개된 데이터셋은 대상이 되기 힘들다.[17] 당장 한국의 문체부에서부터 '공정 이용에 한해' AI 저작물 면책이라는 점을 명시했고 문의 시 같은 답변을 해준다.[18] 김형태 본인도 AI 긍정론자인 탓에 이에 대해서는 그러려니 하고 넘어갈 가능성이 높다.[19] 이해를 돕기 위해 어느정도의 요약이 들어가있으나 쉽게 설명하는 바는 다음과 같다. 사람은 사람을 보고 각골 문자를 남겼으며, 소를 보고 '알레프' 문자를 형상화했다. 이 형상화한 문자는 현재 알파벳 A의 기원이다. 그러나 현재 AI는 사람에게는 이런 형상화 작업이 매우 간단한 일임에도 수 많은 작업이 필요하다. 알레프의 변형인 A를 인식해 출력하기 위해서는 별도의 군집화 알고리즘들이 필요한데, A의 세리프체와 같은 다양한 바리에이션 폰트들이나 필체를 사람은 별다른 경험 없이도 바로 A라고 알아챌 수 있으나, AI는 매 폰트별, 매 상황별 마다 달라보이는 수많은 'A'라는 각각의 알맞는 알고리즘을 통한 계산을 필요로 하며 그래야 DB에 특정 평균값을 A라고 분류할 수 있다. 그 조차도 이웃되는 포인트, 선이 끊겨있다던가 하는 크고작은 왜곡 등에 일일이 대응하는 데이터와 알고리즘을 만들어주지 않으면 인간이 원하는 결과를 내놓기가 몹시 어렵다. 넘어지는 포즈라던지, 한 때 밈이었던 라면을 먹는 포즈 등이 대표적이다. 이는 작동 방식에 있어 '인간의 논리'가 구현되지 않았기 때문이며 논리적인 구조(해부학, 조명 각도, 투시원근 등)에 대한 활용도 크게 제한된다. 현 AI는 그러한 논리를 일일히 알고리즘으로 만들어 외형적으로만 모사하는 것이지 내면에서 작용하는 직관까지 포함하는 수준에는 미치지 못한다. 이런 논리를 스스로 판단하고 만드려면 강인공지능 시대는 되어야 가능하나 현재로서는 직관은 커녕 지성이 대체 무엇인지 명확히 연구되지 않았기 때문에 개념조차 모호한 기술이다. 그러나 이런 논리는 인간에겐 특정 분야의 일정한 교육이 진행되면 추가적인 데이터 학습 없이도 다양한 상황에서 구현이 가능하며, 더 나아가 새로운 연산이나 논리를 만들어낸다. 이를 근거로 현존 AI는 인간과 학습 방식이 같다고 볼 수 없다는 의견 또한 존재한다.[20] AI와 AGI의 차이이다.[21] 본문 글 및 댓글 욕설 주의.[22] 해당 그림은 수위가 높기 때문에 상단 링크로 확인.[23] Arcaea의 First Snow 일러를 담당했다.[24] 픽시브 내의 AI 태그를 직접 사용하는 것이 아니라 자기가 따로 AI 태그를 넣을 경우, 필터링 기능을 직접적으로 우회하며, 태그를 신경쓰지 않는 인원들에게는 마치 자기가 그린 그림처럼 보이게 된다.[25] 미드저니의 사용법 예시를 들기 위해 주기적으로 랜덤한 이미지를 생성하는 봇이다.[26] 금융법에서의 변제 책임 면책과 유사하다. AI 산업을 위해서 저작물 이용 책임을 면해주는 것 뿐이다. 이는 AI 산업이 일정 수준 발전을 이뤄낸다면, 언제라도 바뀔 수 있는 시한부적인 사항이라는 의미이다.[27] 이해를 돕자면 한 때 유행한 디즈니 필터와 같은 것이라 생각하면 된다.[28] '공정 이용'을 한다는 전제 하에 AI의 산업적 발전을 위한 저작권 면책이 한국, 일본, 영국 등 대다수 국가가 채택한 형식이다. 책임을 물어야하나 기타 이유로 보류/면책을 한다는 의미이고, 발전이 어느정도 이뤄지면 해당 면책이 사라질 수도 있다. 이 발전이 이뤄지는 기간에서 회색 지대에 남아있는 것이다.[29] 웹이나 기타 유포 등을 하지 않았을 뿐이지 불특정 다수에게 자유롭게 학습까지 이용가능한 AI 프로그램을 이용해 문제가 될 수 있는 이미지들을 생성하는 경우는 이미 이뤄지고 있다.[30] 아래 '챗GPT에 관한 전문가의 의견'의 영상 속 전문가 등을 비롯 챗GPT를 개발한 CEO가 직접 언급한 AI 프로그램 규제 필요성과 많은 전문가들이 지적하듯 AI 프로그램은 정보를 프로그램 제작사 측에서 미리 선별할 수 있다는 점에서 정보의 신뢰성 오류와 여론 조작, 더군다나 불특정 다수가 손쉽게 이미지 생성 AI를 이용할 수 있다는 점에서 등장할 수 있는 모든 결과물들이 일으킬 여파 등을 심각하게 받아들여야한다고 지적한다. 이는 단순 소비재와는 거리가 멀다.[31] 블루 아카이브의 사례에서도 알 수 있다시피 성우의 동의를 받지 않고 인게임 내의 음성을 무단으로 사용하는 건 불법이다. 성우가 녹음한 음성 데이터도 엄연히 저작권의 일부분이기 때문. 다만 해당 영상은 빌리빌리에 업로드 되어있는 영상을 무단전재한 것이며 해당 트위터리안의 영상이 아니다.[32] 실제로 AI 사용자들이 무작위로 그림을 뽑다가 우마무스메 프리티 더비의 캐릭터들이 나오는 현상이 종종 있었다. 이외에도 블루 아카이브나 프린세스 커넥트와 같은 유명 IP의 캐릭터 역시 AI그림에서 가끔 비슷하게 뽑히던 현상이 있었다.[33] 한국어로 치면 딸깍충 정도가 될 것이다. 욕 수위가 심하지 않은 일본에서는 충분히 강한 어감.[34] 학습을 시킨건 아니고 AI의 기능을 이용해 일종의 트레이싱을 한 그림을 샘플 이미지로 올렸다.[35] 한 때 트위터 프로모션 광고로 노출되기도 한 걸 보면 논란이 일자 뒤늦게 삭제한 것으로 보인다.[36] 특히 유저와의 소통을 거치지 않고 도입하여 대량 이탈자와 계정 삭제를 불러일으켜 폐쇄되기 일보직전이 되었다. 자세한 것은 DeviantArt 문서 참조.[37] 서양권에서는 아예 이런 비판적인 의견을 보이는 사람들을 러다이트(Luddites 혹은 Luddies)라고 싸잡아 비하하는 상황이다.[38] 자켓 일러스트 담당은 악역 공녀의 아빠가 되겠습니다(표지 사진, 2022년 4월 작)를 담당했던 규.[39] 裏方작가 사칭계정 해당계정의 주인은 작년 2023년 커미션 중계 플랫폼 skeb의 AI검출 프로그램 고의적으로 우회법을 공유하다가 업무방해혐의로 고소당한 이력이 있다.[40] X(구 트위터)에서 역으로 DMCA(디지털밀레니엄저작권법) 위반 메시지까지 까지받게 되었다. #[41] 트위터의 도용작을 보면, 손가락이 두 갈래로 갈라지는 등 AI가 그린 그림이라는 느낌이 강하다.[42] 이 예시를 포함한 거의 대부분의 그림이 I2I 사용의혹을 받는다.[43] AI그림계에서는 꽤 이름값을 하는 유저. 후술한 이유로 인해 많은 이들의 지지도 받는 유저였다.[44] 아예 배경으로 처리해버리는 경우도 잦다.[45] 구글에서도 2015년 비슷한 문제가 발생한 적이 있다. 구글 포토의 이미지 인식 알고리즘이 흑인들을 고릴라로 분류한 것. 2018년 Wired에서도 기사로 다루었다. # (<구글 엔지니어는 이렇게 일한다> 에서 참조)[46] 같은 해 10월 Pixiv가 AI 분류를 만들고 랭킹에도 분야를 신설해 집계를 달리하는 방식으로 개편하면서, 일부러 태그를 속여 업로드하는 악질 이용자들로 인해 100%는 아니지만 어느정도 사용자들의 이용 편의를 이뤄준 바 있다.[47] 원문: ArtStation is a portfolio platform. The works on your portfolio should be work that you created. Please only publish work that either you own or that you have permission to publish.[48] 금지사항에 SSH 터널 이외 remote UI, 즉 원격 UI를 추가했다.[49] 이 때문에 단순히 'stable-diffusion-webui'란 문자열을 출력하는 코드도 "부적절한 코드"라고 표시된다.[50] 단순히 실존 인물 사진은 초상권만 있는 것이 아닌, 그 사진 자체의 저작권이 있다.[51] 특히 각 커뮤니티에 떠돌아다니는 소위 "반실사 AI" 그림들은 대개 누군가의 초상권 및 저작권을 가진 그림과 사진들로 학습되는 것이다.[52] 단순히 중국의 AI 컨텐츠 검열에 따른 위반인지 사기의혹인지는 불명.[53] 아는 사이는 아니라고 한다.