[정연이의 메타패션 다이브 Episode 10]
바로 지금, AI의 윤리적 문제를 생각해야 하는 이유
윤리적인 AI 생태계 조성 필수
지난해 월스트리트 저널에는 생성형 AI의 등장은 인쇄술과 비견되는 인류의 가장 큰 지적 혁명이라는 기사가 실렸다. 헨리 키신저 전 미국 국무장관, 에릭 슈밋 전 구글 CEO, 대니얼 후텐로커 MIT 교수가 공동 기고한 이 사설은 ‘계몽시대를 연 인쇄술이 인류사상을 풍부하게 했고, AI는 그것을 더 정교하게 할 것이다’고 예측했다.
예측은 생각보다 빠르게 실현되고 있다. 생성형 AI의 활용이 대중화되며 일반인들도 쉽게 정보를 가공하고 맥락을 더해 지성을 확장하고 있다. 생성 AI로 업무의 효율을 높여 전문성을 강화하거나 정체성을 특화하고, 다양한 방식으로 콘텐츠를 제작해 감성을 표현한다. 특히 인간의 순수 영역이라 여겼던 창작에서도 AI는 혁신을 가져오고 있으며, 프롬프트만 입력하면 누구든 디자인을 할 수 있다, 행복회로만 돌리자면, 인류는 이제 날개를 얻은 것만 같다!
# 가이드 없는 AI의 사각지대
AI 아티스트 Marco Sinometti가 생성한 ‘Jacqumus X nike’ 이미지. 출처와 진위여부를 판별하기 어려워 학생들이 가져오는 대표적 이미지 사례이다. ©Marco Simonetti
그러나 창의성의 가치를 가르치는 교육자로서, AI가 지닌 사각지대와 윤리적 문제를 생각하지 않을 수 없다. 패션디자인 수업에서는 아이디어 발상을 위해 리서치 단계를 거치는데, 학생들이 종종 AI가 생성한 이미지를 레퍼런스로 사용한다.
이 경우 대개 교수자와 학생 모두 AI 생성 이미지임을 인지하지 못한다. 또한 디자인 스케치 단계에서 학생 본인이 직접 드로잉 하지 않고 AI 생성 이미지를 제출하기도 하는데, 교수자들은 의례히 태블릿 툴로 드로잉한 것으로 생각한다. 교수자만 모른다! 어떤 경우는 좋은 평가를 받은 디자인이 알고 보니 AI생성 이미지일 때도 있다. AI를 사용하면 안된다는 규칙은 없지만, AI를 사용해도 좋다는 안내가 없었기 때문에 나머지 학생들은 불공정하다 여길 수 있다.
AI로 생성한 패션 일러스트 이미지는 핸드 드로잉과 구별이 어렵다. ©Yeonyi Jung
이처럼 AI기술은 패션산업과 교육 현장에 빠르게 침투하고 있으나 대부분의 기관 및 기업은 AI 활용 가이드를 마련하지 못하고 있다. 디자인 분야에서 생성형 AI와 관련된 문제는 다음의 다섯가지를 생각해 볼 수 있다.
■ 편향과 차별: 생성형 AI는 학습 데이터에 존재하는 편향을 반영하여 차별적인 결과를 만들어낼 수 있다. 예를 들어, 특정 인종이나 성별에 대한 편향된 데이터로 학습된 AI는 해당 집단을 불리하게 하는 디자인을 생성하게 된다.
■ 허위 정보 및 딥페이크: 생성형 AI는 매우 사실적인 허위 정보나 딥페이크를 만들 수 있다. 이는 개인의 명예를 훼손하거나 사회적 혼란을 야기하는 위험성이 있다.
■ 저작권 침해: 생성형 AI가 기존 디자인을 유사하게 생성하거나 모방하는 경우 저작권 침해 문제가 발생할 수 있다.
■ 투명성 및 책임 소재 불분명: 생성형 AI가 어떻게 작동하는지 투명하게 공개되지 않아 책임 소재를 파악하기 어려울 수 있다. 또한, 결과물이 문제를 일으켰을 때 책임이 누구에게 있는지 명확하지 않은 경우가 많다.
■ 디자인 인력 경시: 생성형 AI가 일부 디자인 업무를 자동화하면서 전문 디자이너의 인력과 비용이 경시되는 문제가 있다. 전통적인 방식의 일자리가 감소할 수 있다.
# AI 규제법 입법화 가능할까?
독창적인 패션 실루엣을 만들기 위해 수없이 많은 프롬프트 수정을 거쳐 완성한 AI이미지. 학습 정보의 출처와 조합 과정을 알 수 없다. ©Yeonyi Jung
인공지능의 파급효과는 매우 크며, 산업 전반에 걸쳐 비가역적 대전환을 이루고 있다. 그러나 변화의 속도만큼 사회적 합의와 검토는 이루어지지 않아AI 사용에 대한 법안이 마련되지 않았다. EU는 세계 최초로 ‘AI 규제법’을 입법화 해 올해 6월부터 발효될 예정이지만, IT강국을 자랑하던 한국의 법안은 아직 국회 계류 중이다. 검토와 입법, 발효까지 상당기간이 소요될 것으로 예상되며, 이럴 때일수록 사용자 개개인의 폭넓은 윤리적 인식과 이행이 더욱 필요하다.
정연이 교수는 국내외 패션 브랜드에서 실무 경험을 쌓은 뒤 홍익대학교에서 강의를 하고 있으며, 디지털 패션 컨설팅 그룹을 운영하고 있다. associe.nn@gmail.com
[정연이의 메타패션 다이브 Episode 10]
바로 지금, AI의 윤리적 문제를 생각해야 하는 이유
지난해 월스트리트 저널에는 생성형 AI의 등장은 인쇄술과 비견되는 인류의 가장 큰 지적 혁명이라는 기사가 실렸다. 헨리 키신저 전 미국 국무장관, 에릭 슈밋 전 구글 CEO, 대니얼 후텐로커 MIT 교수가 공동 기고한 이 사설은 ‘계몽시대를 연 인쇄술이 인류사상을 풍부하게 했고, AI는 그것을 더 정교하게 할 것이다’고 예측했다.
예측은 생각보다 빠르게 실현되고 있다. 생성형 AI의 활용이 대중화되며 일반인들도 쉽게 정보를 가공하고 맥락을 더해 지성을 확장하고 있다. 생성 AI로 업무의 효율을 높여 전문성을 강화하거나 정체성을 특화하고, 다양한 방식으로 콘텐츠를 제작해 감성을 표현한다. 특히 인간의 순수 영역이라 여겼던 창작에서도 AI는 혁신을 가져오고 있으며, 프롬프트만 입력하면 누구든 디자인을 할 수 있다, 행복회로만 돌리자면, 인류는 이제 날개를 얻은 것만 같다!
# 가이드 없는 AI의 사각지대
AI 아티스트 Marco Sinometti가 생성한 ‘Jacqumus X nike’ 이미지. 출처와 진위여부를 판별하기 어려워 학생들이 가져오는 대표적 이미지 사례이다. ©Marco Simonetti
그러나 창의성의 가치를 가르치는 교육자로서, AI가 지닌 사각지대와 윤리적 문제를 생각하지 않을 수 없다. 패션디자인 수업에서는 아이디어 발상을 위해 리서치 단계를 거치는데, 학생들이 종종 AI가 생성한 이미지를 레퍼런스로 사용한다.
이 경우 대개 교수자와 학생 모두 AI 생성 이미지임을 인지하지 못한다. 또한 디자인 스케치 단계에서 학생 본인이 직접 드로잉 하지 않고 AI 생성 이미지를 제출하기도 하는데, 교수자들은 의례히 태블릿 툴로 드로잉한 것으로 생각한다. 교수자만 모른다! 어떤 경우는 좋은 평가를 받은 디자인이 알고 보니 AI생성 이미지일 때도 있다. AI를 사용하면 안된다는 규칙은 없지만, AI를 사용해도 좋다는 안내가 없었기 때문에 나머지 학생들은 불공정하다 여길 수 있다.
AI로 생성한 패션 일러스트 이미지는 핸드 드로잉과 구별이 어렵다. ©Yeonyi Jung
이처럼 AI기술은 패션산업과 교육 현장에 빠르게 침투하고 있으나 대부분의 기관 및 기업은 AI 활용 가이드를 마련하지 못하고 있다. 디자인 분야에서 생성형 AI와 관련된 문제는 다음의 다섯가지를 생각해 볼 수 있다.
■ 편향과 차별: 생성형 AI는 학습 데이터에 존재하는 편향을 반영하여 차별적인 결과를 만들어낼 수 있다. 예를 들어, 특정 인종이나 성별에 대한 편향된 데이터로 학습된 AI는 해당 집단을 불리하게 하는 디자인을 생성하게 된다.
■ 허위 정보 및 딥페이크: 생성형 AI는 매우 사실적인 허위 정보나 딥페이크를 만들 수 있다. 이는 개인의 명예를 훼손하거나 사회적 혼란을 야기하는 위험성이 있다.
■ 저작권 침해: 생성형 AI가 기존 디자인을 유사하게 생성하거나 모방하는 경우 저작권 침해 문제가 발생할 수 있다.
■ 투명성 및 책임 소재 불분명: 생성형 AI가 어떻게 작동하는지 투명하게 공개되지 않아 책임 소재를 파악하기 어려울 수 있다. 또한, 결과물이 문제를 일으켰을 때 책임이 누구에게 있는지 명확하지 않은 경우가 많다.
■ 디자인 인력 경시: 생성형 AI가 일부 디자인 업무를 자동화하면서 전문 디자이너의 인력과 비용이 경시되는 문제가 있다. 전통적인 방식의 일자리가 감소할 수 있다.
# AI 규제법 입법화 가능할까?
독창적인 패션 실루엣을 만들기 위해 수없이 많은 프롬프트 수정을 거쳐 완성한 AI이미지. 학습 정보의 출처와 조합 과정을 알 수 없다. ©Yeonyi Jung
인공지능의 파급효과는 매우 크며, 산업 전반에 걸쳐 비가역적 대전환을 이루고 있다. 그러나 변화의 속도만큼 사회적 합의와 검토는 이루어지지 않아AI 사용에 대한 법안이 마련되지 않았다. EU는 세계 최초로 ‘AI 규제법’을 입법화 해 올해 6월부터 발효될 예정이지만, IT강국을 자랑하던 한국의 법안은 아직 국회 계류 중이다. 검토와 입법, 발효까지 상당기간이 소요될 것으로 예상되며, 이럴 때일수록 사용자 개개인의 폭넓은 윤리적 인식과 이행이 더욱 필요하다.
정연이 교수는 국내외 패션 브랜드에서 실무 경험을 쌓은 뒤 홍익대학교에서 강의를 하고 있으며, 디지털 패션 컨설팅 그룹을 운영하고 있다. associe.nn@gmail.com