처음에는 AI 얼굴 변경 기술이 영화 제작에 광범위하게 적용되었고, 이후 각 업종에 적용돼 응용이 점차 편리해져 일반인들도 이 기술을 능숙하게 적용할 수 있게 되면서 기술 남용을 초래하고, AI 얼굴 변경 기술 응용의 부정적인 영향이 점차 드러나고 있다. (윌리엄 셰익스피어, Northern Exposure (미국 TV 드라마), 예술명언) 어떤 사람들은 다른 사람의 동의 없이 AI 를 통해 얼굴을 바꾸는 방식으로 피해자의 사진을 음란한 영상과 애니메이션 작품에 적용한다. 중국에서 실제로 AI 얼굴 바꾸기 기술을 일반인에게 들여온 것은' ZAO' 라는 소프트웨어다. ZAO' 는 처음으로 이 기술을 모든 사람을 대상으로 AI 얼굴 바꾸기 기술의 문턱을 최소화해 초급 컴퓨터 기반 사용자만 사진을 업로드하면 능숙하게 응용할 수 있도록 했다. 이용자가 늘면서 이 기술을 이용해 불법 활동을 하는 사람들도 속출하고 있다. AI 는 주요 기술 혁신으로서 영화 산업에 적용한다면 제작 비용을 크게 낮출 수 있다. 하지만 이 기술이 도덕과 윤리의 경계를 넘으면 판도라의 상자를 열어 모든 사람을 위험에 빠뜨릴 수 있다. 이런 기술 남용이 당사자에게 끼친 피해는 사회에 대한 자기공격이다. 법적 차원에서 규제를 강화하는 것은 인간이 AI 기술에 직면할 수 있는 가장 강력한 방어선일 수 있다.

AI 가 얼굴을 바꾸는 과정은 인공지능이 영상에서 이목구비의 모양과 위치를 미리 분석하는 것이다. 사진을 제공한 후 인공지능은 사진 속 이목구비의 모양과 위치를 분석한다. 그런 다음 사진 속 이목구비의 모양과 위치를 동영상과 결합한다. 얼굴 교환은 일반적으로 비디오 합성, 프라이버시 서비스 제공, 인물 교체 또는 기타 혁신적인 어플리케이션에 사용됩니다.

법적 근거: 민법 제 1 194 조. 인터넷 사용자와 인터넷 서비스 공급자가 인터넷을 이용하여 타인의 민사권익을 침해하는 것은 침해 책임을 져야 한다. 법에 달리 규정되어 있는 것은 그 규정에서 나온다. 법적으로는 인터넷 사용자가 인터넷을 이용해 타인의 합법적 권리를 침해하면 민사 책임을 추궁해야 한다고 직접 규정하고 있다. 따라서 네트워크 사용자가 AI 얼굴 변경 소프트웨어를 사용하여 침해를 구현하는 다양한 방법에 따라 네트워크 사용자가 실제로 직접적인 책임, 자신의 책임 및 개인의 책임을 지고 있음을 알 수 있습니다.

제 119 조 인터넷 사용자가 인터넷 서비스를 이용하여 침해 행위를 실시하는 경우, 권리자는 인터넷 서비스 제공자에게 삭제, 차폐, 링크 끊기 등 필요한 조치를 취할 것을 통지할 권리가 있다. 제 119 조 인터넷 서비스 제공자는 인터넷 사용자가 자신의 인터넷 서비스를 이용하여 타인의 민사권익을 침해하고 필요한 조치를 취하지 않은 경우 인터넷 사용자와 연대 책임을 져야 한다는 것을 알고 있거나 알아야 한다. 이는 네트워크 서비스 공급자가' 통지-삭제' 의 의무가 있으며 특정 조건 하에서 연대 책임을 진다는 것을 보여준다.