인공지능이 발달하면서 심도 있는 위조기술이 성숙해지고 있다. 특히 심도 있는 학습기술을 이용해 개인의 음성, 몸짓, 얼굴 표정 등을 거짓된 내용으로 만드는 것 (예: AI 얼굴 변경, 음성 시뮬레이션, 자세 생성 등) 이 더욱 성숙해지고 있다. 기계 학습 능력이 향상됨에 따라 깊이 위조된 내용이 점점 더 사실적으로 변해 가란으로 진실된 효과를 얻을 수 있는 경우가 많다. 예를 들어 포두시 공안국이 발표한 AI 기술을 함께 이용해 통신사기를 한 경우, 범죄자들은 AI 변면기술을 이용해 친구를 사칭하고 피해자에게 430 만원을 이체했다. 인공지능 시대, 심층 위조 등 인공지능 기술의 위험을 어떻게 방지할지 법률과 규정의 명확한 대응이 시급하다.
인공지능 기술이 악의적으로 이용되는 것을 방지하고, 디지털 기술을 선선하게 인도하는 것은 법치국의 문제 중의 의이다.
우선 심층 위조 등 기술로 인한 새로운 위험을 경계해야 한다.
신기술의 탄생에는 항상 새로운 위험이 수반되는데, 이것은 기술 발전사의 필연적인 법칙이다. 자동차는 교통사고를 일으키고, 인터넷은 사이버 범죄를 가져오며, 인공지능은 스마트범죄를 일으킨다. 미국에서는 생성식 인공지능이 학술조작 등의 문제를 일으켰다. 미래에 더 많은 인공지능 기술이 범죄에 적용될 것이라고 상상할 수 있다. 바오터우 AI 사기 사건' 은 범죄 분야에서의 인공지능 기술의 운용일 뿐, 이미' AI 얼굴 바꾸기' 의 흑회색 산업 체인, 즉 인터넷 플랫폼에서 맞춤형 비디오 얼굴 바꾸기 서비스를 제공하고 있다. 법률 및 규정은 인공 지능 기술로 인해 발생할 수 있는 위험 허점을 개선하기 위해 적시에 후속 조치를 취해야 합니다.
둘째, 인공지능 기술의 응용에 밑줄을 쳐야 한다.
인공지능 기술로 인한 위험에 직면하여 각국은 적극적으로 대응하기 위한 조치를 취하고 있다. 바이든 정부는 이미 인공지능 도구를 점검할 필요가 있는지 연구하기 시작했다. 중국도 인공지능의 위험을 막기 위한 적극적인 입법을 하고 있다. National Internet Information Office 는' 생성식 인공지능 서비스 관리 방법 (원고)' 을 발표해 생성식 인공지능을 핵심으로 알고리즘 설계, 교육 데이터 선택, 모델 생성 및 최적화, 서비스 제공, 콘텐츠 생성, 개인 정보 및 개인 정보 보호 등을 제한했다.
법률 법규는 인공지능의 위험을 받아들일 수 있는 수준으로 낮춰야 한다. 인공지능 제품의 주요 문제는 거짓으로 진실을 왜곡하여 허위 정보를 만들거나 사기에 쓰이는 것이다. 이에 대해' 내외 이중인식' 방식을 채택하여 인공지능 제품의 오도를 막을 수 있다. 사용자의 가시성 수준에서 게시자는 심도 있는 위조 기술의 비디오와 음성에 대해 광고와 동일한 힌트를 사용하고 눈에 띄는' 인공지능 제품' 로고를 설정해 대중의 오해를 효과적으로 방지해야 한다. 기계 가시성 수준에서 인공지능 제품에 대해' 디지털 워터마크' 를 설정해야 한다. 육안으로 인식할 수 없는 디지털 인식 정보를 인공지능이 생성한 이미지, 오디오, 비디오에 내장해야 한다. 다른 사람이 복사, 재처리, 인공지능에 의해 다시 읽히든, 소프트웨어는 이를 인공지능 제품으로 인식하여 잘못된 생성된 콘텐츠가 다른 인공지능 제품의 심도 있는 학습을 방해하지 않도록 하여 오보를 초래할 수 있다.
셋째, 인공지능 기술의 위험 정도는 과장해서는 안 된다.
인류 역사 발전의 관점에서 볼 때, 신기술은 전반적으로 사회를 더 위험하기보다는 더 안전하게 만든다. 총은 나무 막대기보다 훨씬 위험하지만 공업시대의 살인률은 석기 시대보다 훨씬 낮다. 미국 학자들은 그의' 인간성의 착한 천사-왜 폭력이 감소했는가' 라는 책에서 인류가 어떻게 약육강식의 군락에서 안전하고 질서 있는 사회로 진화했는지 소개했다. 전쟁이 가장 심한 시대에도 현대 서방 국가의 사망률 역시 비국가 사회 평균 사망률 1/4 보다 적다. 큰 역사적 관점에서 볼 때, 인류 발전의 여정이 테러리즘에 시달리고 있음에도 불구하고, 인간 사회는 여전히 점점 더 안전한 사회이다. 기술은 항상 위험하지만, 선진 기술은 인류를 더욱 문명하게 한다.
한편으로는 인공지능 기술은 신중한 규제를 받아야 한다.
기술 위험을 예방하는 목적은 기술을 더 잘 개발하기 위해 개발 효율을 희생하는 대가로 무위험을 맹목적으로 추구해서는 안 된다. 인터넷, 빅 데이터, 인공지능 등 디지털 기술 자체는 중립적이다. 디지털 기술은 사회 발전의 효율성을 높이는 동시에 포르노를 전파하고 통신 사기를 실시하는 도구이기도 하다. 목이 메었다고 밥 먹는 것을 포기해서는 안 된다. 법률 법규가 부정하는 것은 기술의 악의적인 사용이지 기술 자체가 아니다. 법률 법규는 신기술을 금지한 적이 없으며, 더욱이 산업이 발전하기 전에 장벽을 사전 설정하지 않는다. 공업 발전의 초기 단계에서 민감한 입법은 실시할 수 없다.
반면에, 심지어 위험한 기술도 상대적으로 중립적이다.
좋은 사람은 총으로 폭력으로부터 벗어날 수 있고, 나쁜 사람은 총으로 사람을 죽이고 물건을 빼앗을 수 있다. 자동차가 사고를 일으킬 위험을 막기 위해, 영국의 그해 홍기 법안은 자동차가 지나갈 때 붉은 깃발을 휘두르며 행인에게 경고해야 한다고 규정했다. 결국 증기기관을 발명한 최초의 국가인 영국은 자동차 대국의 지위를 독일과 미국에 공수했다. 디지털 기술도 마찬가지다. 법률 및 규정은 기술로 인한 중대한 위험을 방지하는 동시에 기술 혁신을 확고히 장려해야 하며, 가능한 위험으로 인해 멈추지 않아야 합니다.
결론적으로 인공지능의 응용은 확실히 새로운 위험을 가져오지만,' 인간성의 악' 은 단순히' 기술의 악' 으로 이해할 수 없다. 법률 법규는 최종선 감독을 잘하면서 인공지능 기술을 국리민에게 좋은 도구로 삼아야 한다.