인공지능은 점점 인간과 닮아가고 있다. 만약 인간이 기계에 대한 감정을 가지고 있다면요?
"인간이 인공지능과 감정을 가질 것인지의 여부는 이 과정이 인류에게 쾌감을 가져다 주는지 여부에 달려 있다. 인터넷 발전 초기의 속담처럼, 인터넷에서는 네가 개라는 것을 아무도 모른다. 이는 인간이 교류자의 신분을 모를 때 상대방이 자신에게 쾌감을 줄 수 있다면 감정이 생길 수 있다는 것을 보여준다. " 조씨는 이것이 인류의 교류 패턴에 영향을 미칠 수 있다고 생각한다. 예를 들어, 미래의 지식 기반 인공지능은 많은 사람들이 생각할 수 있는 질문에 대답할 수 있으며, 이로 인해 개인 학습 방식, 생활 방식, 심지어 사교 패턴의 변화까지 초래할 수 있습니다.
사람과 인공지능에 부부, 부녀 같은 감정이 있다면 현대 윤리규범을 물어본다. "사회의 주류 의견들이 이런 관계를 윤리적이라고 생각한다면, 사람들은 그들과 비슷한 윤리규범으로 부부, 부녀 관계를 조정하는 경향이 있을 것이다. 하지만 사람들이 항상 인공지능과의 관계를 사람이 주도하는' 게임 관계' 라고 생각한다면 그에 상응하는 윤리 기준은 말할 수 없다. " 자오 는 말했다.
전문가들은 인공지능의 기술 사양과 법적 제약을 보완할 것을 건의한다.
인공지능의 충격에 직면하여 전문가들은 미국 공상 과학 작가 아시모프가 1950 년대에 제기한 로봇 3 법칙이 오늘날에도 여전히 참고할 만한 의미가 있다고 보고 있다. 이 세 가지 법칙은 로봇이 사람을 다치게 해서는 안 되고, 수수방관하고, 사람이 다치는 것을 지켜서는 안 된다는 것이다. 로봇은 인간의 모든 명령에 복종해야 하지만 제 1 법칙을 위반해서는 안 된다. 로봇은 자신의 안전을 보호해야 하지만 제 1, 제 2 법칙을 위반해서는 안 된다.
결국 사람은 지능 행동의 총스위치다. "오피는 인간이 인공지능이 가져올 수 있는 위협에 대비해 미리 대비할 수 있다고 생각한다.
"개발자들은 항상 인공지능의 사회적 책임을 기술 진보의 충동에 두어야 한다. 생물 복제 기술과 마찬가지로 복제 기술이 제기된 날부터 복제된 사회와 윤리 문제는 항상 복제의 기술적 문제보다 우선한다. " 조씨는 인간이 인공지능을 발전시키는 과정에서 인공지능을 통제하는 경험과 기술, 특히 인공지능이 통제력을 잃지 않도록 점진적으로 축적해야 한다고 생각한다.
기술적으로 인공지능의 통제를 강화하는 것은 완전히 가능하다. "인공지능이 나날이 발전하고 있지만, 여전히 스마트 프로그램이 대량의 데이터를 처리하는 결과이다. 프로그래밍 시 개발자는 프로그램을 통해 보안을 설정할 수 있습니다. 예를 들어, 인간으로 인식되면 자동으로 거리를 유지해야합니다. 너는 공격적인 동작을 할 수 없고, 기계적 폭에 얽매여 있다. " 손철남 중국과학원 자동화연구소 연구원은 인간의 법적 규범과 도덕적 요구도 코드로 기계에 쓸 수 있다고 밝혔다. 이들은 모두 디지털 언어화돼 인간의 행동 규범에 부합한다.