로버츠 대법관은 "이 날이 실제로 왔다" 며 "사법 관행의 운영에 큰 압력을 가했다" 고 말했다.
판사는 첨단 AI 기술뿐 아니라 휴대용 스마트 장비, DNA 생명기술 등 과학기술혁명이 전통적인 증거에 기반한 사실 인정에 미치는 영향과 기술혁명의 새로운 환경에서 구시대보다 뒤처진 법률의 적용과 진화도 말했다. 그러나 가장 논란의 여지가 있는 것은 국가기계를 장악하고 있는 사법기관이 사법실천에서 기술에 의존해 자유재량권을 행사할 때 과학기술 진보와 세상을 바꾸는 공정정의 등 사회적 목표 사이의 미묘한 관계를 생각하기 시작한다는 점이다.
이 글에서 Jane Law 는 위스콘신 주 대법원의 법정 사례로 미국 사법기관이 광범위하게 사용한 위험 평가 도구가 직면한 절차 정의 문제를 공유하는 데 도움을 주었다.
요약
처음에는 위험 평가 기술 도구가 집행 유예 및 가석방 부서에만 사용되어 범죄자를 감독하고 처벌하는 가장 좋은 방법을 결정하는 데 도움이 되었습니다. 누범 감소에 대한 국가의 관심과 증거 중심의 사법관행이 발달하면서 이 도구의 사용은 양형의 사법관행으로 확대되었다. 그러나 위험 평가 도구는 주로 재범을 줄이기 위한 것이고, 사법 양형은 억제, (2) 구조, (3) 처벌, (4) 격리와 같은 여러 가지 목적을 가지고 있기 때문에 양형에서 이러한 도구를 사용하는 것이 더 복잡하다.
구체적인 증거 기반 위험 평가 도구를 이용한 양형은 본 사건의 핵심 문제이다. 양형에서 COMPAS 위험 평가 도구를 사용하여 헌법에 규정된 정당한 절차권을 침해했는지 여부 (간법 참고: 정당한 절차권은 영미법계에서 비롯되며, 주로 어떤 권익이 판결의 영향을 받는 당사자가 통보, 의견 진술, 청문회를 받을 권리가 있음을 의미합니다. ), 위스콘신 주 항소 법원이 주 대법원에 제출한 구체적인 문제입니다. COMPAS 도구의 독점적 기밀성으로 피고가 COMPAS 위험 평가의 과학적 효과에 의문을 제기할 수 없기 때문입니다.
피고인 Eric L. Loomis (이하 피고인) 는 1 심 법원이 양형 시 COMPAS 위험 평가에 대한 고려가 그의 정당한 절차권을 침해했다고 주장했다.
위스콘신 주 대법원은 명확한 요구 사항과 예방 조치를 올바르게 사용하고 준수하면 법원이 판결에서 COMPAS 위험 평가에 대한 고려가 피고가 정당한 법적 절차를 누릴 수 있는 헌법적 권리를 침해하지 않았다고 결론 내렸다.
결국 1 심 법원은 다른 독립 요인의 지원을 받아 COMPAS 도구의 위험점수를 고려했고, 기술도구의 사용은 결정적인 역할을 하지 않았기 때문에 위스콘신 주 대법원은 1 심 법원이 피고인에게 6 년 형을 선고하고 자유재량권을 부당하게 행사하지 않았다고 판단했다.
판사가 양형에 알고리즘 도구를 사용한 사례.
이 사건의 사실은 논쟁의 여지가 없다. 검사는 피고가 과속으로 총을 쏘는 운전자라고 생각한다. 공소기관은 5 가지 죄명을 고발했다: (1) 1 급이 제멋대로 안전범죄를 위태롭게하고, (2) 교통경찰이 도주죄를 체포하고, (3) 차주의 동의 없이 자동차 조작죄를 조작하고, (4) 범죄자가 총기소지죄를 숨기고, (5) 짧은 관엽총이나 소총죄를 은닉했다.
피고는 과속 사격에 가담한 것을 부인했다. 그는 재판권을 포기하고 검찰과 검찰의 거래에서 (간법 도움말 주: 미국의 기소거래는 형사사건 통제변호 쌍방이 사법심사의 전제하에 만족스러운 의견을 달성하는 절차다. 일반적으로 검사는 피고인의 죄를 인정하기 위해 혐의를 철회하거나 강등하거나 판사에게 가벼운 판결을 요구하며 양측이 받아들일 수 있는 유죄 합의를 했다고 기소한다. ) 피고는 두 가지 경미한 기소죄, 즉 상술한 두 번째와 세 번째 기소죄를 인정했다.
1 심 법원은 피고인의 답변을 받아들인 뒤 양형 전 수사를 시작한다고 판결했다. 정부 선고 전 조사 보고서 ("선고 보고서") 의 첨부에는 COMPAS 위험 평가의 첨부 파일이 포함되어 있습니다.
COMPAS 는 Northpointe 가 설계한 위험 요구 평가 도구로서 교도소 관리부에서 입감 결정, 수감자 관리 및 처벌 계획을 진행할 때 의사 결정 지원을 제공하는 데 사용할 수 있습니다. COMPAS 위험 평가의 근거가 되는 정보는 피고의 범죄 기록과 피고와의 면담에서 수집한 것이다.
COMPAS 보고서에는 재범의 위험 평가와 고용, 주택, 약물 남용 등의 분야에 대한 프로젝트 수요를 파악하기 위한 별도의 평가가 포함되어 있습니다. COMPAS 보고서의 위험 평가 섹션에서는 세 개의 막대가 각각 재판 전 재범 위험, 일반 재범 위험 및 폭력 재범 위험을 나타내는 막대 그래프로 위험 점수를 생성합니다. 각 열은 피고의 위험 등급이 1 에서 10 범위 내에 있음을 보여줍니다.
위험점수는 비슷한 범죄사를 가진 사람이 석방된 후 재범죄를 저지를 가능성이 낮거나 더 높은 일반적인 가능성을 예측하기 위한 것이다. 그러나 COMPAS 위험 평가는 특정 범죄자가 다시 범죄를 저지를 가능성을 예측할 수 없습니다. 특정 개인 정보와 유사한 데이터 세트의 비교를 기준으로 한 예측입니다.
이 경우 피고의 COMPAS 위험 점수에 따르면 그는 세 가지 막대 차트 모두에서 재범 위험이 높은 것으로 나타났다. 그의 양형 보고서에는 COMPAS 위험 평가 사용 방법에 대한 설명, 평가 결과의 부적절한 사용에 대한 경고, 개입 조치의 혜택을 받을 수 있는 죄수와 규제 기간 동안 처리해야 할 위험 요소를 파악하는 데 사용해야 한다고 설명했다. 양형 보고서는 또한 COMPAS 위험 평가가 양형의 정도와 범죄자가 감금 조치를 취해야 하는지 여부를 결정하는 데 사용되어서는 안 된다고 경고했다.
게다가, 본 사건의 COMPAS 보고서는 피고의 높은 위험과 높은 규제 요구, 즉 폭력 위험, 재범 위험, 재판 전 위험도 높다는 것을 보여준다. 그래서 이것들은 모두 양형의 적정성을 결정하는 요소들이다.
마지막으로 1 심 법원은 COMPAS 위험점수 등 양형요소를 참고해 집행유예요청을 기각했다. "COMPAS 평가를 통해 당신이 지역사회에 고위험을 이루는 개인임을 확인했다" 고 밝혔다. 각종 요인을 따져본 후 1 심 법원은 집행유예 요청을 기각했다. 범죄의 심각성뿐만 아니라 피고의' 과거 역사, 규제 조치의 역사, 사용된 위험평가 도구' 로 피고가 재범죄의 위험이 높다는 것을 보여준다.
이에 따라 법원은 교통경찰로 탈출죄를 체포하고 차주의 동의 없이 자동차를 조종하는 죄로 피고인에게 각각 징역 2 년, 유기징역 4 년, 후속 감외 집행 조치를 선고했다.
그런 다음 피고는 죄를 시인한 후 1 심 법원에 선고 이의를 제기했다. 그는 1 심 법원이 양형할 때 COMPAS 위험평가를 고려하는 것은 헌법에 따른 정당한 절차권을 침해했다고 주장했다.
재판 과정에서 1 심 법원은 정당한 절차 문제를 보여 주었다. 피고가 제공한 전문가 증인은 양형에 COMPAS 위험 평가를 사용하는 문제를 지적했다. 전문가 증인은 COMPAS 위험 평가를 사용하여 투옥 여부를 결정해서는 안 된다고 생각합니다. COMPAS 위험 평가는 이 목적을 위해 설계되지 않았기 때문입니다. 법원은 범죄자의 위험을 과대평가하고 오판을 초래하거나 관련 없는 요인에 따라 양형 결정을 내릴 수 있습니다.
전문가 증인은 판결 법원이 COMPAS 가 어떻게 위험을 평가하는지에 대해 거의 알지 못한다고 지적했다. "법원은 COMPAS 가 피고의 개인 역사를 비교된 기본 인구와 어떻게 비교하는지 모른다. 법원은 비교 인구가 위스콘신 인구, 뉴욕 인구, 캘리포니아 인구라는 사실조차 모르고 있다. 각종 정보 법정이 없다. 우리가 지금 하고 있는 것은 이 점수도를 법관 앞에 직접 올려놓고 처벌할 수 있도록 하는 것이다. 이는 법정을 오도할 수 있다.
1 심 법원은 결국 집행유예 요청을 기각하고, COMPAS 위험평가를 사용하는 것은 법원 자신의 인정을 검증하기 위한 것이며, 양형 과정에서 COMPAS 위험점수를 고려하든 안 하든 법원은 같은 양형 결과를 낼 것이라고 설명했다.
피고는 항소를 제기하고 항소 법원은 사건을 위스콘신 주 대법원에 넘겼다.
사법 포옹 알고리즘의 적법 절차권
사실 양형에 COMPAS 를 사용하는 것은 새로운 방법이 아니다. 위스콘신 항소 법원은 재판법원의 양형에 대한 참고 자료를 지지하고 "COMPAS 는 법정이 양형에 사용할 수 있는 도구일 뿐이다" 고 지적했다. 그러나 본안과 달리 본 안건에는 정당한 절차에 대한 헌법적 권리가 언급되지 않았다.
그러나 법률 분야에서는 도구의 역할이 지나치게 강조되고 남용될까 봐 걱정하는 의문의 목소리가 많다.
이 경우 교도소는 양형 보고서에서 이 도구의 한계를 인정했다. 위험 점수를 사용하여 양형의 정도와 범죄자가 감금 조치를 취해야 하는지 여부를 결정하는 것이 중요하다는 점을 명심해야 한다.
위스콘신 대법원은 본 사건의 정당한 절차권 문제를 분석한 뒤 필요한 경고 요구를 하는 데 동의했다. ) 을 참조하십시오.
피고는 처음에 COMPAS 도구의 독점적 기밀성으로 인해 위험 평가의 과학적 효과에 의문을 제기할 수 없다고 주장했다. 이에 따라 피고는 양형보고서에 COMPAS 위험평가가 첨부되어 피고가 양형보고 종합정보를 얻을 수 있는 기회를 박탈했기 때문에 정확한 정보 양형에 근거한 권리를 확보할 수 없다고 판단했다.
COMPAS 의 개발자인 Northpointe 는 COMPAS 가 자신의 독점 도구로 영업 비밀을 구성한다고 생각합니다. 이에 따라 이 부서는 위험 점수가 어떻게 결정되었는지, 평가 요소의 가중치가 얼마인지 공개하지 않았다. 피고는 COMPAS 가 이 정보를 공개하지 않았기 때문에 1 심 법원이 양형할 때 사용한 모든 정보를 얻지 못했고, 이전 사건에 대한 비유를 근거로 그의 정당한 절차권이 침해당했다고 주장했다.
즉, 피고는 자신이 COMPAS 위험 평가 결과를 반박하거나 해석하는 데 가장 적합하다고 생각했지만 막대 차트에 반영된 점수만 보면 효과적으로 반박하거나 해석할 수 없다는 것이다. 또한 피고는 도구 뒤에 있는 요소들이 어떻게 측정되는지, 위험 점수가 어떻게 결정되는지 알 수 없다면 COMPAS 평가의 정확성을 검증할 수 없다고 판단했습니다.
위스콘신 대법원은 동의하지 않습니다. 법원은 피고가 COMPAS 알고리즘이 어떻게 위험을 계산하는지 보고 의문을 제기할 수는 없지만, 최소한 양형 보고서 첨부에 포함된 위험 점수를 보고 의문을 제기할 수 있다고 지적했다. 이에 따라 본 사건 피고는 법원의 반박, 보충 또는 해석의 근거를 얻을 기회가 없었다.
위스콘신 주 대법원은 위험 점수가 COMPAS 가 정보를 사용하여 위험 점수를 계산하는 방법을 설명하지는 않지만 Northpointe 의 COMPAS 실천 가이드는 위험 점수가 주로 범죄사 등 정적 정보와 범죄 공범, 마약 남용 등 몇 가지 동적 변수에 기반을 두고 있다고 설명했다.
COMPAS 보고서 부록의 피고인 양형 보고서에는 다음과 같은 정적 정보에 대한 2 1 개의 질문이 포함되어 있습니다.
이 사람은 가석방 중에 몇 번이나 구금된 적이 있습니까? 5+
이 사람은 수습기간 동안 몇 번이나 새로운 고발/체포를 했습니까? 사
이 사람은 이전에 몇 번이나 체포된 적이 있습니까? 당신은 성인입니까, 미성년자입니까? 12
이에 따라 위스콘신 주 대법원은 피고의 위험 평가가 이 질문들에 대한 그의 답변과 그의 범죄사에 대한 공개 자료에 근거한 것이라고 판단했다. 이러한 의미에서 피고는 COMPAS 보고서에 나열된 질문과 답이 정확한지 확인할 수 있는 모든 기회를 갖게 되었습니다. 1 심 법원과 피고는 같은 위험 평가 보고서를 볼 수 있다. 피고는 다른 요소나 정보를 변호함으로써 위험점수의 부정확성에 의문을 제기할 기회가 있다.
알고리즘 양형은 믿을 만합니까?
COMPAS 를 사용하는 미국의 일부 주에서는 COMPAS 를 충분히 정확한 위험 평가 도구라고 검증하였습니다. 뉴욕주 형사사법서비스국 (New York State Criminal Justice Service) 에서 실시한 연구에 따르면 COMPAS 가 평가한 누범값의 유효성과 예측 정확도를 조사한 결과 누범값이 실용적이고 효과적이며 예측 정확도가 만족스러운 결과를 얻었다. 뉴욕이나 다른 주와 달리 위스콘신은 위스콘신 인구에 대한 COMPAS 통계 검증 연구를 완료하지 않았습니다.
한편, 피고는 다른 위험 평가 도구의 연구 정확성에 대한 의심을 발견했다. 예를 들어, 그는 캘리포니아 교정 및 재활부의 2007 년 연구를 인용해 COMPAS 가 범죄 원인에 대한 수요와 재범 위험을 평가할 수 있는 것처럼 보이지만 "COMPAS 가 실제로 평가한다는 증거는 거의 없다" 고 결론 내렸습니다.
캘리포니아 연구보고서는 "COMPAS 가 서로 다른 평가자가 일관된 점수를 줄 수 있다는 명확한 증거도 없고, 평가를 목표로 하는 범죄의 원인에 대한 수요를 평가할 수 있다는 명확한 증거도 없고, 캘리포니아 교정 및 재활부 죄수의 재범 위험을 예측하는 것이 중요하다" 고 결론을 내렸다. 결국, 이 연구의 저자는 California 교정 및 재활부에서 개인을 위해 COMPAS 도구를 사용할 것을 제안하지 않았다.
그러나 캘리포니아 교정 개조국은 이후 20 10 캘리포니아 COMPAS 검증 연구의 최종 보고서를 발표했다. 20 10 의 연구결과는 "COMPAS 는 완벽하지는 않지만 믿을 수 있는 도구" 라고 결론 내렸다.
이러한 문제 외에도 일부 사람들은 위험 평가 도구가 소수 민족 범죄자의 비율을 가족 배경, 교육, 인종 등 통제할 수 없는 요인으로 분류할 수 있다고 우려하고 있습니다.
따라서 위스콘신 주 대법원은 위험 평가 도구를 사용하는 관할 구역에서 이러한 도구를 유지 관리하고 지속적인 정확성을 모니터링할 수 있는 자원과 능력이 있어야 한다고 요구하고 있습니다.
위스콘신 주 대법원은 법원이 양형할 때 사용하는 정확성에 따라 COMPAS 위험 평가를 사용하기로 결정했으며, 이러한 제한 사항 외에 몇 가지 주의사항을 준수해야 합니다. 구체적으로, COMPAS 위험 평가가 포함된 모든 판결 보고서는 COMPAS 위험 평가의 정확성에 대한 다음과 같은 주의사항을 판결 법원에 알려야 합니다.
COMPAS 의 독점적 기밀성으로 인해 위험 점수 및 평가 요소를 결정하는 방법에 대한 가중치 정보를 공개할 수 없습니다.
위험 평가는 피고와 전국 샘플을 비교하지만 위스콘신 인구에 대한 교차 검증 연구는 아직 완료되지 않았다.
COMPAS 위험 평가 점수에 대한 일부 연구는 소수의 범죄자들이 고재범 위험으로 불균형하게 확인되었는지를 묻는 질문을 제기했다.
인구 구조가 변화함에 따라 정확성을 유지하기 위해 위험 평가 도구를 지속적으로 모니터링하고 조정해야 합니다. 이렇게 하면 양형 법원이 위험 평가의 정확성을 더 잘 판단하고 위험 점수에 적절한 가중치를 부여할 수 있다.
그럼에도 위스콘신 주 대법원은 COMPAS 위험 평가의 역할을 분명히 인정하고 인디애나 주 대법원의 견해를 인용했습니다. 이러한 도구는 법원이 모든 양형 요인을 측정하는 데 도움이 됩니다. 한편, COMPAS 위험 평가는 특정 고위험 개인이 아닌 집단 데이터를 기준으로 고위험 범죄 집단을 판단합니다. 따라서 양형법정은 각 피고인 개체의 모든 양형요소를 고려할 때 이 점을 유의해야 한다. COMPAS 위험평가는 양형의 결정적인 요소를 구성할 수 없다.
알고리즘 = 정의? 방원, 어떻게 생각하세요?
과학기술의 진보는 경제, 정치, 생활방식을 포함한 사회의 모든 세포에 도전하고 있으며, 사법제도라는 사회적 공평과 정의를 지키는 사회 메커니즘도 예외가 아니다. 알고리즘 도구 등 과학 기술 성과가 점차 사법실천에 빠져들고 양형 등 중요한 국가 행위에 영향을 미칠 때, 가까운 장래에 AI 구동 지능 기계 등 기술 도구가 사법기관의 해석과 집행을 보조할 뿐만 아니라 점점 더 중요한 주도적 역할을 할 수 있을지 걱정이 된다.
다른 말로 하자면, 인간은 같은 종류의 운명이나 공정성과 정의와 같은 핵심 가치의 실현을 인류가 발명한 알고리즘과 같은 기술 도구에 맡길 것인가?
미국 대법원의 대법관 로버츠는 매우 개방적으로 들렸고, 점점 더 많은 법원이 기술 진보를 포용하고 있다. 위스콘신 대법원은 본 사건에서 낙관적이고 실용적으로 논평했다.
양형에서 증거 기반 위험 평가 도구를 분석하고 사용할 때는 COMPAS 와 같은 기술 도구의 변화와 진화를 고려해야 합니다. 오늘날 우리가 직면하고 있는 걱정은 미래의 도구가 개선됨에 따라 완화될 수 있다. 형사 사법 시스템은 앞으로 점점 더 많은 연구 자료가 있을 것이며, 각종 더 나은 도구가 개발될 것이라는 것을 인식해야 한다. 데이터의 변화에 따라 사법부가 사용하는 도구도 바뀌어야 한다. 사법부는 연구의 속도를 따라잡고 사법 관행에서 이러한 도구의 사용을 지속적으로 평가해야 한다.
마지막으로, 당신이 좋아하든 그렇지 않든, 사법은 기술 진보의 미래를 포용하고 있습니다. 공정성, 정의, 효율성 등 사회적 가치 목표는 사법포옹 기술 이후 결국 흥성할 것인가, 아니면 총애를 잃을 것인가? 우리는 지켜볼 것이다.
방원, 어떻게 생각하세요?