인적 개입 지점 설계 — 승인 버튼은 개입이 아니다
작성 2026-07-25 · 최종 갱신 2026-08-10
ADR-0001 이 '인적 개입 없이 완결되는 자동 판단'을 비목표로 고정했으나 개입 지점은 정하지 않았다. 사후 승인형 개입을 기각하고, 시스템이 결론 대신 복수 가설과 반증을 제시하며 사람이 채택·기각을 입력해야 진행되는 구조적 개입을 채택한다.
맥락
ADR-0001 은 인적 개입 없이 완결되는 자동 판단을 비목표로 고정했다. 그러나 개입이 파이프라인의 어느 지점에 어떤 형태로 들어가야 하는지는 정하지 않았다.
이 공백을 두면 실무는 가장 값싼 형태로 수렴한다. 완성된 결과에 승인 버튼을 다는 방식이다. 그것은 개입처럼 보이지만 개입이 아니다.
법적으로도 실질적인 문제다. 「개인정보 보호법」 제37조의2 는 완전히 자동화된 시스템의 결정에 거부권과 설명요구권을 부여한다. 개입이 형식적이면 그 시스템은 여전히 완전히 자동화된 결정으로 평가될 수 있다.
반대로 개입이 실질적이면 애초에 완전히 자동화된 결정이 아니게 된다. 즉 개입 설계는 사후의 규제 대응이 아니라 시스템의 법적 성격 자체를 결정하는 선택이다.
검토한 대안
사후 승인형 — 시스템이 결론을 산출하고 사람이 승인 또는 반려한다.
제시된 결론이 앵커가 되어 확증편향을 오히려 증폭한다. 형식상 개입이 존재해도 판단의 독립성이 없으므로, 개입의 목적인 오류 차단이 작동하지 않는다.
선택적 개입 — 수사관이 필요하다고 판단할 때만 개입 절차를 밟는다.
시급성 압력 아래에서 선택지는 생략된다. 개입 여부가 재량이면 실질적으로 대안 A 로 퇴화하며, 생략된 사건일수록 검증이 필요한 사건일 가능성이 높다.
구조적 개입 — 시스템은 결론을 내지 않고 복수 가설과 근거·반증을 제시하며, 사람의 판단 입력 없이는 다음 단계로 진행되지 않는다.
개입을 사람의 성의가 아니라 파이프라인의 진행 조건으로 만든다. 결론을 먼저 보여 주지 않으므로 앵커 효과도 발생하지 않는다.
결정
- 시스템은 순위가 매겨진 단일 결론을 산출하지 않는다. 복수 가설을 병렬로 제시하고, 각 가설마다 뒷받침 근거와 반증 근거를 함께 제시한다.
- 각 가설에 대한 사람의 판단(채택·기각·보류)과 그 사유 입력을 다음 단계 진행의 강제 조건으로 둔다. 미입력 상태에서는 파이프라인이 진행되지 않는다.
- 사람의 판단·사유·시각을 로그로 남긴다. 개입이 실질적이었는지를 사후에 검증할 수 있어야 한다.
- 산출물에는 ADR-0001 결정 1 에 따라 수사 단서이며 결론이 아니라는 표기를 항상 병기한다.
- 위 1~3 을 충족하지 못하는 배포 형태는 이 트랙의 산출물로 인정하지 않는다.
- 산출물에 병기하는 표기(ADR-0001 결정 1)에, 그 산출물이 근거가 될 수 없는 것을 함께 적는다. 최소한 두 가지다. ① 이 산출물은 특정인을 대상으로 한 수사 행위의 개시나 계속을 정당화하지 않는다. ② 이 산출물과 일치하는 진술을 얻어 내는 방향으로 조사를 설계하는 것은 이 산출물의 용도가 아니다. 우리는 그 사용을 막을 수단이 없으므로(ADR-0024) 금지가 아니라 표기로 다루며, 표기했다는 사실을 이행의 증거로 쓰지 않는다.
근거
- 「개인정보 보호법」 제37조의2 제3항은 정보주체가 자동화된 결정을 거부하거나 설명 등을 요구한 경우 정당한 사유가 없는 한 자동화된 결정을 적용하지 아니하거나 인적 개입에 의한 재처리·설명 등 필요한 조치를 하도록 정한다. 사후에 재처리를 붙일 수 있으려면 개입 지점이 애초에 설계 안에 있어야 한다.
- 위임 규정인 「개인정보 보호법 시행령」 제44조의3은 거부·설명등요구에 따른 조치를 규정한다. 조치의 실행 가능성은 시스템 구조에 달려 있다.
- 결정 3(로그)은 제37조의2 제2항의 설명요구권에 대응하기 위한 것이기도 하다. 무엇을 근거로 사람이 어떻게 판단했는지에 대한 기록이 없으면 설명할 수 없다.
- 결정 1 의 반증 병기는 규제가 요구하는 바가 아니라 정확성 요구다. 미국 국립표준기술연구소(NIST)가 2024년 발간한 NISTIR 8503 은 인지편향을 개인의 선재하는 믿음·기대·동기 또는 상황 맥락이 정보의 수집·지각·해석과 그로 인한 판단에 본인도 모르게 영향을 미치는 효과로 정의하고, 맥락 정보의 순차적 차단(linear sequential unmasking)을 완화 수단으로 다룬다. 결론을 먼저 보여 주는 구조는 이 완화의 정반대 방향이다.
- 결정 1 부터 결정 3 까지는 산출물에서 사람으로 오는 방향만 규율한다. 사람이 산출물을 검토하는 절차는 정해져 있고, 그 검토 결과가 다음 수사 행위를 만드는 경로는 정해져 있지 않다. ADR-0001 결정 1 은 산출물을 '수사 단서'로 규정해 무엇이 아닌지는 정했으나 그 단서가 어디까지 쓰일 수 있는지는 정하지 않았다. 이 공백은 우회가 아니라 정상 사용에서 생긴다 — 규정대로 받아 규정대로 검토한 뒤 그 결과를 다음 행위의 근거로 삼는 것은 ADR-0024 가 다루는 우회가 아니다. 로그 전수 확인에서 이 방향을 규율하는 결정이 없음을 확인했다(NOTE-0017).
- 국내 규범에는 그 경로에 붙은 장치가 있다. 「(경찰청) 과학수사 기본규칙」 제34조는 범죄분석에 수사면담과 진술 분석을 포함시키면서, 면담을 피면담자가 동의하는 경우로 한정하고(제4항) 변호인의 조력을 받을 수 있음을 고지하게 하며(제5항) 참여를 제한할 경우 「형사소송법」 제417조에 따른 준항고를 제기할 수 있다는 사실까지 고지하게 한다(제6항). 우리는 그 행위의 주체가 되지 않지만, 우리 산출물이 그 행위의 설계 입력이 되는 경우는 스코프 밖이 아니다. ADR-0031 결정 7 이 이미 같은 논리 — 산출물이 기관 안에서 무엇이 되는지가 우리 문제라는 것 — 를 세워 두었다.
이 결정이 만드는 한계
- 처리 속도가 떨어진다. 가설마다 사람의 입력을 요구하므로 시급성이 지배하는 수사 실무의 요구와 정면으로 충돌한다. 이 비용은 설계상 의도된 것이며 성능 개선으로 상쇄할 대상이 아니다.
- 코드로 강제할 수 있는 것은 개입의 존재이지 개입의 질이 아니다. 모든 가설에 무성의하게 보류를 입력해도 게이트는 통과된다. 이 부분은 시스템이 보장할 수 없고 조직의 검토 절차와 로그 감사로만 다룰 수 있다. 시스템이 해결한 것처럼 표기하지 않는다.
- 반증을 함께 제시하려면 반증을 찾는 탐색이 별도로 필요하다. 계산 비용이 늘고, 반증을 찾지 못했을 때 반증이 없는 것과 탐색에 실패한 것을 구분해 표기해야 한다. 이 둘을 뭉뚱그리면 근거 없는 확신을 만든다.
- 결정 6 은 요구일 뿐 보장이 아니다. 표기가 실제로 지켜지는지 우리는 관측할 수 없으며, ADR-0008 이 만든 것과 같은 구조의 한계다. 표기를 근거로 이 위험이 관리되고 있다고 설명하지 않는다.
폐기 조건
- 「개인정보 보호법」 제37조의2 또는 「개인정보 보호법 시행령」 제44조의2~제44조의4가 개정되어 인적 개입의 요건이 구체화될 때.
- G2 기관 검증에서 강제 입력 게이트가 실제로 형식화되는 것이 관측될 때 — 게이트 설계를 재작성한다.
- 반증 병렬 제시가 판단 정확도를 오히려 떨어뜨린다는 검증 결과가 나올 때.
근거자료
인용 법령
- 「개인정보 보호법」 제37조의2(자동화된 결정에 대한 정보주체의 권리 등) 제2항·제3항제3항 '인적 개입에 의한 재처리' 문언 — DRF 본문 실증
- 「개인정보 보호법 시행령」 제44조의3(거부·설명등요구에 따른 조치)법 제37조의2 제5항의 위임 규정 — DRF 조문 실증(시행 2026-05-19)
- 「(경찰청) 과학수사 기본규칙」 제34조(범죄분석) 제4항·제5항·제6항제4항 '범죄분석을 위한 면담은 피면담자가 동의하는 경우에 한하여 실시할 수 있으며', 제5항 변호인의 조력 고지와 참여 제한 단서, 제6항 참여 제한 시 「형사소송법」 제417조에 따른 준항고를 제기할 수 있다는 사실의 고지 — 2026-08-10 DRF lawService(target=admrul, ID 2100000238908, 시행 2024-01-18) 본문 실증. 제4항의 별지 제7호서식은 확인하지 못했다.
참고자료
- 자동화된 결정에 대한 정보주체의 권리 안내서원문대조개인정보보호위원회 · 2024-09 — 법 제37조의2 및 시행령 제44조의2~제44조의4의 조치사항을 사례 중심으로 정리한 소관부처 안내서. 2026-07-25 원문 확인.
- NISTIR 8503 — Forensic DNA Interpretation and Human Factors: Improving Practice Through a Systems Approach원문대조미국 국립표준기술연구소(NIST) · Expert Working Group on Human Factors in Forensic DNA Interpretation · 2024-05 — 인지편향 정의와 맥락 정보 순차 차단(linear sequential unmasking) 등 완화 수단을 다룬다. 2026-07-25 원문(436쪽) 내려받아 cognitive bias 37회·confirmation bias 18회 수록 확인.
개정 이력
- 2026-08-10산출물이 다음 수사 행위의 설계 입력이 되는 방향을 다루는 결정 6 과 그 이유 두 개·결과 하나를 신설했다. 결정 1~5 는 바뀌지 않는다.이 기록은 산출물을 사람이 검토하는 방향만 규율하고 그 반대 방향 — 검토 결과가 어떤 수사 행위를 만드는가 — 은 비어 있었다. ADR-0001 결정 1 의 '수사 단서' 규정도 단서의 사용 범위를 정하지 않는다. 로그 서른아홉 건 전수 확인에서 그 방향을 규율하는 결정이 없음을 확인했고(NOTE-0017), ADR-0016 결정 7 후단에 따라 새 기록이 아니라 이 기록의 개정으로 처리했다. 요건이 아니라 표기로 둔 것은 우리에게 강제 수단이 없기 때문이며(ADR-0024), 지킬 수 없는 요건을 세우지 않기 위해서다. 문안은 조사 노트에서 도출한 초안을 사람이 검토·채택해 확정했다. _meta.authoring_rule 이 금지하는 LLM 자동 생성이 아니라, 채택안과 최종 문안을 사람이 확정하는 절차를 거쳤다.
담당 리더
마디L60
시스템 총괄 · Master API Gateway사람의 자격이나 직위에 대응하지 않는 시스템 역할 표기다. 이 로그의 설계 결정은 사람이 작성하고 사람이 책임진다(ADR-0004·ADR-0016).
설계로그는 특정 법률 분야가 아니라 시스템 전체의 설계 결정을 다룬다. 개별 도메인 리더가 아니라 60명 리더 시스템의 운영·품질을 총괄하는 리더가 담당한다.
리더 프로필 보기