[팩트UP=이세라 기자] ＃ 대기업 사무직 채용에 지원했던 이성신(29⸱가명)씨는 휴대전화 알림에 긴장했다. 조심스럽게 문자를 확인한 그는 황당함을 감출 수가 없었다. ‘탈락입니다’라는 알림 한 줄이 전부였기 때문이다.
학점과 자격증, 인턴 경력까지 다른 지원자들과 크게 다르지 않았다고 생각한 이씨는 서류 전형에서 자동 탈락 통보를 받았다는 사실을 인정하기 싫었다. 이유를 알 수 없었던 그는 기업 채용 담당자에게 문의 메일을 보냈다. 하지만 돌아온 답은 ‘AI 전형 결과에 대해서는 개별 사유를 안내하지 않습니다’는 문장 하나였다.
◆ “이유를 아무도 설명하지 않았다”
＃ 자영업자 김강성(43⸱가명)씨는 AI 대출 심사에서 거절 통보를 받았다. 소득도 있고 연체도 없었는데 이유를 물으니 ‘점수가 낮다’는 말만 들었다. 김씨는 담당자에게 이유를 재차 물으니 돌아 온 대답은 ‘시스템 결과라 설명이 어렵다, 이의신청은 가능하지만 결과는 같다’는 것이었다며 분통을 터뜨렸다.
＃ 얼마 전 박민석(51⸱가명)씨는 보험금을 신청했다가 지급이 거절됐다. AI 위험 평가 결과를 이유로 들은 그는 “알고리즘 기준은 공개할 수 없고 사람이 판단한 게 아니라서 재심은 의미 없다고 하더라”며 허탈해 했다.
<팩트UP> 취재 결과 이들이 탈락한 전형에는 AI 서류 평가 시스템이 적용돼 있었다. 지원자의 이력서와 자기소개서, 제출서류 등을 분석해 ‘적합·부적합’을 자동 분류하는 방식이다.
하지만 문제는 따로 있었다. 어떤 것이 감점됐는지, 어떤 기준이 적용됐는지, 다시 신청(지원)하면 달라질 수 있는지 등 그 어떤 설명도 제공되지 않았던 것이다.
사실 대부분의 기관은 이 같은 경우 ‘이의신청 절차가 있다’고 말하고 있다. 그러나 실제 구조는 다르다. 다시 한 번 같은 판단을 받는 절차에 가까울 뿐이다.
서울 금천구에서 노무사사무소를 운영하고 있는 한 노무사는 “이의신청→같은 AI 시스템 재검토→판단 기준 비공개 →인간 개입 규정 무(無)의 구조가 나타나는데 이는 절차적 권리만 남긴 구조”라면서 “설명 없는 판단에 대해 실질적인 다툼은 불가능하다”고 전했다.
그는 이어 “민주사회에서 행정·금융·채용 결정에는 이유를 설명할 의무가 따르는데 AI가 개입하는 순간 이 원칙은 흔들린다”며 “판단 근거는 영업비밀, 알고리즘은 공개 불가, 오류 여부는 외부에서 확인 불가 등으로 말하는데 결국 국민은 결과만 통보받는 객체가 된다”고 지적했다.
◆ “감독기관도 한계가 있다”
‘AI 오판’으로 삶이 바뀐 사람들은 금융·노동 영역에서 많이 속출된다. 이들 영역에서 AI 판단 문제가 불거질 때마다 감독기관은 난처한 입장에 놓이기 일쑤다.
익명을 요구한 금가원 관계자는 “AI 내부 로직까지 들여다볼 법적 근거가 충분하지 않다”면서 “현재 입장에선 감독은 존재하지만 검증 권한은 제한적인 셈”이라고 말했다.
그는 이엉 “AI 판단은 효율적이라고 할 수 있는데 빠르고 비용이 적게 들고 사람의 편견을 줄인다”며 “하지만 그 대가로 사람들은 하나의 권리를 잃고 있는데 AI 오판의 진짜 문제는 틀린 판단 그 자체가 아니라 틀렸는지조차 확인할 수 없는 구조”라고 덧붙였다.
