AI가 도입되고 나서 이 두 가지 관점 중에서 무엇이 우위를 차지했을까요? 당연히 AI 도입을 주도하고 AI를 적용하는 인사팀의 관점, 즉 수치화된 데이터와 고정된 기준을 바탕으로 한 공정함이 채택되고, 일선 관리자들이 중시하는 맥락적 공정성은 노이즈나 오류로 취급하고 말았습니다.
연구진은 AI와 인사팀의 관계를 '공생(Symbiosis)'라는 생물학 개념으로 설명합니다. 여기에서 공생이란. 인사팀이 AI의 과학적이고 객관적인 이미지를 빌려와서 자신들의 권위를 강화하는 데 사용하고, AI는 인사팀의 강력한 지지를 받으면서 조직 내에서 대체 불가능한 시스템으로서 위상을 확고히 했다는 뜻입니다.
일선 관리자들이 "이 지원자가 우리 팀의 업무 방식과 딱 맞아요."라고 주장해도 인사팀은 "AI는 그렇게 보지 않습니다. 감에 따른 결정을 하지 마세요."라고 일축함으로써 AI와 인사팀의 공생 관계는 공고해졌죠. 그래서 이 회사의 일선 관리자가 "이 지원자를 뽑아야 합니다."라고 외쳐도 AI에게 받아들여지는 경우는 62%에 불과했다고 합니다.
AI의 의사결정은 공정합니다. 하지만 AI는 누군가의 정의는 채택하고 다른 누군가의 정의는 배제하기에 공정하지 않기도 합니다. 그러니 우리가 "AI는 인간보다 공정한가?"라고 묻는 질문은 의미가 없죠. 대신, "이 AI는 누구의 공정함을 대변하는가?"라고 물어야 옳은 질문입니다. 그리고 "그 대변된 공정함이 과연 옳은가?"라고 또 물어야 하겠죠.
AI가 특정 집단의 가치관을 관철시키고 강요하는 '정치 도구'로 사용될 수 있다는 점을 경계하기 바랍니다.
