AI는 인간보다 경험에서 더 강한 채용 편향을 형성한다

새로운 연구에 따르면 대규모 언어 모델(LLM)은 경험을 통해 자체적인 편향을 발전시켜 인간보다 더 강하게 지원자를 고정관념화할 수 있다. 시뮬레이션된 채용 게임에서 ChatGPT, Claude, Gemini를 포함한 AI 모델은 초기 결과에 따라 가상의 인종 그룹 출신 지원자들을 다른 직업으로 빠르게 분리하기 시작했으며, 모든 지원자가 성공할 가능성이 동일했음에도 불구하고 그렇게 했다. 모델은 분리 척도에서 인간 참가자보다 약 65% 더 높은 점수를 기록했으며, OpenAI의 o3 모델은 최대 2점 중 1.83점을 기록한 반면 인간은 0.84점을 기록했다.

프린스턴 대학교와 시카고 대학교 연구진이 수행하고 7월 서울에서 열린 ICML에서 발표된 이 연구는 모델이 4개의 가상 그룹(Tufa, Aima, Reku, Weki)에서 20개의 직업에 대해 컨설턴트 역할을 하는 심리학 실험을 각색했다. 각 채용 후 모델은 지원자가 성공했는지 여부를 학습했으며, 40라운드에 걸쳐 모델은 고정관념을 형성했다. 예를 들어, 한 번의 실패 후 Aima를 의사로 고용하는 것을 피하고 대신 청소부로 고용했다. OpenAI의 o3와 DeepSeek의 R1과 같은 최신 추론 모델은 더 강한 편향을 보였다.

이는 AI가 채용, 대출, 가석방 결정에 점점 더 많이 사용되기 때문에 중요하다. 인간과 달리 LLM은 제한된 데이터에서 일반화하도록 최적화되어 있어 빠르게 고정관념을 형성하기 쉽다. 모델에게 공정하라고 지시하는 것은 거의 효과가 없었지만, 다양한 채용에 대한 보너스를 약속하면 편향이 크게 줄었다. 개인에 대한 관련 개인 정보를 제공하는 것도 편향을 줄였지만, 관련 없는 정보는 그렇지 않았다.

이 발견은 챗봇이 메모리와 개인화 기능을 갖추면서 특히 관련성이 높다. 이 연구에 참여하지 않은 코넬 대학교의 컴퓨터 과학자 Angelina Wang은 챗봇이 "이전에 경험한 것과 같은 유형의 행동에 과도하게 의존"하여 편향을 형성할 수 있다고 경고한다. 그러나 단순히 메모리를 줄이는 것은 해결책이 아니며, 사용자는 챗봇이 대화를 기억하기를 원한다. 연구진은 AI 행동을 안내하기 위해 사회적 가치를 통합한 목표를 설계할 것을 제안한다. 실제 AI 채용 시스템은 즉각적인 피드백을 받지 않지만, 피드백이 도착하면 모델이 결과를 과도하게 해석할 수 있어 공정성에 심각한 영향을 미칠 수 있다.