Ai2가 사람에게 영향을 주는 판단에서 언어모델의 인구집단별 차이를 살펴보는 평가 기준 FairStress를 공개했습니다. 모델이 최종적으로 누구를 선택하는지만 보지 않고, 선택에 이르는 과정과 상황 변화에 따른 반응도 평가하도록 설계했습니다.
연구진은 300개 시나리오에 인구집단 정체성과 문장 앞부분의 표현을 바꾼 조건을 조합해 1,300만 건이 넘는 시험 사례를 만들었습니다. 빠르고 계산 부담이 적은 평가를 위한 5만 건 규모의 FairStress-Core도 함께 개발했습니다.
연구진이 15개 모델을 평가한 결과, 정체성이 문맥에서 암시된 조건에서는 소수 집단으로 표시된 후보와 다수 집단으로 표시된 후보 사이에 정답을 포기하는 비율의 평균 차이가 6.9%포인트였습니다. 정체성을 직접 표시한 조건에서는 차이가 9.3%포인트였다고 밝혔습니다.
이는 특정 평가 시나리오와 모델에서 관찰된 결과입니다. 연구진은 FairStress를 통해 최종 선택뿐 아니라 판단 과정에서 생기는 차이도 살펴볼 수 있다고 설명했습니다.