04-18-2023
캘리포니아주는 고용 결정에 AI (인공지능) 사용시 위법사용에 대한 규정을 강화시키고 업데이트했다는 소식입니다. 위법사용 규정을 강화 시킨다는건 AI 인공지능이 이미 고용 결정에 인공 지능이 고용 결정을 하나나요?
인공지능과 노동법에 대한 뉴스입니다. 캘리포니아는 고용과 관련된 결정을 포함하여 인사관련 결정을 내릴 때 급성장하고 있는 인공 지능 사용을 규제하기 위한 조치를 계속 취하고 있습니다. 주로 최저임금과 식사시간, 또는 성희롱 관련 이슈들이 캘리포니아 노동법이었다면 이제는 첨단을 달리는 인공지능까지 노동법에 상당히 깊숙이 들어와 있는게 현실입니다.
일단, 논리적인 첫번째 질문은 인공지능이 고용과 인사관련 무슨 부분에 사용이 되고 있는지가 되겠습니다.
사실 많은 기업들은 비용 절감, 효율성 향상, 성과 향상, 고용 업무 관련 결정의 편견을 최소화하기 위해 점점 더 인공 지능 에 의존하고 있습니다. 결과는 유망했지만 공정성과 객관성에 대한 우려는 여전히 존제하고 있습니다.
대규모 고용주는 이미 고용 의사 결정에 인공 지능을 사용하고 있습니다. 인적 자원 관리 협회의 2022년 2월 설문 조사에 따르면 고용주의 79%가 A.I를 사용하는 것으로 나타났습니다. 대부분 채용을 자동화시키는 부분에 주로 사용되었다라는 통계입니다.
A.I.를 활용하려는 고용주의 움직임은 고용 의사 결정에서 무의식적 편견, 차별을 줄이기 위한 노력이라고도 볼 수 있구요. 지난 몇 년 동안 기업은 다양성, 형평성 등등 을 점점 더 우선시했습니다. 기억나시겠지만, 조지 플로이드의 살해와 전국적인 시위, 폭동, 이후 기업들은 인종 정의를 위한 노력을 늘리기 위해 상당한 노력을 해온게 사실입니다.
AI장점은 이력서 및 인터뷰 대상자 익명화하고, 사람보다 확실하게 구조화된 인터뷰 수행할 수 있고, 인공지능과 신경과학 기술을 통해서 지원자의 성향, 특성, 기술등을 식별을 하는 역할을 할 수 있다는 점입니다.
일부 회사는 지원자의 화상 인터뷰를 수행하고 A.I를 사용합니다. 얼굴 표정, 눈맞춤 및 단어 선택을 포함하여 발견된 요소를 분석합니다. 결론적으로 사람, 인간이 갖고있는 무의식적인 편견이나 고용주의 고정 관념에 근거한 다른 대우, 다시 말해서 차별적인 대우가 AI 사용으로 제거될 수 있다는 뜻이 되겠습니다.
방금, 사람들의 편견, 그리고 AI 에 중립성 등을 언급 하셨는데요, 그러한 주장을 지원하는 리서치나 케이스들이 있나요?
편견의 예를 들자면 경찰서장 후보를 평가할 때가 되겠습니다. 가장 이상적인 경찰서장 후보는 당연히 “스트리트 스마트”, ”세상 물정을 잘 아는” 사람이어아 한다고 생각할 수 있습니다. 그렇다면, street smart 한 것이 가장 중요한 채용기준이기 때문에 인간 평가자가는 대학 학위가 있는 여성보다 대학 학위가 없는 남성을 선택하는 것을 정당화한다는 연구 결과가 있구요. 이는 남자가 더 세상물정을 잘안다라는 무의식적인 편견 때문입니다.
그러나 반대로, (이제는 남자가 학위가 있고 여자가 없는 경우)사람들은 학위가 더 중요한 기준이라고 주장하면서 대학 학위가 없는 여성보다 대학 학위가 있는 남성을 선택했습니다. 선택 기준이 세상 물정을 잘아는 사람에서, 이제는 학위로 바뀐 것입니다. 결국은 남자 경찰서장을 선호하는 편견이라고 볼수 있겠습니다.
여기서 사실 중요한 점은 AI는 기계라서 사람의 개인적인 편견이나 고정관념이 없어서 좋고 나쁘다가 아닙니다. 인간, 사람 고용주는 보통 설정된 기준이 없는 결정을 내린다는게 핵심이 되겟습니다.
기준이 미리 설정되어 있었다면 무의식적인 편견을 피할수 있다라는 결론입니다. A.I. 의 매력이 인간과 달리 A.I. 어떠한 결정을 합리화하기 위해 미리 선택된 기준에서 벗어나지 않는 다는 것입니다.
AI 기능은 여기서 멈추지 않습니다. A.I.는 지원자의 이름, 이전 경력, 교육 및 취미를 포함하여 이력서의 다양한 특성을 고려할 수 있으며 지원자가 직장에서 업무를 잘 수행할 수 있는지 여부를 예측하고 고려하도록 훈련될 수 있습니다.
지금까지의 결과는 감탄할만 합니다. 인간이 아니라 A.I.에 의해 선택된 후보자가 면접을 통과하고 채용 제안을 받을 가능성이 14% 더 높고 연장되었을 때 채용 제안을 수락할 가능성이 18% 더 높다는 것을 발견했습니다. A.I. 가 직원 선별과 채용을 더 잘하고 미래의 인사부 담당이 되지 않을까하는 추측입니다.
A.I. 위법사용은 어떤 경우가 될까요?
2018년 아마존은 케이스를 보게되면, A.I. 회사가 A.I. 에게 기준 설정을 잘못하게 됩니다. AI 에게 제공된 교육 데이터의 대부분의 이력서는 남성 것이었습니다. 이유는 기술 분야의 남성 비율이 매우 높기 때문이었습니다. 이런 data 를 받은 인공지능은 당연히 남성이 선호되는 후보자라고 스스로 가르쳤습니다. 또한 AI 는 “여자” 대학에 다니거나 “여자” 운동 팀에서 뛰었던 사람들의 이력서에 점수를 확실히 낮게 매겼습니다. AI의 편견입니다. 하지만, 문제는 A.I가 아니고 회사의 데이터 입력에 있습니다. 쉽게 말해 잘못된 기준을 세워준 것입니다.
AI 도구에 잘못된 data 를 실수로 또는 의도적으로 제공하면서 Amazon과 같은 차별 채용을 초래하거나 평등 고용에 부정적인 영향을 줄때 위법이고 노동법의 저촉을 받게 된다는 뜻이 되겠습니다.
이번에 강화되는 법은 구체적으로 AI 사용을 어떻게 통제하게 되나요?
캘리포니아 의원들은 고용에서 AI를 규제하기 위해 고안된 두 가지 법안을 도입했습니다.
- 인공 지능 및 자동화된 의사 결정 도구(ADT)와 관련된 규정을 추가하는 의회 법안 AB 331.
- California Interagency AI Working Group을 만드는 상원 법안 SB 721호.
이 두가지 법 은 모두 고용 상황시 인공 지능의 잠재적인 부정적인 결과를 최소화한다는 공통 목표를 가지고 있습니다. 여기서 부정적인 결과란 “법에 보호받는 지원자 또는 직원을 위헌적인 기준으로 제한하고, 걸러내고, 순위를 매기고, 우선 순위를 지정하는 겉으로만 중립적인 사용”이 포함됩니다.
AB 331은 고용주에게 AI의 영향을 평가하고 그 사용에 관한 통지를 제공할 의무를 부과합니다. 고용주가 차별에 기여하는 방식으로 AI를 사용하는 것을 금지합니다. 이 법안은 다음을 포함하는 모든 AI에 대해 개발자가 2025년 1월 1일 또는 그 이전 및 이후 매년 영향 평가를 수행하도록 요구합니다.
ADT의 목적과 의도된 이점, 용도 및 배포 컨텍스트에 대한 설명.
성별, 인종, 피부색, 민족, 종교, 연령, 국적, 제한된 영어 구사 능력, 장애, 병역 여부 또는 유전 정보에 근거한 잠재적인 악영향 분석.
ADT 사용으로 인해 발생하는 합리적으로 예측 가능한 알고리즘 차별 위험을 해결하기 위해구현할 보호 조치에 대한 설명.
AB 331은 회사가 가 결과적 결정을 내리는 데 AI가 사용되고 있음을 결정의 대상인 모든 사람에게 알리도록 요구합니다. 또한 결과적 결정이 전적으로 ADT의 결과에 따라 내려진 경우 지원자는 AI (ADT)의 적용을 받지 않고 대체 채용 절차를 요구할수 있고 고용주는개인의 요청을 수용해야 합니다. 채용결정에 항소를 하되 인간에게 할수 있다는 뜻이 되겠습니다.
상원 법안 SB 721은 인공 지능에 관한 보고서를 입법부에 전달하기 위해 워킹 그룹을 만들고 2030년 1월 1일까지 해산할 것입니다. 실무 그룹은 총 10명으로 구성되며, 여기에는 주지사가 임명하는 2명, 임시 상원 의장이 임명하는 2명, 하원 의장이 임명하는 직원 2명, 법무장관이 임명하는 2명, 캘리포니아 프라이버시 보호가 임명하는 1명, 기관, 기술부에서 지명한 1명이 포함됩니다.
실무 그룹은 학계, 소비자 옹호 단체, 인공 지능 정책의 영향을 받는 중소기업의 의견을 수용해야 합니다.
앞으로 노동법과 AI 의 많은 판례가 이 SB 771 그룹이 주도하지 않을까 하는 추축입니다.
역사적으로 모든 기술은 적응 단계를 거칩니다. 이 단계에서 우리는 기술을 알게 되고, 그 유용성을 인식하고, 의도하지 않았지만 피할 수 없는 해로운 영향을 방지하는 방법을 만듭니다. 결국 A.I 사용에 대한 단일 크기 접근 방식이 있을 가능성은 낮습니다. 효과적이고 책임감있게. 우리는 가면서 배우며 많은 인간 작업을 기계에 맡길 것입니다. 의문의 여지 없이 우리의 채용 결정은 A.I. 인간의 지능으로.