AI는 공정한가? AI면접의 문제점

youtu.be/VeKIUV_afTg

 

AI의 상용화가 진행이 되면서 해석가능성, 설명가능 AI, 윤리 등의 문제가 본격적으로 부각되고 있습니다.

 

AI의 공정성도 그런 면에서 무척 중요한 이슈인데, 성능과 과학에 대한 공부는 해도 AI윤리나 공정성에 대한 연구나 강의는 무척 적은 것 같습니다.

 

AI는 여러 분이 생각하는 것처럼 공정하지 않습니다. 왜냐하면 인간사회 자체가 가지고 있는 데이터가 그리 공정하지 않으며, 정말 많은 과정에서 인간의 편견이 개입하기 때문이죠.

 

AI의 공정성에 대해 공부하고 나시면, 현재의 AI면접이라는 기술에 대한 문제점을 인식하실 수 있게 될 것 입니다.

 

 

 

주요 기업 AI 도입 실태 및 인식 조사 결과, 2024.3

 

SW개발자 채용 변화 전망과 생성형 AI, 2025.04.30

 

SW개발자 채용 변화 전망과 생성형 AI, 2025.04.30

SW개발자 채용 변화 전망과 생성형 AI, 2025.04.30 51) 안정도는 0.5 이하, 내용타당도 0.37 이상, 합의도 0.75 이하

 

SW개발자 채용 변화 전망과 생성형 AI, 2025.04.30

 

 

 

http://dongascience.donga.com/news.php?idx=34297

[프리미엄리포트] AI 면접관이 물었다 "곤란한 상황에서 당신은…"

데이터가 가지고 있는 편견(bias)도 큰 문제다. 작년 미국 표준기술연구소(NIST)가 200개 가까운 얼굴인식 알고리즘들을 테스트해 본 결과, 백인에 비해 흑인 얼굴을 제대로 인식하지 못한다는 결과를 밝혀냈다. 이는 IBM이 발표한 바와 같이 학습된 데이터의 80%가 밝은 피부를 가진 사람들이었기 때문이다. 아마존은 2017년 직원 채용을 할 때 AI 활용을 중단했는데 그 이유는 시스템이 남성 지원자를 선호했기 때문이다.

 

데이터 편견에 의한 AI의 편견은 큰 문제다. 특히 이 문제는 우리나라처럼 급격하게 AI 면접을 늘리는 상황에 큰 경종을 울리고 있다. AI 면접의 확대와 관련한 뉴스를 보고, 세계적인 AI 연구자 중 한 명인 조경현 교수(뉴욕대학)가 ‘내가 가르치는 학생들도 이렇게 하면 안 된다는 것을 안다’고 비판을 했는데, 이는 AI의 공정성 이슈로 볼 수 있다.
AI는 일반적으로 생각하는 것처럼 공정하지 않다. 인간 사회 자체가 가지고 있는 데이터가 그리 공정하지 않으며, 정말 많은 과정에서 인간의 편견이 개입하기 때문이다. 그래서 데이터가 가지고 있는 여러 가지 문제점을 제대로 파악하고 적절한 대처를 하는 게 AI의 도입과 활용에 가장 중요하다는 점을 잊지 말아야 한다.

 

https://firenzedt.com/?p=8005

[정지훈 해제] "굿모닝 AI"…곧 가을이 온다는데 딥러닝은 잘되고 있겠죠? | 피렌체의 식탁

 

https://www.aitimes.kr/news/articleView.html?idxno=30711

국내 상위 500대 기업, 구직자 '챗GPT'로 자기소개서 작성하면 감점이나 불합격! - 인공지능신문

https://www.aitimes.kr/news/articleView.html?idxno=30704

인공지능, 국내 주요기업 38%가 도입, 85.7%는 업무 소요시간 줄인다!... 경총, 주요 기업 AI 도입 실

 

[첨부] 주요 기업 AI 도입 실태 및 인식 조사 결과.pdf

0.48MB

 

https://spri.kr/posts/view/23870?code=research&study_type=&board_type=research&flg=

SW개발자 채용 변화 전망과 생성형 AI - SPRi