Một nghiên cứu mới đáng chú ý cho thấy các công cụ tuyển dụng bằng trí tuệ nhân tạo (AI) đang có xu hướng thiên vị, ưu tiên các ứng viên nữ hơn nam giới dù họ có trình độ chuyên môn tương đương. Khám phá này đặt ra những câu hỏi quan trọng về tính công bằng của công nghệ đang ngày càng phổ biến trong các phòng nhân sự.
David Rozado, một phó giáo sư và nhà nghiên cứu AI tại Viện Kỹ năng và Công nghệ New Zealand, đã thực hiện một cuộc thử nghiệm sâu rộng. Ông kiểm tra 22 mô hình ngôn ngữ lớn (LLM) phổ biến nhất thế giới, bao gồm cả các ứng dụng quen thuộc như ChatGPT, Gemini và Grok. Phương pháp của ông là sử dụng các cặp hồ sơ xin việc giống hệt nhau, chỉ khác biệt ở tên của ứng viên được phân theo giới tính nam hoặc nữ.
Kết quả thật đáng ngạc nhiên: tất cả 22 mô hình AI đều thích chọn ứng viên nữ hơn.
Trong hơn 30,000 quyết định tuyển dụng được mô phỏng, các ứng viên nữ được chọn trong 56.9% trường hợp. Con số này cho thấy một sự sai lệch đáng kể về mặt thống kê so với tỷ lệ 50-50 trung lập về giới tính. Sự thiên vị này còn trở nên rõ rệt hơn khi hồ sơ có thêm mục ghi rõ giới tính, một thông lệ ở một số quốc gia.
Giáo sư Rozado cảnh báo rằng mặc dù sự khác biệt có vẻ nhỏ, chúng có thể tích tụ theo thời gian và gây bất lợi không công bằng cho các ứng viên nam. “Vấn đề này mang tính hệ thống,” ông lưu ý, và nó không phụ thuộc vào quy mô hay khả năng “suy luận” của mô hình AI. Theo ông, nguồn gốc chính xác của hành vi này vẫn chưa rõ ràng nhưng có thể phản ánh các tương tác phức tạp trong dữ liệu huấn luyện hoặc các quy tắc an toàn được thiết lập sẵn.
Nghiên cứu cũng phát hiện ra các mô hình AI thể hiện sự ưu ái nhẹ đối với các ứng viên có ghi rõ đại từ nhân xưng (ví dụ: she/her hoặc he/him) trong hồ sơ của họ.
Tuy nhiên, ông Rozado cũng thừa nhận một giới hạn quan trọng của nghiên cứu: nó sử dụng các hồ sơ và mô tả công việc tổng hợp thay vì các đơn xin việc từ đời thực, điều này có thể không phản ánh đầy đủ sự phức tạp của hồ sơ thật.
Trong khi các nhà nghiên cứu tranh luận, nhiều nhà tuyển dụng đã áp dụng AI để tinh giản quá trình tuyển dụng. Họ cho rằng công nghệ này hiệu quả và có thể mở rộng quy mô, đặc biệt khi một vị trí có thể thu hút hàng trăm, thậm chí hàng ngàn hồ sơ.
Mặc dù vậy, không phải tất cả các nghiên cứu đều chỉ ra cùng một xu hướng. Một nghiên cứu của Viện Brookings trong năm nay cho thấy, trong một số thử nghiệm, nam giới lại được ưu ái hơn nữ giới. Nghiên cứu này cũng nhấn mạnh sự thiên vị chủng tộc, ưu tiên các tên tuổi của người da trắng hơn người da đen.
Dù có những phát hiện khác nhau, cả ông Rozado và nhóm nghiên cứu của Brookings đều đồng ý rằng các hệ thống AI tuyển dụng chưa sẵn sàng để hoạt động tự chủ trong các quyết định quan trọng.
“Tôi tin rằng các mô hình ngôn ngữ lớn không nên được sử dụng trong các bối cảnh có ảnh hưởng lớn như tuyển dụng, trừ khi kết quả của chúng đã được đánh giá nghiêm ngặt về tính công bằng và độ tin cậy,” Giáo sư Rozado khuyến nghị. Các chuyên gia kêu gọi cần có sự kiểm toán mạnh mẽ, minh bạch và các tiêu chuẩn quy định rõ ràng để giảm thiểu sự phân biệt đối xử ngoài ý muốn.
Nguồn: Newsweek
