AI trong quá trình tuyển dụng và phải làm gì khi xảy ra thiên vị

Gần đây, trí tuệ nhân tạo (AI) dường như có mặt ở khắp mọi nơi và làm mọi thứ. Đó là viết email, đưa ra lời khuyên về mối quan hệ, sáng tác nhạc, sáng tạo nghệ thuật—và nó cũng rất có khả năng quyết định liệu bạn có nhận được công việc mà mình đã ứng tuyển hay không.

Theo Ben Winters, cố vấn cấp cao tại Trung tâm Thông tin Quyền riêng tư Điện tử phi lợi nhuận (EPIC) và là người đứng đầu Dự án Nhân quyền và Trí tuệ nhân tạo của EPIC, phần lớn các công ty trong danh sách Fortune 500 đang sử dụng AI để tuyển dụng theo một cách nào đó. Anh ấy tập trung vào cách AI có thể ảnh hưởng không tương xứng đến các cộng đồng bị thiệt thòi trong giáo dục, tuyển dụng, y tế và các lĩnh vực khác. Winters nói: “Nó thực sự xuyên suốt toàn bộ quy trình tuyển dụng.”

Bạn có thể đã bắt gặp AI trong quá trình tìm kiếm việc làm của mình mà không hề hay biết. Nếu bạn đã từng gửi sơ yếu lý lịch của mình cho một trang đăng tuyển trực tuyến, rất có thể nó đã được đưa vào hệ thống theo dõi ứng viên (ATS) hoặc phần mềm tự động quét các từ khóa có liên quan đến vai trò.

Nhưng AI cũng có thể xuất hiện trong các phần khác của quy trình tuyển dụng—và nó có thể vừa mang lại lợi ích vừa gây bất lợi cho người tìm việc, tùy thuộc vào cách nó được sử dụng. Dưới đây, chúng tôi sẽ phân tích nơi bạn có thể gặp phải AI, những thành kiến có thể xuất hiện từ nó và bạn có thể làm gì với tư cách là người quản lý tuyển dụng hoặc ứng viên để đảm bảo rằng mỗi ứng dụng đều được đánh giá công bằng.

AI trong Quy trình Tuyển dụng

Aaron Sines, giám đốc tài năng, AI và máy học, tại công ty tuyển dụng Razoroo, cho biết AI chủ yếu được các nhóm tuyển dụng sử dụng để hợp lý hóa và nâng cao quy trình tuyển dụng.

Điều này có thể biểu hiện theo một số cách:

• Trong quảng cáo việc làm: Các thuật toán và máy học có thể giúp các công ty xác định nơi họ nên quảng cáo các tin tuyển dụng nhất định và cho ai. Về phía người tìm việc, nó có thể phân phát cho bạn những quảng cáo phù hợp với hồ sơ trực tuyến hoặc lịch sử tìm kiếm của bạn. (Hãy suy nghĩ: các công việc được đề xuất trên LinkedIn hoặc Indeed.)
• Trong các nỗ lực tuyển dụng: Các công ty, thường với sự trợ giúp của các nhà cung cấp bên thứ ba, có thể sử dụng AI để tìm nguồn ứng viên trước khi họ bắt gặp tin tuyển dụng—ví dụ: bằng cách lập chỉ mục mạng xã hội. Sines cho biết nếu bạn đã từng đăng sơ yếu lý lịch của mình lên một trang tuyển dụng lớn, bạn có thể đã mở thông tin của mình cho các phần mềm khác sử dụng và liên lạc với bạn. Generative AI—do ChatGPT phổ biến—cũng có thể được các nhà tuyển dụng tận dụng để viết các thông điệp tiếp cận được cá nhân hóa một cách nhanh chóng.
• Trong mô tả công việc: AI sáng tạo có thể giúp các công ty tạo ra các tin tuyển dụng với nỗ lực tối thiểu. LinkedIn gần đây đã cung cấp tính năng này cho các tổ chức sử dụng nền tảng của nó.
• Sau khi bạn nộp đơn: AI có thể hỗ trợ sàng lọc sơ yếu lý lịch hoặc quét thư xin việc để tìm từ khóa nhằm thu gọn đống hồ sơ của người quản lý tuyển dụng. Sines nói: “Nó sẽ xếp hạng các ứng viên dựa trên trình độ bạn có trong phần mô tả hoặc bất cứ điều gì bạn đặt trong tiêu chí bộ lọc của mình khi bạn sắp xếp các ứng viên. Anh ấy nói thêm, một số phần mềm có thể tiến thêm một bước và sử dụng các phân tích dự đoán để quyết định tiềm năng của ứng viên trong một vai trò hoặc nhóm dựa trên các tiêu chí nhất định.”
• Trong cuộc phỏng vấn: Winters lưu ý rằng một số công ty có thể sử dụng AI để tiến hành phân tích giọng nói hoặc khuôn mặt, hoặc thậm chí là các trò chơi gợi ý, để đánh giá kỹ năng mềm hoặc mức độ tương tác của ứng viên.
• Đối với trải nghiệm của ứng viên: Generative AI  đang ngày càng được sử dụng nhiều hơn để cải thiện khả năng giao tiếp giữa ứng viên và nhà tuyển dụng trong suốt quá trình. Ví dụ, Sines cho biết, các ứng viên có thể đặt câu hỏi về vai trò hoặc công ty thông qua chatbot hoặc nhận thông báo qua email hoặc SMS tự động dựa trên giai đoạn họ tham gia.
• Sau khi bạn được tuyển dụng: Ngay cả khi bạn nhận được công việc, AI vẫn có thể là một yếu tố: “Có rất nhiều hệ thống tự động đang thực hiện chấm điểm năng suất, đề xuất thăng chức, những thứ tương tự như vậy,” Winters nói.

Lợi ích của việc sử dụng AI trong tuyển dụng

Với AI trong tầm tay, các công ty có khả năng giảm thời gian và chi phí liên quan đến việc thu hút và kiểm tra ứng viên. “Hãy nghĩ xem đã lãng phí bao nhiêu thời gian tuyển dụng - vì thiếu một quy trình tốt hơn - cho những ứng viên không phù hợp với hồ sơ hoặc những ứng viên không đáp ứng một số yêu cầu cơ bản cho một vai trò nhất định,” Sines nói. “Đó là nơi mà chúng tôi đang chứng kiến lợi ích to lớn của việc sử dụng AI trong tuyển dụng.”

AI cũng có thể loại bỏ một số công việc cho những người tìm việc đang tìm cách đứng trước một số công ty nhất định. “Nó cho phép các ứng viên ở vị trí này, nơi cơ hội có thể đến với họ một cách tự nhiên hơn,” Sines nói. AI sáng tạo và chatbot cũng vậy, có thể mang lại sự minh bạch hơn trong quá trình tìm kiếm việc làm bằng cách cung cấp cho ứng viên các bản cập nhật kịp thời và phản hồi phù hợp.

Cuối cùng, AI rất phù hợp với khả năng mở rộng. Sines nói: “Đối với bất kỳ công ty nào đang tìm cách phát triển và gặp thách thức trong việc đảm nhận các vai trò quan trọng, thì đó gần như là thứ bạn phải sử dụng ngay bây giờ.”

Nhược điểm của việc sử dụng AI trong tuyển dụng

Thực tế là mặc dù AI có thể nhanh hơn con người, nhưng nó kém tin cậy hơn và cứng nhắc hơn. Sines nói: “Các nhà tuyển dụng nhân sự có thể thiết lập mối quan hệ với các ứng viên. Một người cũng có nhiều khả năng tiếp thu những kỹ năng mềm không thể đo đếm được—nhưng cũng quan trọng không kém—hơn là một người máy.”

Sines cho biết thêm rằng AI có thể gặp khó khăn với các sắc thái của một số chức danh công việc hoặc từ khóa. Ví dụ: nếu kiểm tra các nhà phát triển phần mềm, AI có thể bỏ qua các sơ yếu lý lịch bao gồm “kỹ sư/engineer” hoặc “người viết mã/coder” hoặc các từ viết tắt như HW/SW (phần cứng/phần mềm), nếu nó không được đào tạo để quét các thuật ngữ đó.

Ngoài yếu tố con người, cả Sines và Winters đều nhấn mạnh ba mối quan tâm chính của họ về việc AI được sử dụng trong tuyển dụng: quyền riêng tư dữ liệu, thiếu các quy định về pháp lý và sự thiên vị với ứng viên.

Quyền riêng tư dữ liệu

Do có rất ít sự minh bạch về cách thức hoạt động của nhiều thuật toán và phần mềm AI, Sines cho biết điều này có thể gây ra các vấn đề xung quanh quyền riêng tư dữ liệu. Nói cách khác, người tìm việc có thể không có quyền kiểm soát, hoặc thậm chí không nhận thức được thông tin đang được sử dụng về họ.

“Khi chúng tôi nói về việc cẩn thận với những gì bạn chia sẻ, điều đó chưa bao giờ thực tế hơn bây giờ với mọi thứ bạn đăng đều được lập chỉ mục — và được lập chỉ mục theo địa điểm, chúng tôi không phải lúc nào cũng biết.” Sines nói.

“Quy định chắc chắn sẽ rất quan trọng và cần ưu tiên tính minh bạch trên hết. Hiện tại, không có yêu cầu nào đối với nhiều công cụ này tiết lộ cho người dùng cách họ sử dụng dữ liệu.” ông nói thêm.

Thiếu quy định về pháp lý

AI — và AI trong tuyển dụng — hiện tại chưa được kiểm soát chặt chẽ, điều này tạo cơ hội cho rất nhiều vấn đề đối với các công ty cũng như người lao động, chẳng hạn như phân biệt đối xử. Nếu không có quy định, các công ty AI cũng có thể tận dụng việc giữ cho người lao động và công ty chìm trong bóng tối.

Sines nói: “Rất nhiều lần đó là một yếu tố độc quyền nào đó khiến những nền tảng này trở nên hấp dẫn — bạn không biết nó hoạt động như thế nào. Cảm giác như có ma thuật vậy.”

Nhưng tất cả đang bắt đầu thay đổi: Ví dụ, một luật mới ở Thành phố New York yêu cầu các công ty sử dụng các công cụ quyết định tuyển dụng tự động (AEDT) trong các quyết định tuyển dụng phải tiến hành kiểm toán hàng năm để đảm bảo hệ thống của họ không có sai lệch. Họ cũng phải đăng kết quả đánh giá của mình cho công chúng xem, thông báo cho người nộp đơn khi họ sẽ được đánh giá bởi AEDT và bao gồm các hướng dẫn để yêu cầu điều chỉnh hợp lý, nếu người nộp đơn cần. Một luật tương tự được thông qua ở Illinois vào năm 2019 yêu cầu các công ty phải thông báo cho người nộp đơn về bất kỳ sự tham gia nào của AI trong các cuộc phỏng vấn qua video và nhận được sự đồng ý của người nộp đơn.

Thiên vị và phân biệt đối xử

Vấn đề nổi bật nhất xung quanh phần mềm tuyển dụng AI là khả năng nghiêng về một số yếu tố nhân khẩu học nhất định và 'tránh xa' những người khác.

Sines cho biết có hai cách tiếp cận mà AI có thể sử dụng để tìm nguồn ứng viên cho một vai trò cụ thể: cách tiếp cận dựa trên kỹ năng, trong đó ứng viên được đánh giá dựa trên mức độ phù hợp của các kỹ năng của họ với công việc và cách tiếp cận dựa trên sự phù hợp, trong đó ứng viên được đánh giá dựa trên mức độ phù hợp của họ. Họ so sánh với nhân viên trong quá khứ hoặc hiện tại. Cách tiếp cận dựa trên sự phù hợp chính là nơi có thể xuất hiện rất nhiều thành kiến.

Ông nói: “Nó có thể duy trì xu hướng tuyển dụng lịch sử đó và điều đó có thể tiếp tục kéo dài.”

Ví dụ: có thể phần lớn nhóm công nghệ của bạn bao gồm những người đàn ông da trắng—AI có thể xem xét dữ liệu đó và chọn lọc các ứng viên là đàn ông. (Điều này đã xảy ra với Amazon vài năm trước—công ty cuối cùng đã loại bỏ công cụ tuyển dụng độc quyền của mình sau khi một cuộc kiểm toán cho thấy nó thiên vị và chống lại phụ nữ.)

Hoặc có thể hầu hết những người được tuyển dụng trước đây của bạn đều đến từ các trường Ivy League. Do đó, AI có thể loại trừ các ứng viên đến từ khối các trường từng là trường cho người da đen (HBCUs) hoặc các trường đại học công lập, ngay cả khi hồ sơ của họ phù hợp với vai trò theo mọi cách khác.

Winters cho biết thêm rằng một số phần mềm nhận dạng khuôn mặt có thể thiên vị đối với một số chủng tộc hoặc giới tính nhất định (tổ chức của ông đã đệ đơn khiếu nại liên bang chống lại công ty tuyển dụng AI HireVue vào năm 2019 vì sử dụng công nghệ quét khuôn mặt); phần mềm nhận dạng giọng nói có thể không nhận một số phương ngữ hoặc giọng nhất định; và các trò chơi hoặc đánh giá có thể phân biệt đối xử với những người tìm việc lớn tuổi và những người khuyết tật học tập, chẳng hạn như chứng khó đọc hoặc khiếm thị, như mù màu.

Winters nói: “Cả người sử dụng lao động và người lao động đều có thể bị bỏ lỡ cơ hội do tính cứng nhắc của nó.”