使用人工智能進(jìn)行招聘聽起來像是一個萬無一失的計劃。畢竟，人類是有缺陷和偏見的。但事實證明，人工智能也有著偏見。

長期以來，人工智能的批評者一直擔(dān)心這項技術(shù)會減少勞動力中的就業(yè)機(jī)會。

新的研究表明，人工智能以一種意想不到的方式做到了這一點：基于性別、種族和年齡歧視合格的候選人。

人工智能有潛力在招聘中實現(xiàn)公平競爭——但并不是因為它是由人類訓(xùn)練的。現(xiàn)在就讓我們來分析一下。

偏見是從哪里來的？

理論上，人工智能篩查工具是完美的。它不會思考或判斷，所以它可以做出客觀的決定，對吧？不完全是。

隨著人工智能應(yīng)用的增加，報道的偏見事件數(shù)量也在增加。以下是僅2023年的一些：

–6月，彭博社報道稱，對Stable Diffusion生成的5000張圖像的分析強(qiáng)化了“比現(xiàn)實世界中更糟糕”的性別和種族刻板印象

–高薪工作總是以膚色較淺的受試者為代表，而低薪工作則與膚色較深有關(guān)。

–在性別問題上，也觀察到了類似的陳規(guī)定型觀念。收銀員和社會工作者等角色主要由女性代表，而政治家和工程師的形象幾乎完全由男性代表。事實上，數(shù)據(jù)集中的大多數(shù)職業(yè)都是由男性受試者顯示的。

對此，運(yùn)營Stable Diffusion的初創(chuàng)公司StabilityAI的發(fā)言人回應(yīng)彭博社稱，所有人工智能模型都存在基于訓(xùn)練數(shù)據(jù)集的偏差。問題就出在這里。

公司擁有或獲取數(shù)據(jù)集。他們使用這些數(shù)據(jù)集訓(xùn)練人工智能模型。人工智能模型根據(jù)觀察到的模式執(zhí)行任務(wù)。所以，有缺陷的數(shù)據(jù)集=有缺陷的模型。

那么，當(dāng)同樣的人工智能模型被用于招聘時會發(fā)生什么呢？詢問Workday，一家提供人力資源和財務(wù)解決方案的系統(tǒng)軟件公司。

他們目前正面臨由求職者Derek Mobley領(lǐng)導(dǎo)的集體訴訟，他說他們的人工智能篩查工具歧視老年人、黑人和殘疾人申請人。

莫布里是一名40歲的黑人，被診斷患有焦慮和抑郁。他聲稱，自2018年以來，他申請了大約100個職位，盡管符合工作資格，但每次都被拒絕。他代表的是報告中同樣被歧視的人數(shù)不詳?shù)娜恕?/p>

Workday的一位發(fā)言人表示，該公司定期進(jìn)行內(nèi)部審計和法律審查，以確保遵守法規(guī)，該訴訟毫無根據(jù)。

陪審團(tuán)將決定這是否屬實。但這并不是人工智能招聘軟件第一次顯示出偏見。

2017年，亞馬遜取消了自己的人工智能篩選工具，因為它不太可能認(rèn)為女性申請人有資格在男性主導(dǎo)的行業(yè)工作。

今年7月，斯坦福大學(xué)的研究人員發(fā)現(xiàn)，七種人工智能檢測工具經(jīng)常將非英語母語者的寫作錯誤歸類為人工智能生成。

人工智能檢測工具測量文本困惑。簡單地說，句子中的下一個單詞越復(fù)雜，人工智能生成的可能性就越小。

由于詞匯量有限，非英語母語的人可能會使用更簡單的單詞，檢測工具更有可能將這些申請人的作品標(biāo)記為由生成人工智能組成。

在工作場所，根據(jù)非本地求職者使用的詞語，他們被篩選工具認(rèn)為不太合格，因此風(fēng)險可能會高得多。

這些事件都指向了同一個問題：當(dāng)人工智能工具在存在文化、種族和性別差異的現(xiàn)有數(shù)據(jù)上進(jìn)行訓(xùn)練時，它必將反映出公司在招聘上的某些偏見。

政府對人工智能招聘的偏見怎么說？

有一段時間，他們沒怎么說話。

2019年，伊利諾伊州制定了一項法案，要求雇主在視頻面試中通知候選人在使用人工智能分析。

馬里蘭州緊隨其后，在未經(jīng)申請人同意的情況下，禁止在就業(yè)前面試中使用面部識別。

然后，在2021年，平等就業(yè)機(jī)會委員會（EEOC）發(fā)起了一項名為“人工智能和算法公平倡議”的全機(jī)構(gòu)倡議，以監(jiān)測和評估技術(shù)在招聘實踐中的使用情況。

同年，紐約市議會通過了一項法律，要求使用人工智能技術(shù)的雇主向申請人披露信息，并每年進(jìn)行偏見審計。

順便說一句，這項法律的實施始于2023年7月。但并不是所有人都認(rèn)為這是一場勝利。

一些批評這項法律的人說，它不夠具體，留下了漏洞。其他人則指出，它不包括對老年人或殘疾人的歧視。

作為人工智能倡議的一部分，美國司法部和平等就業(yè)機(jī)會委員會還發(fā)布了一份聯(lián)合指南，提醒雇主在使用人工智能工具進(jìn)行就業(yè)決策時存在歧視風(fēng)險。

他們建議不要“盲目依賴人工智能”，這可能會導(dǎo)致侵犯公民權(quán)利。Workday今天就就面臨著這樣的問題。

最近，平等就業(yè)機(jī)會委員會在一次聽證會上聽取了一系列證人的證詞，包括計算機(jī)科學(xué)家、法律專家、雇主代表，討論人工智能在工作場所的潛在好處和危害。

人工智能在招聘方面的下一步是什么？

美國各地的許多公司已經(jīng)將人工智能集成到招聘流程中。在2022年對1688名受訪者進(jìn)行的一項研究中，SHRM發(fā)現(xiàn)79%的公司在招聘和招聘中使用自動化和/或人工智能。

在接下來的幾年里，各組織應(yīng)該對其招聘實踐進(jìn)行更多的監(jiān)督。

紐約的這項新法律應(yīng)該會在全國范圍內(nèi)產(chǎn)生多米諾骨牌效應(yīng)，據(jù)報道，加利福尼亞州、新澤西州、佛蒙特州和紐約州正在制定自己的法律，以規(guī)范人工智能在招聘和招聘中的使用。

像亞馬遜這樣的資源密集型企業(yè)集團(tuán)可以構(gòu)建、培訓(xùn)和測試他們的工具，以獲得更好的結(jié)果。但對于通過第三方供應(yīng)商購買工具的公司來說，偏見和侵犯公民權(quán)利的風(fēng)險還是很高。

對于使用任何人工智能技術(shù)進(jìn)行就業(yè)的公司來說，徹底的審查和審計流程則會顯得至關(guān)重要。

推薦閱讀

人工智能在招聘中:能減少偏見還是讓招聘變得更糟? | 文軍營銷使用人工智能進(jìn)行招聘聽起來像是一個萬無一失的計劃。畢竟,人類是有缺陷和偏見的。但事實證明,人工智能也有著偏見。長期以來,人工智能的批評者一直擔(dān)心這項技術(shù)會減少...