Topline
Aarbechtsrekrutéierungsinstrumenter déi behaapten kënschtlech Intelligenz ze benotzen fir Geschlecht a rassistesch Viraussetzungen ze vermeiden däerfen d'Diversitéit bei der Astellung net verbesseren, a kéinten dës Viruerteeler tatsächlech perpetuéieren, hunn d'Fuerscher mat der University of Cambridge e Sonndeg argumentéiert, d'Programmer ze casten - déi an der Vergaangenheet Kritik gezunn hunn - als Wee fir Technologie ze benotzen fir e schnelle Fix fir e méi déif Problem ze bidden.
Dem Google Vision säin AI-ugedriwwenen Gesiichtserkennungssystem gëtt gewisen.
Getty Biller
Schlëssel Fakten
An engem Pabeier publizéiert vun Philosophie an Technologie, Fuerscher hunn Fuerderunge vu verschiddene Firmen gekuckt, déi AI-ugedriwwen Rekrutéierungsinstrumenter ubidden, vill vun deenen behaapten Biases ze eliminéieren an Diversitéit ze förderen andeems d'Nimm, d'Geschlechter an aner Identifizéierer vu Kandidaten verstoppen, an e puer vun deenen zielen Kandidaten baséiert op Resumé Scans, Online Bewäertungen an Analyse vun de Bewerber hir Ried a Gesiichtsausdréck.
D'Fuerscher - zwee Proffen am Centre for Gender Studies vun der University of Cambridge - hunn argumentéiert datt dës Tools d'Uniformitéit beim Astellen kënne förderen, well se kulturell Biases vum "ideale Kandidat" reproduzéieren, deen historesch wäiss oder europäesch Männercher war.
D'Tools kënnen och d'Diversitéit net verbesseren, well se op vergaange Firmendaten baséieren an doduerch Kandidaten förderen, déi am meeschte ähnlech wéi déi aktuell Mataarbechter sinn.
Et gëtt "kleng Verantwortung fir wéi dës Produkter gebaut oder getest ginn", sot d'Eleanor Drage, eng Studie Co-Autor a Fuerscher mam University of Cambridge Center for Gender Studies, an enger Erklärung, bäigefüügt datt d'Technologie als "geféierlech" dénge kéint. Quelle vu "falsch Informatioun iwwer wéi d'Rekrutéierung 'de-biaséiert' ka ginn a méi gerecht gemaach ginn."
Wichteg Zitat
"Duerch behaapten datt Rassismus, Sexismus an aner Forme vun Diskriminatioun aus dem Astellungsprozess mat kënschtlecher Intelligenz ewechgeholl kënne ginn, reduzéieren dës Firmen Rass a Geschlecht op onbedeitend Datepunkte, anstatt Kraaftsystemer déi formen wéi mir duerch d'Welt bewegen. ", sot den Drage an enger Ausso.
Tangent
Amazon huet am Joer 2018 ugekënnegt et géif ophalen en AI-Rekrutéierungsinstrument benotzt fir d'Resumé vun de Bewerberinnen ze iwwerpréiwen nodeems se fonnt hunn datt de System staark weiblech diskriminéiert. Dëst ass well d'Computermodeller, op déi se vertraut hunn, entwéckelt goufen op Basis vu CVen, déi an de leschten 10 Joer un d'Firma presentéiert goufen, déi meeschtens vu männleche Bewerber koumen.
Schlëssel Hannergrond
Organisatiounen hunn ëmmer méi op AI gedréint fir ze hëllefen d'Aarbechtsrekrutéierungsprozesser ze managen. An engem Ëmfro 2020 vu méi wéi 300 Humanressourcen Leadere zitéiert vun den Autoren vum Sonndeg Pabeier, huet d'Berodungsfirma Gartner fonnt datt 86% vun den Patronen virtuell Technologie an hiren Astellungspraktiken benotzen, en Trend dee beschleunegt ass zënter der Covid-19 Pandemie vill gezwongen huet d'Aarbecht online ze wiesselen. Wärend e puer Firmen argumentéiert hunn datt AI e méi kosten- an Zäiteffizienten Astellungsprozess ka bidden, e puer Experten hunn fonnt d'Systemer hunn eng Tendenz fir ze förderen - anstatt ze eliminéieren - rassistesch a Geschlecht-biaséiert Astellung andeems se existent Viruerteeler aus der realer Welt replizéieren. Verschidde US Gesetzgeber hunn anzeschätzen fir Biases a kënschtlech Intelligenz Systemer unzegoen, well d'Technologie sech séier entwéckelt a wéineg Gesetzer existéieren fir se ze regléieren. D'Wäiss Haus dës Woch verëffentlecht e "Blueprint for an AI Bill of Rights", dee argumentéiert datt Algorithmen, déi beim Hire benotzt goufen, fonnt goufen fir "existéierend onerwënscht Ongläichheeten ze reflektéieren an ze reproduzéieren" oder nei "Bias an Diskriminatioun" anzebezéien. De Blueprint - deen net gesetzlech bindend ass oder eng offiziell Regierungspolitik - fuerdert Firmen op fir sécherzestellen datt AI keng Dateschutz diskriminéiert oder verletzt, a fir d'Benotzer bewosst ze maachen wéini d'Technologie benotzt gëtt.
Wat Dir Kuckt
An enger Lëscht vun Recommandatiounen, d'Auteuren vun Sonndeg Philosophie an Technologie Pabeier proposéiert Firmen déi AI Technologien entwéckelen konzentréieren sech op méi breet, systematesch Ongläichheeten amplaz vun "individualiséierter Instanzen vu Bias." Zum Beispill, si proposéiere Software-Entwéckler d'Kategorien ze ënnersichen, déi benotzt gi fir Kandidaten ze sortéieren, ze veraarbechten an ze kategoriséieren a wéi dës Kategorien Diskriminatioun förderen kënnen andeems se op gewësse Viraussetzungen iwwer Geschlecht a Rass vertrauen. D'Fuerscher streiden och datt HR Professionnelen solle probéieren ze verstoen wéi AI Rekrutéierungsinstrumenter funktionnéieren a wat e puer vun hire potenziellen Aschränkungen sinn.
Iwwerraschend Fakt
D'Europäesch Unioun huet AI-ugedriwwen Hiringsoftware a Performance Evaluatiounstools klasséiert als "héich Risiko" a senger neier Projet gesetzleche Kader iwwer AI, dat heescht datt d'Tools méi iwwerpréift ginn a gewësse Konformitéitsufuerderunge musse erfëllen.
Weiderliesen
Quell: https://www.forbes.com/sites/madelinehalpert/2022/10/09/ai-powered-job-recruitment-tools-may-not-improve-hiring-diversity-experts-argue/