AI Ethik an AI Gesetz réckelen Richtung Standarden déi explizit AI Biases identifizéieren a managen

Hutt Dir jeemools fofzeg-zwee Kaarte Pick-up gespillt?

Et ass net e Spill dat Dir normalerweis gär géift ënnerhuelen. Hei ass firwat. Eppes bitt Iech datt et e angeblechen lëschtegen Sport ass a wann Dir de séiss Köder hëlt, werfen se dann e ganzen Deck vu Spillkaarten an d'Loft a summéiert op de Buedem. D'Persoun gëtt Iech dann e frechlecht Laachen a seet Iech virzegoen an d'Kaarte opzehuelen. Dat ass dat ganzt Spill.

Prankster!

Ech hunn eng e bësse nodenklech Fro fir Iech iwwer dëst ze stellen.

Ugeholl datt eng vun de Kaarten ënner engem nooste Sofa gerutscht ass. Wann Dir fäerdeg war all d'Kaarte opzehuelen, Dir wäert wëssen, datt eng vermësst well et nëmmen fofzeg-eent an Ärer Hand ginn.

D'Fro ass, kënnt Dir bestëmmen wéi eng Kaart fehlt?

Ech si sécher, datt Dir direkt géif soen, datt Dir einfach erausfanne kënnt, wéi eng Kaart net an Ären Hänn war. Alles wat Dir maache musst ass den Deck an Uerdnung ze setzen. Dir wësst datt e Standarddeck aus véier Kostümer besteet an datt bannent all Kostüm d'Kaarte vun engem bis zéng nummeréiert sinn an dann an Jack, Queen a King.

Dir wësst dëst well e Standarddeck vu Spillkaarten op engem Standard baséiert.

Whoa, déi Ausso kéint schéngen wéi eng vun deenen total offensichtleche Behaaptungen. Gutt, jo, natierlech, e Standard Spilldeck baséiert op engem Standard. Mir all wëssen dat. Mäi Punkt ass datt mir e Standard hunn, kënne mir op de Standard vertrauen wann et néideg ass. Nieft datt Dir fäeg sidd ze deducéieren wat fir eng Kaart aus enger Deck fehlt, kënnt Dir och einfach zillioune vu bekannte Kaartespiller mat anere Leit spillen. Wann iergendeen d'Regele vun engem Spill gesot kritt, si si direkt fäeg ze spillen, well se scho ganz wësse wat den Deck besteet. Dir braucht hinnen net z'erklären datt d'Plack véier Faarwen a verschidde nummeréiert Kaarten huet. Si wëssen schonn, datt dat de Fall ass.

Wou ginn ech mat dësem hin?

Ech probéieren Iech e Wee ze huelen deen e vital Mëttel ass fir Fortschrëtter am Feld vun der AI ze maachen a besonnesch am Räich vun AI Ethik an Ethesch AI. Dir gesitt, mir musse probéieren mat wäit verbreet an all ausgemaach Normen iwwer AI Ethik ze kommen. Wa mir dat kënne maachen, wäert et d'Liichtegkeet verbesseren fir d'Adoptioun vun der ethescher AI ze kréien an beweist d'Ziel fir d'AI Systemer ze verbesseren, déi ëmmer erëm Pell-Mell an de Maartplaz geheit ginn (wéi en onnummeréierten an ongeordnten Deck vu Wild Cards). Fir meng lafend an extensiv Ofdeckung vun AI Ethik, Ethesch AI, an AI Gesetz, kuckt de Link hei an de Link hei, Just e puer ze Numm.

E bestëmmte Segment oder Deel vun der AI Ethik, déi vill Medienopmierksamkeet kritt huet, besteet aus AI déi ongerecht Biases an Ongläichheeten ausweist. Dir sidd vläicht bewosst datt wann déi lescht Ära vun AI ugefaang huet, et e grousse Burst vun Begeeschterung war fir wat e puer elo nennen AI Fir Gutt. Leider, op den Fersen vun där grujeleger Opreegung, hu mir ugefaang Zeien AI Fir Schlecht. Zum Beispill, verschidde AI-baséiert Gesiichtserkennungssystemer goufen opgedeckt wéi se rassistesch Biases a Geschlecht Biases enthalen, déi ech diskutéiert hunn. de Link hei.

Efforten ze kämpfen zréck géint AI Fir Schlecht aktiv ënnerwee sinn. Nieft vociferous legal Verfollegungen fir de Mëssbrauch z'erhiewen, gëtt et och e wesentleche Push fir d'AI Ethik ëmzegoen fir d'AI Vielness ze rächen. D'Notioun ass datt mir wichteg ethesch AI Prinzipien solle adoptéieren an ënnerstëtze fir d'Entwécklung an d'Feldung vun AI ze maachen fir de AI Fir Schlecht a gläichzäiteg d'Preferenz ze heraldéieren a förderen AI Fir Gutt.

Op enger verwandter Notioun sinn ech en Affekot fir ze probéieren AI als Deel vun der Léisung fir AI-Schwieregkeeten ze benotzen, Feier mat Feier ze kämpfen an där Manéier vum Denken. Mir kënnen zum Beispill Ethesch AI Komponenten an en AI System embetteren deen iwwerwaacht wéi de Rescht vun der AI d'Saache mécht an domat potenziell diskriminéierend Efforten an Echtzäit opfänken, kuckt meng Diskussioun op de Link hei. Mir kënnen och e separaten AI System hunn, deen als Typ vun AI Ethics Monitor handelt. Den AI System déngt als Iwwerwaacher fir ze verfolgen an z'entdecken wann en aneren AI an den onetheschen Ofgrond geet (kuckt meng Analyse vu sou Fäegkeeten op de Link hei).

An engem Moment wäert ech mat Iech e puer iwwergräifend Prinzipien deelen, déi AI Ethik ënnerleien. Et gi vill vun dësen Aarte vu Lëschte ronderëm hei an do. Dir kënnt soen datt et nach net eng eenzeg Lëscht vun universellen Appel a Konkurrenz ass. Dat ass déi onglécklech Noriicht. Déi gutt Noriicht ass datt op d'mannst et liicht verfügbar AI Ethics Lëschte sinn a si tendéieren zimlech ähnlech ze sinn. Alles gesot, dëst suggeréiert datt duerch eng Form vu rational Konvergenz vu verschiddenen Aarte mir eise Wee an eng allgemeng Gemeinsamkeet fannen, aus deem AI Ethik besteet.

Ech bréngen dëst op fir e Fundament fir meng Diskussioun hei ze bidden, déi sech op e bestëmmte Segment oder Deel vum méi breede Räich vun der AI Ethik konzentréieren, nämlech wéi virdru scho gesot dat spezifescht Element vun AI Biases. De Grond och datt ech dëst Thema mat Iech deelen ass datt en Dokument verëffentlecht vum National Institute of Standards and Technology (NIST) probéiert eis op eise Wee zu engem Standard ze charakteriséieren AI Biases. D'Dokument ass berechtegt Richtung e Standard fir z'identifizéieren a verwalten Bias an der kënschtlecher Intelligenz vun Autoren Reva Schwartz, Apostol Vassilev, Kristen Greene, Lori Perine, Andrew Burt a Patrick Hall, a gouf vum US Department of Commerce, NIST Special Publication 1270, am Mäerz 2022 publizéiert.

Mir wäerten dës praktesch an encouragéierend Effort auspaken fir z'etabléieren wat mir mat AI Biases mengen. Dat ale Spréchwuert ass datt Dir dat net verwalten wat Dir net moosse kënnt. Andeems Dir e Standard hutt deen d'Varietéit vun AI Biases ausstellt, kënnt Dir ufänken d'AI Biases Plo ze moossen an ze managen.

Als éischt, loosst eis kuerz e puer vun den allgemenge etheschen AI Virschrëfte ofdecken fir ze illustréieren wat e vital Considératioun sollt sinn fir jiddereen deen AI bastelt, fält oder benotzt.

Zum Beispill, wéi gesot vum Vatikan am Rom Call Fir AI Ethik a wéi ech am-Déift Daach am de Link hei, dëst sinn hir identifizéiert sechs primär AI Ethik Prinzipien:

• Transparenz: Am Prinzip mussen AI Systemer erklärbar sinn
• Inclusioun: D'Bedierfnesser vun all Mënsch musse berücksichtegt ginn, fir datt jidderee profitéiere kann, an all Eenzelnen déi beschtméiglech Konditioune gebuede kréien fir sech auszedrécken an z'entwéckelen.
• Verantwortung: Déi, déi d'Benotzung vun AI designen an ofsetzen, musse mat Verantwortung an Transparenz virgoen
• Onpartialitéit: Schafen oder handelen net no Viraussetzungen, sou datt d'Gerechtegkeet an d'mënschlech Dignitéit ofgeséchert sinn
• Zouverlässegkeet: AI Systemer musse fäeg sinn zouverlässeg ze schaffen
• Sécherheet a Privatsphär: AI Systemer musse sécher funktionnéieren an d'Privatsphär vun de Benotzer respektéieren.

Wéi gesot vum US Department of Defense (DoD) an hirem Ethesch Prinzipien fir d'Benotzung vu kënschtlecher Intelligenz a wéi ech am-Déift Daach am de Link hei, dëst sinn hir sechs primär AI Ethik Prinzipien:

• Verantwortlech: DoD Personal wäert entspriechend Niveaue vu Uerteel a Suergfalt ausüben wärend se verantwortlech bleiwen fir d'Entwécklung, d'Deployment an d'Benotzung vun AI Fäegkeeten.
• Gerechtegkeet: D'Departement wäert bewosst Schrëtt huelen fir onbedéngt Bias an AI Fäegkeeten ze minimiséieren.
• Tracéierbar: D'AI-Kapazitéite vum Departement ginn entwéckelt an ofgesat sou datt relevant Personal e passend Verständnis vun der Technologie, Entwécklungsprozesser an operationelle Methoden huet, déi op AI Fäegkeeten applicabel sinn, och mat transparenten an auditéierbare Methodologien, Datequellen, an Designprozeduren an Dokumentatioun.
• verléisslech: Dem Departement seng AI Fäegkeeten wäerten explizit, gutt definéiert Uwendungen hunn, an d'Sécherheet, Sécherheet an d'Effizienz vun esou Fäegkeeten wäerten ënner deenen definéierte Gebrauch iwwer hire ganze Liewenszyklus Testen a Versécherung ënnerleien.
• Regéierend: D'Departement wäert AI Fäegkeeten designen an entwerfen fir hir virgesinn Funktiounen ze erfëllen, wärend se d'Fäegkeet besëtzt fir ongewollte Konsequenzen z'entdecken an ze vermeiden, an d'Fäegkeet fir ofgebaute Systemer ze deaktivéieren oder ze deaktivéieren déi ongewollt Verhalen weisen.

Ech hunn och verschidde kollektiv Analysen vun AI Ethik Prinzipien diskutéiert, ënner anerem e Set ofgedeckt, entwéckelt vu Fuerscher, déi d'Essenz vu ville nationalen an internationalen AI Ethik Prinzipien ënnersicht a kondenséiert hunn an engem Pabeier mam Titel "The Global Landscape Of AI Ethics Guidelines" (publizéiert) an Natur), an datt meng Ofdeckung exploréiert am de Link hei, wat zu dëser Keystone Lëscht gefouert huet:

• Transparenz
• Gerechtegkeet & Gerechtegkeet
• Net-Maleficenz
• Responsabilitéit
• Privatsphär
• Benefizitéit
• Fräiheet & Autonomie
• Trust
• Nohaltegkeet
• Dignitéit
• Solidaritéit

Wéi Dir direkt kéint roden, probéieren d'Spezifizitéiten déi dës Prinzipien ënnersträichen ze präziséieren, kann extrem schwéier sinn ze maachen. Nach méi esou, den Effort fir dës breet Prinzipien an eppes ganz konkret an detailléiert genuch ze maachen fir ze benotzen wann Dir AI Systemer erstallt ass och eng haart Nëss fir ze knacken. Et ass einfach insgesamt Handwaving ze maachen iwwer wat AI Ethik Viraussetzungen sinn a wéi se allgemeng observéiert solle ginn, wärend et eng vill méi komplizéiert Situatioun an der AI Kodéierung muss de richtege Gummi sinn deen op der Strooss entsprécht.

D'AI Ethik Prinzipien solle vun AI Entwéckler benotzt ginn, zesumme mat deenen, déi AI Entwécklungsefforten managen, an och déi, déi schlussendlech op AI Systemer Felder a Betreiung maachen. All Akteuren am ganzen AI Liewenszyklus vun der Entwécklung an der Notzung ginn am Kader vum Verhalen vun den etabléierten Normen vun der ethescher AI ugesinn. Dëst ass e wichtegen Highlight well déi üblech Viraussetzung ass datt "nëmmen Coderen" oder déi, déi den AI programméieren, ënnerleien un den AI Ethics Notioune ze halen. Wéi virdru gesot, et brauch en Duerf fir AI z'entwéckelen an ze feld, a fir déi d'ganz Duerf muss beherrscht sinn an un d'AI Ethik Viraussetzungen halen.

Ënnergrond vu ville vun dëse Schlëssel AI Ethik Viraussetzungen ass d'insidious Natur vun AI Biases.

Just wéi en Deck vu Kaarten, wier et sécher lëschteg wa mir iergendwéi d'AI Biases an eng Rei vu "Suiten" oder Kategorien gruppéiere kënnen. Tatsächlech bitt d'NIST Dokument eng proposéiert Gruppéierung.

Dräi grouss Kategorien ginn proposéiert:

1) Systemesch Biases

2) Statistesch a Computational Biases

3) Mënschlech Biases

Ob all AI Biases ordentlech an enger vun deenen dräi Kategorien passen ass sécher eppes ze berücksichtegen. Dir kënnt sécherlech streiden datt e puer AI Biases an eng, zwou oder all dräi Kategorien zur selwechter Zäit falen. Ausserdeem kënnt Dir behaapten datt méi Kategorien et verdéngen ze ernimmen, sou wéi eng véiert, fënneft, sechst oder méi Serie vu Gruppéierungen.

Ech hoffen dat ass wat Dir denkt well mir musse jidderee matmaachen fir ze hëllefen dës Normen ze gestalten. Wann Dir opgereegt sidd mat der Aart a Weis wéi dës Norme fir d'éischt geformt ginn, fuerderen ech Iech dës Energie ëmzewandelen fir de Rescht vun eis ze hëllefen fir dës budding Standarden esou robust a komplett ze maachen wéi se an geschnidden kënne ginn.

Fir de Moment kënne mir déi proposéiert dräi Kategorien méi no kucken a kucken wat fir eng Hand mir bis elo behandelt hunn (jo, ech wäert weider eng Analogie zu enger Plack vu Spillkaarten benotzen, dat maachen uechter d'ganz schrëftlech Stéck, Dir kënnt Är ënnen Dollar op déi net sou verstoppt Ace vun engem Thema wetten).

Wat ass gemengt mat der Referenz op systemesch Biases?

Hei ass wat d'NIST Dokument seet: "Systemesch Biases entstinn aus Prozeduren a Praktiken vu bestëmmten Institutiounen, déi op Weeër funktionnéieren, déi dozou féieren datt verschidde sozial Gruppe profitéiert oder favoriséiert ginn an anerer benodeelegt oder devaluéiert ginn. Dëst muss net d'Resultat vu bewosst Viruerteeler oder Diskriminatioun sinn, mee éischter vun der Majoritéit déi existéierend Reegelen oder Normen verfollegt. Institutional Rassismus a Sexismus sinn déi heefegst Beispiller" (Notéiert datt dëst nëmmen e kuerzen Auszuch ass an d'Lieser encouragéiert sinn déi méi voll Erklärung ze gesinn).

AI kënnt an d'Mëschung vu systemesche Biases andeems se e Mëttel ubidden fir dës Biases an AI-baséiert Apps ze vermëttelen an ëmzesetzen. Wann Dir en AI-infuséiert Stéck Software benotzt, fir alles wat Dir wësst, kann et eng ganz Partie Viraussetzungen enthalen, déi schonn an de System gebak sinn iwwer d'Firmen an d'Industriepraktiken, déi zu der Produktioun vun der AI gefouert hunn. Laut der NIST Studie: "Dës Biases sinn präsent an den Datesätz, déi an AI benotzt ginn, an den institutionnelle Normen, Praktiken a Prozesser am ganzen AI Liewenszyklus an a méi breeder Kultur a Gesellschaft."

Als nächst betruecht de Set vu Biases déi als statistesch a computational Biases bezeechent ginn.

D'NIST Dokument seet dëst: "Statistesch a computational Biases stamen aus Feeler déi resultéieren wann d'Probe net representativ fir d'Bevëlkerung ass. Dës Viruerteeler entstinn aus systematesch am Géigesaz zu zoufälleg Feeler a kënnen optrieden an der Verontreiung vu Viruerteeler, Partialitéit oder diskriminatoresch Absicht. An AI Systemer sinn dës Biases präsent an den Datesets an algorithmesche Prozesser, déi an der Entwécklung vun AI Uwendungen benotzt ginn, an entstinn dacks wann Algorithmen op enger Aart vun Daten trainéiert ginn a kënnen net iwwer dës Donnéeën extrapoléieren.

Dës Zort vu statisteschen a computationalen Bias gëtt dacks an en AI System gekacht deen Machine Learning (ML) an Deep Learning (DL) benotzt. Déi hefteg Matière vun zäitgenësseschen ML / DL opzebréngen erfuerdert eng verwandte Säit Tangent iwwer wat AI ass a wat ML / DL ass.

Loosst eis sécher sinn datt mir op der selwechter Säit iwwer d'Natur vun der heiteger AI sinn.

Et gëtt keng AI haut déi sentient ass. Mir hunn dat net. Mir wëssen net ob sentient AI méiglech wäert sinn. Keen kann passend viraussoen ob mir sentient AI erreechen, an och net ob sentient AI iergendwéi wonnerbar spontan an enger Form vu computational kognitiver Supernova entstinn (normalerweis als Singularitéit bezeechent, kuckt meng Ofdeckung op de Link hei).

D'Aart vun AI op déi ech fokusséiere besteet aus der net-sentienten AI déi mir haut hunn. Wa mir wëlle wëlle spekuléieren iwwer sensibel AI, dës Diskussioun kéint an eng radikal aner Richtung goen. Eng sentient AI wier anscheinend vu mënschlecher Qualitéit. Dir musst berücksichtegen datt de sentienten AI de kognitiven Äquivalent vun engem Mënsch ass. Méi esou, well e puer spekuléiere kënne mir super-intelligent AI hunn, ass et denkbar datt sou AI schlussendlech méi schlau ka sinn wéi Mënschen (fir meng Exploratioun vu super-intelligenten AI als Méiglechkeet, kuckt d'Ofdeckung hei).

Loosst eis d'Saache méi erof op d'Äerd halen a betruechten haut computational net-sentient AI.

Realiséiere datt d'AI vun haut net fäeg ass op iergendeng Manéier ze "denken" par rapport zum mënschlechen Denken. Wann Dir mat Alexa oder Siri interagéiert, kënnen d'Gespréichskapazitéiten ähnlech wéi mënschlech Fäegkeeten schéngen, awer d'Realitéit ass datt et computational ass a mënschlech Erkenntnis feelt. Déi lescht Ära vun AI huet extensiv Notzung vu Machine Learning an Deep Learning gemaach, déi computational Muster Matching profitéieren. Dëst huet zu AI Systemer gefouert, déi d'Erscheinung vu mënschlechähnleche Proclivitéiten hunn. Mëttlerweil gëtt et haut keng AI déi e Gesinn vu gesonde Mënscheverstand huet an och keng vun der kognitiver Wonnerung vu robustem mënschlecht Denken.

ML / DL ass eng Form vu computational Muster Matching. Déi üblech Approche ass datt Dir Daten iwwer eng Entscheedungsaarbecht sammelt. Dir fiddert d'Donnéeën an d'ML / DL Computermodeller. Dës Modeller sichen mathematesch Mustere ze fannen. Nodeems Dir esou Mustere fonnt hutt, wa se fonnt goufen, benotzt den AI System dann dës Mustere wann Dir nei Daten begéint. No der Presentatioun vun neien Donnéeën ginn d'Muster op Basis vun den "alen" oder historeschen Donnéeën ugewannt fir eng aktuell Entscheedung ze maachen.

Ech mengen, Dir kënnt roden, wou dat geet. Wann d'Mënschen, déi d'Muster op Entscheedunge getraff hunn, ongewollt Biases integréiert hunn, sinn d'Chancen datt d'Donnéeën dëst op subtile awer bedeitende Weeër reflektéieren. Machine Learning oder Deep Learning computational Muster Matching wäert einfach probéieren d'Donnéeën deementspriechend mathematesch ze mimikéieren. Et gëtt kee Gesinn vu gesonde Mënscheverstand oder aner sentienten Aspekter vun der AI erstallt Modeller per se.

Ausserdeem kënnen d'AI Entwéckler och net realiséieren wat lass ass. Déi arcane Mathematik am ML / DL kéint et schwéier maachen déi elo verstoppte Biases erauszekréien. Dir géift mat Recht hoffen an erwaarden datt d'AI Entwéckler fir déi potenziell begruewe Biases testen, obwuel dëst méi komplizéiert ass wéi et schéngt. Eng zolitt Chance existéiert datt och mat relativ extensiv Tester datt et Biases nach ëmmer an de Muster passend Modeller vun der ML / DL agebonne sinn.

Dir kënnt e bëssen de berühmten oder berühmte Spréchwuert vun Gerempels-an Dreck-eraus benotzen. D'Saach ass, dëst ass méi ähnlech wéi Biases-an déi süchteg infuséiert ginn wéi Biases ënner dem AI ënnerdaach. Den Algorithmus Entscheedungsprozess (ADM) vun AI gëtt axiomatesch mat Ongläichheeten belaascht.

Net gutt.

Dëst bréngt eis quadratesch op déi drëtt Kategorie vum NIST Set vun dräi Gruppéierungen, speziell d'Roll vu mënschleche Biases an der Entstoe vun AI Biases. Hei ass wat d'NIST Dokument uginn: "Mënschlech Biases reflektéieren systematesch Feeler am mënschleche Gedanken baséiert op enger limitéierter Unzuel vun heuristesche Prinzipien a virauszesoen Wäerter fir méi einfach veruerteelt Operatiounen. Dës Biases sinn dacks implizit an tendéieren dozou ze bezéien wéi en Individuum oder Grupp Informatioun (wéi automatiséiert AI Output) erkennt fir eng Entscheedung ze treffen oder fehlend oder onbekannt Informatioun auszefëllen. Dës Biases sinn omnipräsent an den institutionellen, Gruppen an individuellen Entscheedungsprozesser am ganzen AI Liewenszyklus, an an der Notzung vun AI Uwendungen eemol ofgebaut.

Dir hutt elo eng rapid-fire Aféierung an déi dräi Kategorien kritt.

Ech géif gären mat Iech e puer zousätzlech Liewensmëttel fir Gedanken ze deelen wéi am NIST Dokument ausgedréckt. Eng Grafik an hirer narrativ liwwert en nëtzlechen Resumé vun de Schlësselfroen an Iwwerleeungen, déi jiddereng vun den dräi Sets vun AI Biases ënnersträichen. Ech Lëscht hinnen hei fir Är Kamoudheet vun Referenz an edification.

#1: Systemesch Biases

• Wien gëtt gezielt a wien gëtt net gezielt?

- Themen mat latente Variabelen

- Ënnerrepresentatioun vu marginaliséierte Gruppen

- Automatisatioun vun Ongläichheeten

- Ënnerrepresentatioun bei der Bestëmmung vun der Utilityfunktioun

- Prozesser déi d'Majoritéit/Minoritéit favoriséieren

- Kulturell Bias an der objektiver Funktioun (bescht fir Individuen vs Bescht fir d'Grupp)

• Wéi wësse mir wat richteg ass?

- Verstäerkung vun Ongläichheeten (Gruppen si méi beaflosst mat méi héijer Notzung vun AI)

- Predictive Police méi negativ beaflosst

- Verbreed Adoptioun vu Ridesharing / Selbstfahren Autoen / etc. kann Politik änneren datt Populatioun baséiert op benotzen Impakt

# 2: Statistesch a Computational Biases

• Wien gëtt gezielt a wien gëtt net gezielt?

- Sampling a Selektiounsbias

- Benotzt Proxy Variablen well se méi einfach ze moossen sinn

- Automatioun Viraussetzung

- Likert Skala (kategoresch bis Ordinal bis Kardinal)

- Net-linear vs linear

- Ökologesch Feeler

- Minimaliséierung vun der L1 vs L2 Norm

- Allgemeng Schwieregkeete fir kontextuell Phänomener ze quantifizéieren

• Wéi wësse mir wat richteg ass?

- Mangel un adäquate Kräizvalidatioun

- Iwwerliewenspensioun

- Schwieregkeete mat Fairness

# 3: Mënschlech Biases

• Wien gëtt gezielt a wien gëtt net gezielt?

- Observational Bias (Streetlight Effekt)

- Disponibilitéit Bias (Verankerung)

- McNamara Feeler

- Groupthink féiert zu schmuele Choixen

- Rashomon Effekt féiert zu subjektiv Plädoyer

- Schwieregkeeten fir Ziler ze quantifizéieren kënnen zu McNamara-Feeler féieren

• Wéi wësse mir wat richteg ass?

- Confirmatiouns Viraussetzung

- Automatioun Viraussetzung

Zu dësem Zäitpunkt vun dëser schwéierer Diskussioun, géif ech wetten datt Dir e puer Illustratiouns Beispiller wëllt, déi déi dräi Kategorien vun AI Biases weisen. Et gëtt e speziellen a sécherlech populäre Set vu Beispiller déi mäi Häerz no leien. Dir gesitt, a menger Kapazitéit als Expert op AI abegraff déi ethesch a juristesch Auswierkunge, ginn ech dacks gefrot fir realistesch Beispiller z'identifizéieren déi AI Ethik Dilemmas weisen, sou datt déi e bësse theoretesch Natur vum Thema méi einfach ka begräifen. Ee vun de evokativste Beräicher, déi dës ethesch AI Quandary lieweg presentéieren ass d'Entstoe vun AI-baséiert richteg selbstfahrend Autoen. Dëst wäert als praktesch Benotzungsfall déngen oder Beispill fir genuch Diskussioun iwwer dëst Thema.

Hei ass dann eng bemierkenswäert Fro déi derwäert ass ze iwwerdenken: Beliicht d'Entstoe vun AI-baséiert richteg selbstfahrend Autoen eppes iwwer déi dräi proposéiert Kategorien vun AI Biases, a wa jo, wat weist dëst?

Erlaabt mir e Moment d'Fro auszepaken.

Als éischt, bemierkt datt et kee mënschleche Chauffer an engem richtege selbstfahrenden Auto involvéiert ass. Denkt drun datt richteg selbstfahrend Autoen iwwer en AI Fueresystem gedriwwe ginn. Et gëtt keng Bedierfnes fir e mënschleche Chauffer um Rad, an et gëtt och keng Dispositioun fir e Mënsch fir d'Gefier ze fueren. Fir meng extensiv a lafend Ofdeckung vun Autonome Gefierer (AVs) a besonnesch selbstfahrend Autoen, kuckt de Link hei.

Ech wëll weider klären wat gemengt ass wann ech op richteg selbstfahrend Autoen schwätzen.

D'Niveaue vu Selbstfueren Autoen ze verstoen

Als Erklärung, richteg selbstfahrend Autoen sinn déi wou den AI den Auto ganz eleng fiert an et gëtt keng mënschlech Hëllef wärend der Fuertask.

Dës Chaufferlos Gefierer ginn als Niveau 4 an Niveau 5 ugesinn (kuckt meng Erklärung op dëse Link hei), während en Auto, deen e mënschleche Chauffer erfuerdert fir de Fuereeffort ze deelen, gëtt normalerweis um Niveau 2 oder Niveau 3 ugesinn. automatiséiert Add-ons déi als ADAS bezeechent ginn (Advanced Driver-Assistance Systems).

Et gëtt nach kee richtegen selbstfahrenden Auto um Niveau 5, a mir wëssen nach net emol ob dat méiglech ass, a wéi laang et dauert bis dohinner kënnt.

Mëttlerweil probéieren d'Niveau 4 Efforten no an no eng Traktioun ze kréien andeems se ganz schmuel a selektiv ëffentlech Stroosseverfahren duerchgoen, awer et ass Kontrovers iwwer ob dës Tester per se erlaabt sinn (mir sinn all Liewen oder Doud Meerschwäin an engem Experiment. statt op eisen Autobunnen an byways, e puer streiden, kuckt meng Ofdeckung um dëse Link hei).

Zënter semi-autonom Autoe brauchen e mënschleche Chauffer, d'Adoptioun vun deenen Autosformen wäert net däitlech anescht sinn wéi konventionell Gefierer ze fueren, sou datt et net vill nei ass fir sech iwwer dëst Thema ze decken (awer wéi Dir wäert gesinn an engem Moment, d'nächst Punkten si generell applicabel).

Fir semi-autonom Autoen ass et wichteg datt de Public muss iwwer e gestéiert Aspekt virgeworf ginn, dee viru Kuerzem entstoung, nämlech datt trotz deene mënschleche Chauffeuren, déi weider Videoe vu sech selwer schlofen um Rad vun engem Level 2 oder Level 3 Auto an, mir all musse vermeiden datt mir falsch ginn ze gleewen datt de Chauffer hir Opmierksamkeet vun der Fuehrfahrt kann ewechhuelen während e semi-autonomem Auto fuert.

Dir sidd déi verantwortlech Partei fir déi dreiwend Handlungen vum Gefier, egal wéi vill Automatioun an en Niveau 2 oder Niveau 3 gegoss ka ginn.

Selbstfahrend Autoen An AI Biases

Fir Level 4 a Level 5 richteg selbstfuerend Gefierer wäert et kee mënschleche Chauffer mat der Fuereaufgab involvéiert sinn.

All Besetzer wäerte Passagéier sinn.

Den AI mécht der Fuert.

Een Aspekt fir direkt ze diskutéieren implizéiert de Fakt datt den AI involvéiert an den haitegen AI Fuerersystemer net sentient ass. An anere Wierder, den AI ass insgesamt e Kollektiv vu computerbaséierter Programmatioun an Algorithmen, a ganz sécher net fäeg ze déiselwecht ze veruersaachen datt d'Mënschen kënnen.

Firwat ass dësen zousätzlechen Akzent iwwer den AI net sensibel?

Well ech wëll ënnersträichen datt wann ech iwwer d'Roll vum AI Fuerersystem diskutéieren, ginn ech net d'mënschlech Qualitéiten dem AI zou. Gitt weg datt et eng kontinuéierlech a geféierlech Tendenz ass dës Deeg d'Anthropomorphiséierung vum AI. Am Wesentlechen zielen d'Leit mënschlech wéi d'Gefill vun der haiteger AI zou, trotz der onbestreitbarer an onvermeidlecher Tatsaach datt bis elo nach keen esou AI existéiert.

Mat dëser Klärung kënnt Dir Iech virstellen datt den AI Fuerersystem net natierlech iergendwéi "weess" iwwer d'Facette vum Fuerer. Fueren an alles wat et mat sech bréngt, muss als Deel vun der Hardware a Software vum selbstfuerenden Auto programméiert ginn.

Loosst eis an déi Onmass Aspekter tauchen déi op dëst Thema spillen.

Als éischt ass et wichteg ze realiséieren datt net all AI selbstfahrend Autoen d'selwecht sinn. All Automobilist a selbstfahrend Tech Firma hëlt seng Approche fir selbstfahrend Autoen z'entwéckelen. Als esou ass et schwéier schwiereg Aussoen ze maachen iwwer wat AI Fueresystemer maachen oder net maachen.

Ausserdeem, wann Dir seet datt en AI Fuertsystem keng speziell Saach mécht, kann dëst spéider vun den Entwéckler iwwerholl ginn, déi de Computer tatsächlech programméiere fir dat Ganzt ze maachen. Schrëtt fir Schrëtt ginn AI Fuersystemer lues a lues verbessert a verlängert. Eng existent Limitatioun haut existéiert vläicht net méi an enger zukünfteger Iteratioun oder Versioun vum System.

Ech vertrauen datt et eng genuch Litane vu Virschrëfte gëtt fir z'ënnerstëtzen wat ech amgaang sinn ze beschreiwen.

Mir sinn elo prett fir en déif Tauchen an selbstfahrend Autoen ze maachen an d'ethesch AI Méiglechkeeten déi dräi Kategorien vun AI Biases enthalen.

Stellt Iech vir datt en AI-baséiert selbstfahrenden Auto op Äre Quartierstroossen ënnerwee ass a schéngt sécher ze fueren. Fir d'éischt hues du all Kéier besonnesch opmierksam gemaach, datt Dir et fäerdeg bruecht huet den selbstfahrenden Auto ze gesinn. Dat autonomt Gefier stoung mat sengem Rack vun elektronesche Sensoren eraus, déi Videokameraen, Radareenheeten, LIDAR-Geräter an dergläiche enthalen. No ville Woche vum selbstfahrenden Auto ronderëm Är Gemeng, mierkt Dir et elo kaum. Wat Iech ugeet, ass et just en aneren Auto op de scho beschäftegten ëffentleche Stroossen.

Fir datt Dir denkt datt et onméiglech oder onplausibel ass Gewunnecht ze ginn mat selbstfahrenden Autoen ze gesinn, hunn ech dacks geschriwwen iwwer wéi d'Lokaler, déi am Kader vun de selbstfahrenden Autosprobéieren sinn, no an no gewinnt gewinnt sinn, déi ausgeräiften Gefierer ze gesinn, gesinn meng Analyse op dëse Link hei. Vill vun den Awunner hu sech schlussendlech vum mëndleche rappt Gawking gewiesselt fir elo en erweiderten Gaascht vu Langweil ze emittéieren fir déi meanderend selbstfahrend Autoen ze gesinn.

Wahrscheinlech den Haaptgrond grad elo, datt se déi autonom Gefierer bemierken, ass wéinst der Irritatioun an der Erschöpfungsfaktor. D'by-the-book AI Fahrsystemer suergen dofir datt d'Autoen all Geschwindegkeetsgrenzen a Regele vun der Strooss befollegen. Fir hektesch mënschlech Chauffeuren an hiren traditionelle Mënsch-Undriff Autoen, sidd Dir heiansdo irritéiert wann Dir hannert de strikt gesetzlech konsequent AI-baséiert selbstfahrend Autoen hält.

Dat ass eppes, wou mir all mussen Gewunnecht ginn, richteg oder falsch.

Zréck op eis Geschicht.

Mir wäerte nächste betruechten wéi systemesch Biases an dësem Kontext vun selbstfueren Autoen spille kënnen.

E puer Pundits si ganz besuergt datt selbstfahrend Autoen d'Provënz vun nëmmen de Räichen an der Elite sinn. Et kéint sinn datt d'Käschte fir selbstfahrend Autoen ze benotzen onheemlech deier sinn. Ausser Dir hutt grouss Suen, kënnt Dir ni d'Innere vun engem selbstfahrenden Auto gesinn. Déi, déi selbstfahrend Autoe benotze wäerte räich musse sinn, gëtt behaapt.

Als solch fuerderen e puer beonrouegend datt eng Form vu systemescher Bias d'Entstoe vun AI-baséiert selbstfahrend Autoen duerchdréit. De Gesamtautonome Gefier Industriesystem als Ganzt wäert selbstfahrend Autoen aus den Hänn vun deenen halen, déi aarm oder manner räich sinn. Dëst ass vläicht net onbedéngt duerch offensichtlech Absicht a stellt sech just eraus datt deen eenzege gegleeft Wee fir déi belaaschtend Käschte fir selbstfahrend Autoen erfonnt ze kréien ass onerwaart héich Präisser ze bezuelen.

Wann Dir widdersprécht, datt et haut dës selbstfahrend Auto-Tryouts ginn, déi den alldeegleche Mënsch erlaben ze benotzen, also schéngt et kloer ze sinn datt Dir per se net räich brauch ze sinn, d'Géigeargument ass datt dëst eng Aart Shell-Spill ass wéi et waren. D'Automobilisten a selbstfahrend Tech Firme si vermeintlech gewëllt et ze maachen wéi wann d'Käschte keng substantiell Barrière wieren. Si maachen dat elo fir ëffentlech Relatiounen Zwecker a wäerten d'Präisser eropklammen wann se d'Falten erausfonnt hunn. E Verschwörer kéint souguer behaapten datt d'"Meerschwäin" als alldeeglech Persoune perniciously benotzt gi fir datt de Räiche schlussendlech méi räich kënne ginn.

Also, mat där éischter ëmstriddener Matière, a meng eegen zwee Cent op dëst béist Thema ze setzen, gleewen ech net datt selbstfahrend Autoen fir alldeeglech Benotzung méi héich ginn. Ech ginn net an d'Detailer hei iwwer meng Basis fir sou eng Fuerderung ze maachen an invitéieren Iech fir meng opmierksam Diskussiounen um de Link hei an och bei de Link hei.

Fuert weider, kënne mir als nächst d'Matière vun AI-relatéierten statisteschen a computationalen Biases betruechten.

Bedenkt déi anscheinend onkonsequent Fro vu wou selbstfahrend Autoen roame fir Passagéier opzehuelen. Dëst schéngt wéi en iwwerflësseg onschëlleg Thema. Mir wäerten d'Geschicht vun der Stad oder Stad benotzen, déi selbstfahrend Autoen huet, fir de vläicht iwwerraschend potenzielle Spektrum vun AI-relatéierten statisteschen a computationalen Viraussetzungen ze markéieren.

Fir d'éischt unzehuelen datt d'AI déi selbstfahrend Autoen duerch d'ganz Stad roaming huet. Jiddereen deen e Fahrt mam selbstfahrenden Auto wollt ufroen, hat am Fong eng gläich Chance fir een ze kréien. Lues a lues huet d'AI ugefaang haaptsächlech déi selbstfahrend Autoen an nëmmen enger Sektioun vun der Stad roaming ze halen. Dës Sektioun war e gréissere Suehersteller an den AI System gouf programméiert fir ze probéieren Akommes als Deel vun der Notzung an der Gemeinschaft ze maximéieren.

Gemeinschaftsmemberen an den aarmten Deeler vun der Stad ware manner wahrscheinlech e Fahrt vun engem selbstfahrenden Auto ze kréien. Dëst war well déi selbstfahrend Autoe méi wäit ewech waren an am méi héije Recettendeel vun der Lokalitéit roaming hunn. Wann eng Demande aus engem wäiten Deel vun der Stad koum, kritt all Ufro vun enger méi noer Plaz, déi wahrscheinlech am "geschätzte" Deel vun der Stad war, eng méi héich Prioritéit. Schlussendlech war d'Disponibilitéit fir e selbstfahrenden Auto op all aner Plaz wéi am räichen Deel vun der Stad bal onméiglech ze kréien, exasperatingly fir déi, déi an deenen elo Ressource-gehongerten Gebidder gelieft hunn.

Dir kënnt behaapten datt d'AI zimlech op enger Form vu statisteschen a computationalen Viraussetzungen gelant ass, ähnlech wéi eng Form vu Proxy Diskriminatioun (och dacks als indirekten Diskriminatioun bezeechent). D'AI war net programméiert fir déi aarme Quartiere ze vermeiden. Amplaz huet et "geléiert" dat ze maachen iwwer d'Benotzung vum ML / DL.

Et gouf ugeholl datt d'AI ni an déi Aart vu schumme Schnellsand géif falen. Keng spezialiséiert Iwwerwaachung gouf ageriicht fir ze verfollegen wou d'AI-baséiert selbstfahrend Autoen higoen. Eréischt nodeems d'Gemeinschaftsmemberen ugefaang hunn ze beschwéieren, hunn d'Stadleit gemierkt wat geschitt ass. Fir méi iwwer dës Aarte vu citywide Themen déi autonom Gefierer a selbstfahrend Autoen presentéieren, kuckt meng Ofdeckung op dëse Link hei an déi beschreift eng Harvard-gefouert Etude, déi ech iwwer dëst Thema co-auteur.

Fir déi drëtt Kategorie vu mënschleche Biases am Zesummenhang mat AI Biases, wende mir eis op e Beispill dat den AI involvéiert fir ze bestëmmen ob se ophale fir op Foussgänger ze waarden, déi net d'Recht hunn eng Strooss ze Kräiz.

Dir sidd ouni Zweifel gefuer an hu Foussgänger begéint, déi op d'Strooss gewaart hunn an awer net d'Recht haten dat ze maachen. Dëst huet gemengt datt Dir Diskretioun hutt ob Dir ophale sollt a se iwwerschreiden. Dir kënnt virugoen ouni se ze kräizen an ëmmer nach voll an de gesetzleche Fuerreegele fir dat ze maachen.

Studien iwwer wéi mënschlech Chauffeuren entscheeden fir ze stoppen oder net ze stoppen fir sou Foussgänger hu virgeschloen datt heiansdo déi mënschlech Chauffeuren d'Wiel maachen op Basis vun ongewollten Biases. E mënschleche Chauffer kéint de Foussgänger kucken a wielen net ze stoppen, och wa se gestoppt hätten, wann de Foussgänger en anert Erscheinungsbild gehat hätt, sou wéi op Basis vu Rass oder Geschlecht. Ech hunn dat ënnersicht um de Link hei.

Stellt Iech vir datt d'AI-baséiert selbstfahrend Autoen programméiert sinn fir mat der Fro ze këmmeren ob se stoppen oder net stoppen fir Foussgänger déi net d'Recht hunn. Hei ass wéi d'AI Entwéckler decidéiert hunn dës Aufgab ze programméieren. Si hunn Daten aus de Videokameraen vun der Stad gesammelt, déi ronderëm d'Stad plazéiert sinn. D'Daten weisen mënschlech Chauffeuren déi stoppen fir Foussgänger déi net d'Recht hunn a mënschlech Chauffeuren déi net stoppen. Et ass alles an e grousst Datesaz gesammelt.

Andeems Dir Machine Learning an Deep Learning benotzt, ginn d'Donnéeën computationally modelléiert. Den AI Fueresystem benotzt dann dëse Modell fir ze entscheeden wéini ze stoppen oder net ophalen. Allgemeng ass d'Iddi datt egal aus deem de lokale Brauch besteet, dëst ass wéi d'AI den selbstfahrenden Auto féiert.

Zu der Iwwerraschung vun de Stadleaderen an den Awunner, huet d'AI offensichtlech gewielt fir ze stoppen oder net opzehalen baséiert op dem Alter vum Foussgänger. Wéi konnt dat geschéien?

No enger méi noer Iwwerpréiwung vum Video vum mënschleche Chauffer Diskretioun, stellt sech eraus datt vill vun den Instanzen fir net ze stoppen Foussgänger involvéiert hunn, déi e Spazéiergang vun engem Seniorbierger haten. Mënschleche Chauffeuren wieren anscheinend net gewëllt ze stoppen an eng eeler Persoun iwwer d'Strooss ze loossen, viraussiichtlech wéinst der ugeholler Zäit, déi et dauert bis een d'Rees mécht. Wann de Foussgänger ausgesäit wéi wann e séier iwwert d'Strooss kéinte fueren an d'Waardezäit vum Chauffer miniméieren, waren d'Chauffeuren méi empfindlech fir d'Persoun iwwerzegoen.

Dëst ass déif an den AI Fuere System begruewe ginn. D'Sensoren vum selbstfahrenden Auto géifen den erwaardende Foussgänger scannen, dës Donnéeën an den ML/DL Modell fidderen, an de Modell géif dem AI emittéieren ob se ophalen oder weiderfueren. All visuell Indikatioun datt de Foussgänger lues ze Kräiz ass, sou wéi d'Benotzung vun engem Spadséiergank, gouf mathematesch benotzt fir ze bestëmmen ob den AI Fuere System den erwaardende Foussgänger Kräiz sollt loossen oder net.

Dir kënnt behaapten datt dëst e Vertrauen op eng viraus existéierend mënschlech Bias war.

Konklusioun

E puer lescht Gedanken fir elo.

Et gëtt e populäre Spréchwuert datt Dir d'Kaarte net ännere kënnt, déi Dir behandelt hutt an amplaz léiere musst wéi Dir adequat spillt mat enger Hand déi Dir kritt hutt.

Am Fall vun AI Biases, wa mir net häerzlech op d'Spëtzt vun der Etablissement vun AI Ethik iwwerall kommen a besonnesch d'Charakteriséierung vun AI Biases verstäerken, wäerten d'Aarte vun Hänn, mat deenen mir behandelt ginn, iwwerflësseg onethesch sinn, a méiglecherweis illegal Stratum. Mir mussen ophalen datt dës Kaarte jeemools ausgedeelt ginn, fir unzefänken. Dat valant Zil fir ethesch AI Standarden ze kreéieren an ze promulgéieren ass e entscheedend Tool fir den opkommende Tsunami ze bekämpfen AI Fir Schlecht.

Dir kënnt entscheedend op d'Bank huelen datt onheemlech AI Bias an onethesch AI wéi e schmuel Kaartehaus wäerte sinn, op sech selwer implodéieren a méiglecherweis katastrofal fir eis all sinn.

Loosst eis spillen fir ze gewannen, maacht dat mat passenden etheschen AI.