AI Ethik seet datt AI Besonnesch soll agesat ginn wann mënschlech Biases vill sinn

Mënschen hunn hir Aschränkungen kennegeléiert.

Dir erënnert Iech vläicht un déi ähnlech berühmt Linn iwwer eis Aschränkungen ze kennen, wéi grujeleg vum Charakter Dirty Harry am 1973 Film mam Titel ausgedréckt gouf. Magnum Kraaft (no de geschwatene Wierder vum Schauspiller Clint Eastwood a senger onvergiesslecher Roll als Inspekter Harry Callahan). Déi allgemeng Notioun ass datt mir heiansdo éischter eis eege Grenzen iwwerloossen an eis deementspriechend a waarmt Waasser kréien. Egal ob wéinst Hubris, egozentresch sinn, oder einfach blann fir eis eegen Fäegkeeten, ass d'Rezept fir eis Proclivitéiten a Mängel bewosst ze sinn an explizit Rechnung ze huelen ass vill sënnvoll an hëllefräich.

Loosst eis en neien Twist zum Salbei Rot addéieren.

Kënschtlech Intelligenz (AI) huet seng Aschränkungen kennegeléiert.

Wat mengen ech mat där Variant vum veréierten Ausdrock?

Et stellt sech eraus datt den initialen Rush fir modern AI als hoffnungsvoll Léisungsléiser vun de Probleemer vun der Welt ze benotzen ass verschmëlzt a ganz verschmëlzt ginn duerch d'Erkenntnis datt haut AI e puer zimlech schwéier Aschränkungen huet. Mir sinn aus dem uplifting Schlagzeilen vun AI Fir Gutt an hunn eis ëmmer méi verstoppt fonnt AI Fir Schlecht. Dir gesitt, vill AI Systemer goufen entwéckelt a Felder mat all Zorte vu rassisteschen a Geschlecht Viraussetzungen, an eng Onmass vun aneren esou schrecklechen Ongläichheeten.

Fir meng extensiv a lafend Ofdeckung vun AI Ethik an Ethesch AI, kuckt de Link hei an de Link hei, Just e puer ze Numm.

D'Basis, déi an dësen AI Systemer entdeckt ginn, sinn net vun der "absätzlecher" Aart, déi mir dem mënschleche Verhalen zouschreiwen. Ech ernimmen dëst fir ze ënnersträichen datt d'AI vun haut net sentient ass. Trotz deene schreckleche Schlagzeilen, déi anescht virschloen, gëtt et just keng AI iwwerall, déi iwwerhaapt un d'Gefill kënnt. Zousätzlech wësse mir net wéi AI an d'Sentience Klammer erakënnt, plus ka kee sécher soen ob mir jeemools AI Gefill erreechen. Vläicht wäert et enges Daags geschéien, oder vläicht net.

Also, mäi Punkt ass datt mir d'Aart vun der AI déi mir am Moment besëtzen net besonnesch d'Intentioun zouginn. Wann dat gesot gëtt, kënne mir vill Absicht un déi, déi AI Systemer kreéieren, zouginn. E puer AI Entwéckler sinn net bewosst vun der Tatsaach datt se en AI System entworf hunn deen onschëlleg an eventuell illegal Biases enthält. Mëttlerweil mierken aner AI Entwéckler datt se Biases an hir AI Systemer inbueren, potenziell dat op eng gezielte falsch Manéier maachen.

Egal wéi, d'Resultat ass trotzdem nach ëmmer ongerecht a méiglecherweis illegal.

Strident Efforten sinn amgaang fir AI Ethik Prinzipien ze promulgéieren, déi AI Entwéckler erliichteren an eng passend Leedung ubidden fir d'Abtetting vu Biases an hiren AI Systemer ze vermeiden. Dëst wäert hëllefen an enger zweefer Manéier. Als éischt hunn déi, déi AI erstallt hunn, net méi déi prett Excuse datt se just net bewosst waren wéi eng Viraussetzunge sollte gefollegt ginn. Zweetens, déi, déi vun den etheschen AI Bedéngungen ofhänken, wäerte méi liicht gefaangen a gewisen ginn als ze vermeiden dat wat se virausgesot goufen souwuel ze maachen an net ze maachen.

Loosst eis e Moment huelen fir kuerz e puer vun de Schlëssel Ethesch AI Virschrëften ze berücksichtegen fir ze illustréieren wat AI Builder solle denken a streng aus enger AI Ethik Haltung ënnerhuelen.

Wéi gesot vum Vatikan am Rom Call Fir AI Ethik a wéi ech am-Déift Daach am de Link hei, dëst sinn hir identifizéiert sechs primär AI Ethik Prinzipien:

• Transparenz: Am Prinzip mussen AI Systemer erklärbar sinn
• Inclusioun: D'Bedierfnesser vun all Mënsch musse berücksichtegt ginn, fir datt jidderee profitéiere kann, an all Eenzelnen déi beschtméiglech Konditioune gebuede kréien fir sech auszedrécken an z'entwéckelen.
• Verantwortung: Déi, déi d'Benotzung vun AI designen an ofsetzen, musse mat Verantwortung an Transparenz virgoen
• Onpartialitéit: Schafen oder handelen net no Viraussetzungen, sou datt d'Gerechtegkeet an d'mënschlech Dignitéit ofgeséchert sinn
• Zouverlässegkeet: AI Systemer musse fäeg sinn zouverlässeg ze schaffen
• Sécherheet a Privatsphär: AI Systemer musse sécher funktionnéieren an d'Privatsphär vun de Benotzer respektéieren.

Wéi gesot vum US Department of Defense (DoD) an hirem Ethesch Prinzipien fir d'Benotzung vu kënschtlecher Intelligenz a wéi ech am-Déift Daach am de Link hei, dëst sinn hir sechs primär AI Ethik Prinzipien:

• Verantwortlech: DoD Personal wäert entspriechend Niveaue vu Uerteel a Suergfalt ausüben wärend se verantwortlech bleiwen fir d'Entwécklung, d'Deployment an d'Benotzung vun AI Fäegkeeten.
• Gerechtegkeet: D'Departement wäert bewosst Schrëtt huelen fir onbedéngt Bias an AI Fäegkeeten ze minimiséieren.
• Tracéierbar: D'AI-Kapazitéite vum Departement ginn entwéckelt an ofgesat sou datt relevant Personal e passend Verständnis vun der Technologie, Entwécklungsprozesser an operationelle Methoden huet, déi op AI Fäegkeeten applicabel sinn, och mat transparenten an auditéierbare Methodologien, Datequellen, an Designprozeduren an Dokumentatioun.
• verléisslech: Dem Departement seng AI Fäegkeeten wäerten explizit, gutt definéiert Uwendungen hunn, an d'Sécherheet, Sécherheet an d'Effizienz vun esou Fäegkeeten wäerten ënner deenen definéierte Gebrauch iwwer hire ganze Liewenszyklus Testen a Versécherung ënnerleien.
• Regéierend: D'Departement wäert AI Fäegkeeten designen an entwerfen fir hir virgesinn Funktiounen ze erfëllen, wärend se d'Fäegkeet besëtzt fir ongewollte Konsequenzen z'entdecken an ze vermeiden, an d'Fäegkeet fir ofgebaute Systemer ze deaktivéieren oder ze deaktivéieren déi ongewollt Verhalen weisen.

Ech hunn och verschidde kollektiv Analysen vun AI Ethik Prinzipien diskutéiert, ënner anerem e Set ofgedeckt, entwéckelt vu Fuerscher, déi d'Essenz vu ville nationalen an internationalen AI Ethik Prinzipien ënnersicht a kondenséiert hunn an engem Pabeier mam Titel "The Global Landscape Of AI Ethics Guidelines" (publizéiert) an Natur), an datt meng Ofdeckung exploréiert am de Link hei, wat zu dëser Keystone Lëscht gefouert huet:

• Transparenz
• Gerechtegkeet & Gerechtegkeet
• Net-Maleficenz
• Responsabilitéit
• Privatsphär
• Benefizitéit
• Fräiheet & Autonomie
• Trust
• Nohaltegkeet
• Dignitéit
• Solidaritéit

Wéi Dir direkt kéint roden, probéieren d'Spezifizitéiten déi dës Prinzipien ënnersträichen ze verstoppen kann extrem schwéier sinn ze maachen. Nach méi esou, den Effort fir dës breet Prinzipien an eppes ganz konkret an detailléiert genuch ze maachen fir ze benotzen wann Dir AI Systemer erstallt ass och eng haart Nëss fir ze knacken. Et ass einfach insgesamt e puer Handwaffen ze maachen iwwer wat AI Ethik Virschrëfte sinn a wéi se allgemeng observéiert solle ginn, wärend et eng vill méi komplizéiert Situatioun ass wann d'AI Kodéierung de richtege Gummi muss sinn deen d'Strooss entsprécht.

D'AI Ethik Prinzipien solle vun AI Entwéckler benotzt ginn, zesumme mat deenen, déi AI Entwécklungsefforten managen, an och déi, déi schlussendlech op AI Systemer Felder a Betreiung maachen. All Akteuren duerch de ganzen AI Liewenszyklus vun der Entwécklung an der Notzung ginn am Kader vum Verhalen vun den etabléierten Normen vun der ethescher AI ugesinn. Dëst ass e wichtegen Highlight well déi üblech Viraussetzung ass datt "nëmmen Coderen" oder déi, déi den AI programméieren, ënnerleien un den AI Ethics Notioune ze halen. W.e.g. bewosst datt et en Duerf brauch fir AI z'entwéckelen an ze feld. Fir déi d'ganz Duerf muss op d'Zänn halen iwwer AI Ethik.

Jiddefalls, elo datt ech op den Dësch komm sinn datt AI Biases ka enthalen, kënne mir vläicht all mat dësen zwou scheinbar Fakten averstane sinn:

1. D'Mënsche kënne vill ongerecht Biases hunn a kënnen op se handelen

2. AI kann vill ongerecht Biases hunn a kann op dës Biases handelen

Ech sinn e bëssen vereedegt Mënschen versus AI an deem Kontext ze stackelen, well et iergendwéi implizéiert datt AI sensibel Kapazitéite par par mat Mënschen huet. Dëst ass sécher net esou. Ech kommen e bësse méi spéit an dëser Diskussioun zréck op d'Montage Bedenken iwwer d'Anthropomorphiséierung vun der AI.

Wat ass méi schlëmm, Mënschen déi ongerecht Biases ausweisen oder AI déi dat maachen?

Ech trauen mech ze soen, datt d'Fro ee vun deenen doure Choixen stellt. Et ass de sproochleche Manner vun zwee Béisen, ee kéint streiden. Mir wënschen datt d'Mënschen keng ongerecht Biases verkierperen. Mir wënsche weider datt och wann d'Mënschen ongerecht Biases hunn, se net op dës Biases handelen. Datselwecht kéint passend vun AI gesot ginn. Mir wënschen datt AI keng ongerecht Biases agebonnen huet an datt och wann et esou intern kodéiert Biases gëtt, datt d'AI op d'mannst net op se handelt.

Wënsch lafen awer net onbedéngt d'Welt (fir meng Analyse vun der steigender an beonroueger Schéin vu s.g. AI Wënsch Erfëllung vun Societeit am grousse, gesinn de Link hei).

Okay, mir wëllen selbstverständlech datt d'Mënschen hir Aschränkungen wëssen. Et ass eng Wichtegkeet ze erkennen wann Dir ongewollt Biases hutt. Et ass gläich Wichtegkeet fir ze probéieren ze verhënneren datt dës ongerecht Biases an Är Handlungen an Entscheedungen infuséiert ginn. D'Geschäfter probéieren haut all Zorte vu Approche fir hir Mataarbechter ze verhënneren datt se an déi ongerecht Viraussetzunge schrecklech Falen falen. Spezialiséiert Ausbildung gëtt u Mataarbechter iwwer wéi se hir Aarbecht op ethesch gesond Manéier ausféieren. Prozesser gi ronderëm d'Mataarbechter geformt fir se ze alarméieren wann se schéngen onethesch Moren ze weisen. A sou weider.

En anert Mëttel fir mat de Mënschen an hir ongerecht Biases ze këmmeren wier d'mënschlech-baséiert Aarbecht ze automatiséieren. Jo, einfach de Mënsch aus der Schleif eraushuelen. Erlaabt net e Mënsch eng Entscheedungsaarbecht auszeféieren an Dir hutt viraussiichtlech keng dauernd Suergen iwwer de mënschleche Lager géint all ongewollt Biases. Et ass kee Mënsch involvéiert an domat schéngt de Problem vu potenzielle mënschleche Biases geléist ze sinn.

Ech bréngen dëst op, well mir e graduellen a massive Verréckelung fir d'Benotzung vun AI an enger Algorithmus-Entscheedungs- (ADM) Manéier gesinn. Wann Dir e mënschlechen Aarbechter mat AI ersetzen kënnt, sinn d'Chancen datt vill Virdeeler entstoen. Wéi schonn ugeschwat, géift Dir Iech net méi iwwer d'mënschlech Viraussetzunge vun deem mënschlechen Aarbechter (deen deen déi Aarbecht net méi mécht) fäerten. D'Chancen sinn datt d'AI am Ganzen manner deier wäert sinn am Verglach zu engem laangfristeg Zäithorizont. Dir verzicht all aner verschidden Schwieregkeeten, déi deelweis mat mënschlechen Aarbechter kommen. etc.

Eng Propositioun déi Terrain gewënnt schéngt dës ze sinn: Wann Dir probéiert ze entscheeden, wou Dir AI am beschten placéiere wëllt, kuckt als éischt op Astellungen, déi scho onwuel mënschlech Biases vun Ären Aarbechter enthalen a fir déi dës Biases ënnersträichen oder soss exzessiv komplizéiert spezifesch Entscheedungs-Aufgaben.

Bottom-line ass datt et virsiichteg schénge fir de meeschte Bong fir Äre Buck ze sammelen wat d'Investitioun an AI ugeet andeems se quadratesch op héich ausgesat mënschlech Entscheedungsprozesser zielen, déi schwéier ze kontrolléieren aus enger ongerechter Viraussetzung Infusiounsperspektiv. Ewechzehuelen déi mënschlech Aarbechter an där Roll. Ersetzen se mat AI. D'Annahme ass datt AI net sou ongerecht Biases hätt. Dofir kënnt Dir Äre Kuch hunn an et och iessen, nämlech d'Entscheedungsaufgaben ënnerholl kréien an dat maachen minus dem etheschen a legale Spektrum vun ongewollten Biases.

Wann Dir dat erauskënnt, wäert de ROI (Rendement op Investitioun) méiglecherweis d'Adoptioun vun AI zu engem no-brainer Choix maachen.

Hei ass wéi dat normalerweis spillt.

Kuckt duerch Är Firma a probéiert d'Entscheedungsaarbechten z'identifizéieren déi d'Clientë beaflossen. Vun deenen Aufgaben, wéi eng sinn am meeschte wahrscheinlech onpassend gewiesselt wann d'Aarbechter ongerecht Biases verkierperen? Wann Dir scho probéiert hutt dës Viraussetzungen z'ënnerhalen, vläicht loosst Dir d'Saache stoen wéi et ass. Op der anerer Säit, wann d'Biasen ëmmer erëm optrieden an den Effort fir se auszedrécken ass schwéier, betruecht e puer pertinent AI an dës Roll ze falen. Halt d'Aarbechter net an der Mëschung well se d'AI iwwerschreiden oder d'AI direkt zréck an d'ongewéinlech Viraussetzungen drécken. Gitt och sécher datt den AI d'Aufgab kompetent ausféiere kann an Dir genuch d'Entscheedungsfacetten erfaasst hutt fir d'Aarbecht ze maachen.

Spülen a widderhuelen.

Ech mierken dat schéngt wéi eng einfach Notioun ze sinn, awer mierken datt et vill Manéiere gi fir datt d'Ersatz vu mënschlechen Aarbechter mat AI einfach schief goen kann. Vill Firme ware gäeren esou Aktiounen ze huelen an hu sech net bewosst iwwerluecht wéi een dat maache soll. Als Resultat hunn se dacks e vill méi schlechte Chaos gemaach wéi se un d'Hänn haten fir unzefänken.

Ech wëll klären an ënnersträichen datt AI keng Panacea ass.

Apropos dovun, et gëtt e grousse Problem iwwer d'Propperheet fir anscheinend déi mënschlech-biaséiert Entscheedungshändler mat der angeblech onbiaséierter AI eraus ze werfen. D'Hitch ass datt Dir just eng Rei vun ongewollten Viraussetzungen duerch en aneren ersetzt. No der fréierer Indikatioun kann AI ongerecht Biases enthalen a kann op dës Biases handelen. Eng brazen Virgab maachen datt d'Austausch vu biaséierte Mënschen fir onbiaséiert AI net alles ass wat et geknackt ass.

Kuerz gesot, hei ass den Deal wann Dir d'Saach strikt aus de Biasfaktoren kuckt:

• Den AI huet keng ongewollt Biasen an ergo ass den AI-baséierten ADM praktesch fir z'installéieren
• Den AI huet déiselwecht ongewollt Biases wéi déi ersat Mënschen an dofir ass den AI-baséierten ADM beonrouegend
• D'AI stellt nei ongerecht Biases ausserhalb vun de vun de Mënschen ersat a wäert d'Saachen deementspriechend verschlechteren
• D'AI schéngt fir d'éischt gutt an dann wackelt lues a lues an ongewéinlech Biases
• aner

Mir kënnen déi Méiglechkeeten kuerz auspaken.

Déi éischt ass déi idealiséiert Versioun vun deem wat ka geschéien. Den AI huet keng ongewollt Biases. Dir setzt den AI op der Plaz an et mécht d'Aarbecht super. Gutt fir dech! Natierlech géif een hoffen, datt Dir och op eng behendig Manéier d'Verrécklung vu mënschlechen Aarbechter wéinst der AI Inklusioun gehandhabt hutt.

Am zweete Fall setzt Dir den AI op der Plaz an entdeckt datt d'AI déiselwecht ongerecht Viraussetzunge weist wéi déi mënschlech Aarbechter haten. Wéi kann dat sinn? E gemeinsame Mëttel fir an dës Fal ze falen ass d'Benotzung vu Machine Learning (ML) an Deep Learning (DL) baséiert op gesammelten Donnéeën wéi d'Mënschen an der Roll virdru hir Entscheedunge getraff hunn.

Loosst mech e Moment erklären.

ML / DL ass eng Form vu computational Muster Matching. Déi üblech Approche ass datt Dir Daten iwwer eng Entscheedungsaarbecht sammelt. Dir fiddert d'Donnéeën an d'ML / DL Computermodeller. Dës Modeller sichen mathematesch Mustere ze fannen. Nodeems Dir esou Mustere fonnt hutt, wa se fonnt goufen, benotzt den AI System dann dës Mustere wann Dir nei Daten begéint. No der Presentatioun vun neien Donnéeën ginn d'Muster op Basis vun den "alen" oder historeschen Donnéeën ugewannt fir eng aktuell Entscheedung ze maachen.

Ech mengen, Dir kënnt roden, wou dat geet. Wann d'Mënschen, déi d'Aarbecht fir Joer op Joer gemaach hunn, ongerecht Biases integréiert hunn, sinn d'Chancen datt d'Donnéeën dëst op subtile awer bedeitende Weeër reflektéieren. De Machine Learning oder Deep Learning computational Muster Matching wäert einfach probéieren d'Donnéeën deementspriechend mathematesch ze mimikéieren. Et gëtt keng Scheedung vu gesonde Mënscheverstand oder aner sentienten Aspekter vun der Modelléierung per se.

Ausserdeem kënnen d'AI Entwéckler och net realiséieren wat lass ass. Déi arcane Mathematik kéint et schwéier maachen déi elo verstoppte Biases erauszekréien. Dir hätt mat Recht hoffen an erwaarden datt d'AI Entwéckler fir déi potenziell begruewe Biases testen, obwuel dëst méi komplizéiert ass wéi et schéngt. Eng zolitt Chance existéiert datt och mat relativ extensiv Tester datt et Biases nach ëmmer an de Muster passend Modeller vun der ML / DL agebonne sinn.

Alles gesot, Dir kënnt zréck op de Quadrat ophalen. Déiselwecht ongewollt Viraussetzunge vu Mënschen ginn elo berechnen am AI System gespigelt. Dir hutt d'Basen net ausgeschaaft.

Méi schlëmm, Dir kënnt manner wahrscheinlech realiséieren datt d'AI Biases huet. Am Fall vu Mënschen, kënnt Dir normalerweis op Är Wuecht sinn, datt d'Mënschen ongewollt Biases hunn. Dëst ass eng Basis Erwaardung. D'Benotzung vun AI kann d'Leader loosse fir ze gleewen datt d'Automatisatioun all Zort vu mënschlecher Viraussetzung komplett ewechgeholl huet. Si setzen sech also op, datt si sech selwer an de Fouss geschoss hunn. Si hunn d'Mënsche mat anscheinend bekannten ongewollten Viraussetzungen entlooss, duerch AI ersat, déi geduecht gouf keng sou Viraussetzungen ze hunn, an awer hunn elo AI voll mat deene selwechte Biases agesat, déi scho bekannt existéieren.

Dëst kann d'Saache wierklech iwwerraschen. Dir hutt vläicht aner Schutzschirmer ewechgeholl, déi mat de mënschlechen Aarbechter benotzt goufen, déi etabléiert goufen fir d'Entstoe vun deene scho virausgesote mënschleche Viraussetzungen z'entdecken an ze vermeiden. D'AI huet elo fräi Rein. Näischt ass op der Plaz fir et z'erreechen ier Dir handelt. Den AI kéint dann ufänken Iech op e schwaache Wee vun der grousser Akkumulation vu biased Aktiounen ze féieren.

An, Dir sidd an der schweier a vläicht verantwortlecher Haltung, déi Dir eemol iwwer d'Basis wousst an elo erlaabt hutt dës Biases ze zerstéieren. Et ass vläicht eng Saach fir nach ni sou onwuel Viraussetzungen begéint ze hunn an dann op eemol aus dem bloen d'AI se spréngt. Dir kéint probéieren dëst mat der Aart vun Distraktor "Wien hätt roden" ze entschëllegen (net ganz iwwerzeegend, vläicht). Awer elo AI opgeriicht ze hunn, déi déiselwecht onofhängeg Handlunge mécht wéi virdrun, gutt, Är Excuse ginn méi dënn a lamer.

En Twist op dëst enthält d'AI, déi ongerecht Biases ausstellt, déi net virdru begéint waren wéi d'Mënschen d'Aufgab gemaach hunn. Dir kënnt soen datt dëst vläicht méi schwéier ass ze vermeiden well et aus "nei" Viraussetzungen besteet, no deenen d'Firma net virdru gesicht huet. Zum Schluss kënnen d'Excuse Iech awer net vill Erliichterung ubidden. Wann den AI System souwuel onethesch wéi och onrechtlech Territoire geworf ass, kann Är Gäns gekacht sinn.

Eng aner Facett fir am Kapp ze halen ass datt d'AI ka gutt ufänken an dann de Wee an ongewéinlech Biases zéien. Dëst ass besonnesch wahrscheinlech wann d'Benotzung vu Machine Learning oder Deep Learning dauernd stattfënnt fir den AI um neiste Stand ze halen. Egal ob den ML / DL an Echtzäit schafft oder periodesch Updates mécht, d'Opmierksamkeet sollt sinn ob d'AI méiglecherweis Daten ophëlt déi elo Biases enthalen an déi virdru net präsent waren.

Fir Leader déi mengen datt se e gratis Mëttegiessen kréien andeems se e Zauberwand wénken fir biased mënschlech Aarbechter mat AI ze ersetzen, si si fir eng ganz ruppeg Erwächen. Kuckt meng Diskussioun iwwer d'Wichtegkeet vu Leadere mat de Virschrëfte vun der AI Ethik z'erméiglechen de Link hei.

Zu dësem Zäitpunkt vun dëser Diskussioun, géif ech wetten datt Dir e puer real-Welt Beispiller wënschen, déi de Conundrum weisen, fir mënschlech ongerecht Viraussetzungen ze ersetzen (oder net) duerch AI-baséiert ongerecht Biases.

Ech si frou, datt Dir gefrot hutt.

Et gëtt e speziellen a sécherlech populäre Set vu Beispiller déi mäi Häerz no leien. Dir gesitt, a menger Kapazitéit als Expert op AI mat abegraff déi ethesch a juristesch Auswierkunge, ginn ech dacks gefrot realistesch Beispiller z'identifizéieren déi AI Ethik Dilemmaen weisen, sou datt déi e bësse theoretesch Natur vum Thema méi einfach ka begräifen. Ee vun de evokativste Beräicher, déi dësen etheschen AI-Quandary lieweg presentéiert ass d'Entstoe vun AI-baséiert richteg selbstfahrend Autoen. Dëst wäert als praktesch Benotzungsfall déngen oder Beispill fir genuch Diskussioun iwwer dëst Thema.

Hei ass dann eng bemierkenswäert Fro déi derwäert ass ze iwwerdenken: Beliicht d'Entstoe vun AI-baséiert richteg selbstfahrend Autoen eppes iwwer ongerecht Biases an AI, a wa jo, wat weist dëst?

Erlaabt mir e Moment d'Fro auszepaken.

Als éischt, bemierkt datt et kee mënschleche Chauffer an engem richtege selbstfahrenden Auto involvéiert ass. Denkt drun datt richteg selbstfahrend Autoen iwwer en AI Fueresystem gedriwwe ginn. Et gëtt keng Bedierfnes fir e mënschleche Chauffer um Rad, an et gëtt och keng Dispositioun fir e Mënsch fir d'Gefier ze fueren. Fir meng extensiv a lafend Ofdeckung vun Autonome Gefierer (AVs) a besonnesch selbstfahrend Autoen, kuckt de Link hei.

Ech wëll weider klären wat gemengt ass wann ech op richteg selbstfahrend Autoen schwätzen.

D'Niveaue vu Selbstfueren Autoen ze verstoen

Als Erklärung si richteg selbstféierend Autoen déi, datt den AI den Auto ganz eleng fiert an et gëtt keng mënschlech Hëllef wärend der Fueraufgab.

Dës Chaufferlos Gefierer ginn als Niveau 4 an Niveau 5 ugesinn (kuckt meng Erklärung op dëse Link hei), während en Auto, deen e mënschleche Chauffer erfuerdert fir de Fuereeffort ze deelen, gëtt normalerweis um Niveau 2 oder Niveau 3 ugesinn. automatiséiert Add-ons déi als ADAS bezeechent ginn (Advanced Driver-Assistance Systems).

Zu Level 5 gëtt et nach net e richtege Selbstfahren Auto, dee mir nach net wëssen ob dëst méiglech wier ze erreechen, an och net wéi laang et dauert fir dohinner ze kommen.

Mëttlerweil probéieren d'Niveau 4 Efforten no an no eng Traktioun ze kréien andeems se ganz schmuel a selektiv ëffentlech Stroosseverfahren duerchgoen, awer et ass Kontrovers iwwer ob dës Tester per se erlaabt sinn (mir sinn all Liewen oder Doud Meerschwäin an engem Experiment. statt op eisen Autobunnen an byways, e puer streiden, kuckt meng Ofdeckung um dëse Link hei).

Zënter semi-autonom Autoe brauchen e mënschleche Chauffer, d'Adoptioun vun deenen Autosformen wäert net däitlech anescht sinn wéi konventionell Gefierer ze fueren, sou datt et net vill nei ass fir sech iwwer dëst Thema ze decken (awer wéi Dir wäert gesinn an engem Moment, d'nächst Punkten si generell applicabel).

Fir semi-autonom Autoen ass et wichteg datt de Public muss iwwer e gestéiert Aspekt virgeworf ginn, dee viru Kuerzem entstoung, nämlech datt trotz deene mënschleche Chauffeuren, déi weider Videoe vu sech selwer schlofen um Rad vun engem Level 2 oder Level 3 Auto an, mir all musse vermeiden datt mir falsch ginn ze gleewen datt de Chauffer hir Opmierksamkeet vun der Fuehrfahrt kann ewechhuelen während e semi-autonomem Auto fuert.

Dir sidd déi verantwortlech Partei fir déi dreiwend Handlungen vum Gefier, egal wéi vill Automatioun an en Niveau 2 oder Niveau 3 gegoss ka ginn.

Selbstfahrend Autoen An AI Mat Ongerechte Biases

Fir Level 4 a Level 5 richteg selbstfuerend Gefierer wäert et kee mënschleche Chauffer mat der Fuereaufgab involvéiert sinn.

All Besetzer wäerte Passagéier sinn.

Den AI mécht der Fuert.

Een Aspekt fir direkt ze diskutéieren implizéiert de Fakt datt den AI involvéiert an den haitegen AI Fuerersystemer net sentient ass. An anere Wierder, den AI ass insgesamt e Kollektiv vu computerbaséierter Programmatioun an Algorithmen, a ganz sécher net fäeg ze déiselwecht ze veruersaachen datt d'Mënschen kënnen.

Firwat ass dësen zousätzlechen Akzent iwwer den AI net sensibel?

Well ech wëll ënnersträichen datt wann ech iwwer d'Roll vum AI Fuerersystem diskutéieren, ginn ech net d'mënschlech Qualitéiten dem AI zou. Gitt weg datt et eng kontinuéierlech a geféierlech Tendenz ass dës Deeg d'Anthropomorphiséierung vum AI. Am Wesentlechen zielen d'Leit mënschlech wéi d'Gefill vun der haiteger AI zou, trotz der onbestreitbarer an onvermeidlecher Tatsaach datt bis elo nach keen esou AI existéiert.

Mat dëser Klärung kënnt Dir Iech virstellen datt den AI Fuerersystem net natierlech iergendwéi "weess" iwwer d'Facette vum Fuerer. Fueren an alles wat et mat sech bréngt, muss als Deel vun der Hardware a Software vum selbstfuerenden Auto programméiert ginn.

Loosst eis an déi Onmass Aspekter tauchen déi op dëst Thema spillen.

Als éischt ass et wichteg ze realiséieren datt net all AI selbstfahrend Autoen d'selwecht sinn. All Automobilist a selbstfahrend Tech Firma hëlt seng Approche fir selbstfahrend Autoen z'entwéckelen. Als esou ass et schwéier schwiereg Aussoen ze maachen iwwer wat AI Fueresystemer maachen oder net maachen.

Ausserdeem, wann Dir seet datt en AI Fuertsystem keng speziell Saach mécht, kann dëst spéider vun den Entwéckler iwwerholl ginn, déi de Computer tatsächlech programméiere fir dat Ganzt ze maachen. Schrëtt fir Schrëtt ginn AI Fuersystemer lues a lues verbessert a verlängert. Eng existent Limitatioun haut existéiert vläicht net méi an enger zukünfteger Iteratioun oder Versioun vum System.

Ech vertrauen datt et eng genuch Litane vu Virschrëfte gëtt fir z'ënnerstëtzen wat ech amgaang sinn ze beschreiwen.

Mir sinn elo prett fir en déif Tauchen an selbstfahrend Autoen ze maachen an d'ethesch AI Méiglechkeeten, déi d'Exploratioun vun AI an ongerechte Viraussetzungen enthalen.

Loosst eis en einfacht Beispill benotzen. En AI-baséiert selbstfahrenden Auto ass ënnerwee op Äre Quartierstroossen a schéngt sécher ze fueren. Fir d'éischt hues du all Kéier besonnesch opmierksam gemaach, datt Dir et fäerdeg bruecht huet den selbstfahrenden Auto ze gesinn. Dat autonomt Gefier stoung mat sengem Rack vun elektronesche Sensoren eraus, déi Videokameraen, Radareenheeten, LIDAR-Geräter an dergläiche enthalen. No ville Woche vum selbstfahrenden Auto ronderëm Är Gemeng, mierkt Dir et elo kaum. Wat Iech ugeet, ass et just en aneren Auto op de scho beschäftegten ëffentleche Stroossen.

Fir datt Dir denkt datt et onméiglech oder onplausibel ass Gewunnecht ze ginn mat selbstfahrenden Autoen ze gesinn, hunn ech dacks geschriwwen iwwer wéi d'Lokaler, déi am Kader vun de selbstfahrenden Autosprobéieren sinn, no an no gewinnt gewinnt sinn, déi ausgeräiften Gefierer ze gesinn, gesinn meng Analyse op dëse Link hei. Vill vun den Awunner hu sech schlussendlech vum mëndleche rappt Gawking gewiesselt fir elo en erweiderten Gaascht vu Langweil ze emittéieren fir déi meanderend selbstfahrend Autoen ze gesinn.

Wahrscheinlech den Haaptgrond grad elo, datt se déi autonom Gefierer bemierken, ass wéinst der Irritatioun an der Erschöpfungsfaktor. D'by-the-book AI Fahrsystemer suergen dofir datt d'Autoen all Geschwindegkeetsgrenzen a Regele vun der Strooss befollegen. Fir hektesch mënschlech Chauffeuren an hiren traditionelle Mënsch-Undriff Autoen, sidd Dir heiansdo irritéiert wann Dir hannert de strikt gesetzlech konsequent AI-baséiert selbstfahrend Autoen hält.

Dat ass eppes, wou mir all mussen Gewunnecht ginn, richteg oder falsch.

Zréck op eis Geschicht.

Et stellt sech eraus datt zwee onsympathesch Bedenken ufänken iwwer déi soss onschëlleg an allgemeng begréisst AI-baséiert selbstfahrend Autoen, speziell:

a. Wou den AI déi selbstfahrend Autoen roamt fir Reesen opzehuelen ass eng ängschtlech Suerg an der Allgemengheet ginn

b. Wéi d'AI behandelt déi waarden op Foussgänger déi net de Wee vum Wee hunn ass och e steigend Thema

Am Ufank war den AI an de selbstfahrenden Autoen duerch d'ganz Stad roaming. Jiddereen deen e Fahrt mam selbstfahrenden Auto wollt ufroen, hat am Fong eng gläich Chance fir een ze kréien. Lues a lues huet d'AI ugefaang haaptsächlech déi selbstfahrend Autoen an nëmmen enger Sektioun vun der Stad roaming ze halen. Dës Sektioun war e gréissere Suehersteller an den AI System gouf programméiert fir ze probéieren Akommes als Deel vun der Notzung an der Gemeinschaft ze maximéieren.

Gemeinschaftsmemberen an den aarmten Deeler vun der Stad ware manner wahrscheinlech e Fahrt vun engem selbstfahrenden Auto ze kréien. Dëst war well déi selbstfahrend Autoe méi wäit ewech waren an am méi héije Recettendeel vun der Lokalitéit roaming hunn. Wann eng Demande aus engem wäiten Deel vun der Stad koum, kritt all Ufro vun enger méi noer Plaz, déi wahrscheinlech am "geschätzte" Deel vun der Stad war, eng méi héich Prioritéit. Schlussendlech war d'Disponibilitéit fir e selbstfahrenden Auto op all aner Plaz wéi am räichen Deel vun der Stad bal onméiglech ze kréien, exasperatingly fir déi, déi an deenen elo Ressource-gehongerten Gebidder gelieft hunn.

Dir kënnt behaapten datt d'AI zimlech op eng Form vu Proxy Diskriminatioun gelant ass (och dacks als indirekte Diskriminatioun bezeechent). D'AI war net programméiert fir déi méi aarm Quartiere ze vermeiden. Amplaz huet et "geléiert" dat ze maachen iwwer d'Benotzung vum ML / DL.

D'Saach ass, ridesharing mënschlech Chauffeuren waren bekannt fir déiselwecht Saach ze maachen, awer net onbedéngt exklusiv wéinst dem Geldverdéngschtwénkel. Et waren e puer vun de Ridesharing mënschleche Chauffeuren, déi eng ongerecht Viraussetzung haten iwwer d'Piloten a verschiddenen Deeler vun der Stad opzehuelen. Dëst war e bësse bekannte Phänomen an d'Stad huet eng Iwwerwaachungsapproach agefouert fir mënschlech Chauffeuren ze fänken, déi dëst maachen. Mënschleche Chauffeuren kéinten an Ierger kommen fir ongerecht Selektiounspraktiken auszeféieren.

Et gouf ugeholl datt d'AI ni an déiselwecht Aart vu Schnellsand géif falen. Keng spezialiséiert Iwwerwaachung gouf opgestallt fir ze verfollegen wou déi AI-baséiert selbstfahrend Autoen higoen. Eréischt nodeems d'Membere vun der Gemeng ugefaang hunn ze beschwéieren, hunn d'Stadleader gemierkt wat geschitt ass. Fir méi iwwer dës Aarte vu citywide Themen déi autonom Gefierer a selbstfahrend Autoen presentéieren, kuckt meng Ofdeckung op dëse Link hei an déi beschreift eng Harvard-gefouert Etude, déi ech iwwer dëst Thema co-auteur.

Dëst Beispill vun de Roaming Aspekter vun den AI-baséierten selbstfahrenden Autoen illustréiert déi fréier Indikatioun datt et Situatioune kënne sinn, déi Mënschen mat ongerechte Viraussetzungen enthalen, fir déi Kontrollen agesat ginn, an datt d'AI, déi dës mënschlech Chauffeuren ersetzt, schottesch gelooss gëtt - fräi. Leider kann d'AI dann inkrementell an ähnlechen Viraussetzungen verstoppt ginn an dat maachen ouni genuch Schutzschirmer op der Plaz.

En zweet Beispill betrëfft den AI fir ze bestëmmen ob se ophale fir op Foussgänger ze waarden, déi net d'Recht hunn eng Strooss ze iwwerstoen.

Dir sidd ouni Zweifel gefuer an hu Foussgänger begéint, déi op d'Strooss gewaart hunn an awer net d'Recht haten dat ze maachen. Dëst huet gemengt datt Dir Diskretioun hutt ob Dir ophale sollt a se iwwerschreiden. Dir kënnt virugoen ouni se ze kräizen an ëmmer nach voll an de gesetzleche Fuerreegele fir dat ze maachen.

Studien iwwer wéi mënschlech Chauffeuren entscheeden fir ze stoppen oder net ze stoppen fir sou Foussgänger hu virgeschloen datt heiansdo déi mënschlech Chauffeuren d'Wiel maachen op Basis vun ongewollten Biases. E mënschleche Chauffer kéint de Foussgänger kucken a wielen net ze stoppen, och wa se gestoppt hätten, wann de Foussgänger en anert Erscheinungsbild gehat hätt, sou wéi op Basis vu Rass oder Geschlecht. Ech hunn dat ënnersicht um de Link hei.

Stellt Iech vir datt d'AI-baséiert selbstfahrend Autoen programméiert sinn fir mat der Fro ze këmmeren ob se stoppen oder net stoppen fir Foussgänger déi net d'Recht hunn. Hei ass wéi d'AI Entwéckler decidéiert hunn dës Aufgab ze programméieren. Si hunn Daten aus de Videokameraen vun der Stad gesammelt, déi ronderëm d'Stad plazéiert sinn. D'Daten weisen mënschlech Chauffeuren déi stoppen fir Foussgänger déi net d'Recht hunn a mënschlech Chauffeuren déi net stoppen. Et ass alles an e grousst Datesaz gesammelt.

Andeems Dir Machine Learning an Deep Learning benotzt, ginn d'Donnéeën computationally modelléiert. Den AI Fueresystem benotzt dann dëse Modell fir ze entscheeden wéini ze stoppen oder net ophalen. Allgemeng ass d'Iddi datt egal aus deem de lokale Brauch besteet, dëst ass wéi d'AI den selbstfahrenden Auto féiert.

Zu der Iwwerraschung vun de Stadleader an den Awunner, huet d'AI offensichtlech gewielt fir ze stoppen oder net opzehalen baséiert op der Erscheinung vum Foussgänger, dorënner hir Rass a Geschlecht. D'Sensoren vum selbstfahrenden Auto géifen den erwaardende Foussgänger scannen, dës Donnéeën an den ML / DL Modell fidderen, an de Modell géif dem AI ofginn ob se ophalen oder weiderfueren. Leider hat d'Stad scho vill vu mënschleche Chauffer Viraussetzungen an dëser Hisiicht an d'AI huet elo d'selwecht mimikéiert.

D'Gutt Noriicht ass datt dëst en Thema ophëlt dat bal keen virdru gewosst huet datt et existéiert. Déi schlecht Neiegkeet war datt zënter datt den AI gefaange gouf dëst ze maachen, et huet déi meescht Schold kritt. Dëst Beispill illustréiert datt en AI System just déi scho viraus existéierend ongerecht Biase vu Mënschen duplizéiere kann.

Konklusioun

Et gëtt eng Villfalt vu Weeër fir ze probéieren AI z'entwéckelen, déi entweder aus dem Paart ongerecht Viraussetzungen huet oder déi mat der Zäit Viraussetzunge sammelt. Eng Approche implizéiert sécherzestellen datt AI Entwéckler sech bewosst sinn datt dëst geschitt an se also op hiren Zänn halen fir den AI ze programméieren fir d'Saach ze vermeiden. Eng aner Avenue besteet aus der AI Selbstmonitor selwer fir onethescht Verhalen (kuckt meng Diskussioun op de Link hei) an/oder en anert Stéck AI hunn dat aner AI Systemer iwwerwaacht fir potenziell onethescht Verhalen (ech hunn dëst iwwerdeckt op de Link hei).

Fir erëmzefannen, musse mir realiséieren datt d'Mënsche ongerecht Biases kënnen hunn an datt se iergendwéi hir Aschränkungen wëssen. Ähnlech kann AI ongerecht Biases hunn, an iergendwéi musse mir hir Aschränkungen wëssen.

Fir déi vun iech, déi begeeschtert AI Ethik ëmfaassen, wëll ech elo mat enger anerer berühmter Linn ophalen, déi jidderee scho muss wëssen. Nämlech, w.e.g. weider d'Wichtegkeet vun der ethescher AI ze benotzen an ze deelen. An domatter géif ech frech dat soen: "Gitt vir, maacht mäin Dag."