Ethesch AI Ambitiéis Hoffnung AI ze hunn Ethescht Verhalen eleng ze léieren, sou wéi de Fall mat AI an autonomen selbstfahrenden Autoen

Den Aristoteles huet berühmt gesot datt d'Erzéiung vum Geescht ouni d'Häerz ze educéieren guer keng Ausbildung ass.

Dir kënnt dës Asiicht Bemierkung interpretéieren fir ze suggeréieren datt d'Léieren iwwer Ethik a moralescht Verhalen ganz vital ass fir d'Mënschheet. An der klassescher Natur versus Nurture Debatt, muss ee froen wéi vill vun eisen etheschen Moren instinktiv gebierteg sinn, während wéi vill am Laf vun eisem Liewensdeeg geléiert gëtt. D'Kand ass opmierksam op Matmënschen a sammelen viraussiichtlech hir ethesch Fundamenter op Basis vun deem wat se gesinn an héieren. Datselwecht kann iwwer Teenager gesot ginn. Fir oppen-minded Erwuessener, och si wäerten sech weider unzepassen an hir ethesch Denken als Resultat vun der alldeeglecher Welt erliewen.

Natierlech, explizit een iwwer Ethik léieren ass och par fir de Cours. D'Leit si gebonnen iwwer ethesch Weeër ze léieren iwwer d'Coursen zum Thema deelzehuelen oder vläicht duerch op Eventer a Praktiken ze goen, déi si interesséieren. Ethesch Wäerter kënne kloer identifizéiert a gedeelt ginn als Mëttel fir anerer ze hëllefen hir eege Struktur vun der Ethik ze formuléieren. Zousätzlech kann Ethik subtil a Geschichten oder aner Instruktiounsmodi verstoppt sinn, déi schlussendlech e Message droen aus deem ethesche Verhalen besteet.

Dat ass wéi d'Mënschen d'Ethik schéngen.

Wat iwwer Kënschtlech Intelligenz (AI)?

Ech realiséiere sou eng Fro kéint komesch schéngen. Mir erwaarden sécherlech datt d'Mënsche Ethik integréieren an duerch d'Liewen mat e puer Schéin vun engem moralesche Code goen. Et ass eng einfach an offensichtlech Tatsaach. Op der anerer Säit schéngt eng Maschinn oder Computer net an deemselwechte Referenzkader ze passen. Är Darmreaktioun kéint sinn datt et wäit ewech ass oder ongewéinlech ass fir AI als Ausféierung vun Ethik a moralesche Coden ze betruechten.

Dat Bescht wat mir schéngen fäeg wieren iwwer AI ze maachen ass et z'entwéckelen sou datt et net vum ethesche Verhalen ofwäit. AI Entwéckler an déi, déi AI Felder sinn, solle verantwortlech gehale ginn fir sécherzestellen datt den AI wéi entworf a wann se implementéiert scho mat etheschen Virschrëfte konform ass. Aus dem Paart, souzesoen, sollt d'AI scho ursprénglech sinn a prett fir als voll ethesch richteg Ausféierung ze goen.

Dir wäert sécherlech richteg sinn wann Dir denkt datt AI Systemer wierklech solle gemaach ginn fir scho ganz an eng ethesch Basis ze passen. D'Gesellschaft war zimmlech opgereegt wéi déi lescht Welle vun AI Systemer fir d'éischt verëffentlecht gouf a schéngt ze weisen datt mir an enger Ära vun AI Fir Gutt. AI géif hëllefen vill vun de schwieregste Probleemer vun der Welt ze léisen. Fortschrëtter an der Technologie goufe benotzt fir mënschlech Fäegkeeten mat kognitivähnlechen Ariichtungen z'ergänzen, awer erlaabt mech ze betounen datt mir nach keng sentient AI hunn a mir wëssen net ob sentient AI erreecht gëtt.

De Problem mat der Pell-Mell Rush fir AI an d'Welt ze kréien huet lues a lues den ellenen Ënnerbau vun AI bekannt als AI Fir Schlecht. Et goufe vill Schlagzeilen iwwer AI Systemer déi d'algorithmesch Entscheedung huelen (ADM) benotzen déi voll ass mat Biases an Ongläichheeten. Doriwwer eraus leid vill vun der zäitgenëssescher AI ënner engem Manktem u Transparenz, tendéiert onerklärbar ze sinn wat d'Rechnerentscheedungen z'erklären, weist dacks e Manktem u Fairness, an huet e puer erlaabt hir mënschlech Rechenschaftspflicht ofzeleeën andeems se mam Fanger op AI weisen.

Ech hunn extensiv Ethesch AI an d'Ethik vun AI a menge Schrëften iwwerdeckt, inklusiv de Link hei an de Link hei, Just e puer ze Numm.

Wéi kann et ginn AI Fir Schlecht wa mir als uginn Konstruktioun huelen datt AI sollt vun Ufank u gemaach ginn fir onethesch Handlungen ze vermeiden?

D'Äntwert ass multifach.

Eischtens, vill AI Entwéckler a Firmen, déi AI Felder sinn, si selwer ouni Ahnung iwwer d'Wichtegkeet vun der Form vun hiren AI fir bannent ethesche Grenzen ze bleiwen. D'Konzept ass guer net op hirem Radar. D'Verlockung vu schnelle Suen ze verdéngen verursaacht e puer fir weider ze drécken op wéi eng wëll AI Notioune se wëlle produzéieren. Kee Grond fir ethesch Saachen erauszefannen. Baut just den AI a gitt et un.

Zweetens, et ginn déi, déi AI maachen, déi e richtege Bewosstsinn vun den etheschen Auswierkunge verschéineren, awer se offensiv downplay oder e bësse ignoréieren d'ethesch AI Considératiounen. Eng gemeinsam Perspektiv ass den Techie klassesche Mantra fir séier ze versoen an dacks ze versoen. Fuert just weider bis d'Saachen hoffentlech passend geregelt ginn. D'Chancen fir all systematesch an duerchduechte Integratioun vun der AI Ethik an dës séier-Feier AI Efforten ze pressen ass bedauerlech schlank. Ech diskutéieren de Besoin fir d'Empowerment vun Leedung Richtung Ethical AI bei de Link hei.

Drëttens existéiert vill Däischtert iwwer wéi eng ethesch Schutzschirmer solle begeeschtert ginn wann Dir AI entwéckelt. Sécher, et ginn hautdesdaags vill AI Ethik Richtlinnen, kuckt meng Ofdeckung op de Link hei, obwuel dës praktesch theoretesch Virschrëfte schwéier sinn onbedéngt a Spezifizitéiten fir e bestëmmten AI System deen gebaut gëtt. Ech hunn uginn datt mir lues a lues en Entstoe vun AI Gebaier Tools a Methodologien gesinn, déi ethesch AI Kodéierungspraktiken enthalen, hëllefe fir de Spalt tëscht den abstrakten Aspekter an de sproochleche Gummi-meets-the-road Facetten zouzemaachen.

Véiertens, laut de Schwéierpunkt hei, entdecken mir de betraffene Fall vun AI, deen och wann am Ufank bannent ethesche Grenzen komponéiert ass, dann duerno wärend der Benotzung iwwer déi ugeholl ethesch kodéiert Parameter wandert.

Mir mussen dat auspaken.

Vill vun haut AI benotzt Machine Learning (ML) an Deep Learning (DL). Dëst sinn computational Muster Matching Techniken an Technologien. Allgemeng ass d'Iddi datt Dir vill relevant Donnéeën sammelt fir wat och ëmmer d'AI soll fäeg sinn ze maachen, Dir fiddert dës Donnéeën an de gewielte Berechnungsmustermatcher, an d'Mustermatching probéiert mathematesch nëtzlech Mustere ze fannen. Bedenkt datt et keng Gefiller vun dëser AI ass (wat nach eng Kéier net esou eppes existéiert). Et gëtt och keng gesondheetlech Begrënnung involvéiert. Et ass alles Mathematik a Berechnungen.

Et kéint sinn datt d'Donnéeën, déi an den ML / DL gefiddert ginn, scho mat Biases an Ongläichheeten infuséiert sinn. An deem Fall sinn d'Chancen datt d'Rechnemustermatchung nëmmen déiselwecht Proclivitéiten mimikéiert. Wann Dir Donnéeën ubitt, déi eng Rass iwwer eng aner favoriséiert oder ee Geschlecht iwwer dat anert favoriséiert, ass et eng grouss Chance datt d'Mustermatching op dat als dat entdeckt Muster hält.

E grousse Problem mat dëser Aart vu Sperrung ass datt mir eng schwiereg Zäit hunn erauszefannen datt d'Muster op deem Aspekt vun den Daten baséieren. Déi dorresch a komplex Mathematik kann d'Uewerfläch vun esou fonnte Mustere ganz problematesch maachen. Och den AI testen wäert net onbedéngt dës Tendenzen opdecken, ofhängeg vun der Gamme an der Déift vun den Tester déi applizéiert ginn.

Also, loosst eis unhuelen datt Dir en AI System gebaut hutt an Är Hausaufgaben gemaach hutt andeems Dir als éischt probéiert Daten ze benotzen déi viraus existéierend Biases haten. Als nächst, wann d'Maschinn Léieren an Deep Learning duerchgefouert goufen, hutt Dir d'Resultater getest fir ze kucken ob Viraussetzungen oder Ongläichheeten iergendwéi entstane sinn. Loosst eis unhuelen datt Dir keng sou ongewollt Neigungen fannt.

Alles gesot, déi gréng Luucht gëtt elo gegeben fir virzegoen an den AI a Gebrauch ze setzen. D'Leit fänken un d'AI ze benotzen an huelen wahrscheinlech un datt et ethesch richteg ass. D'Entwéckler mengen dat och. D'Firma, déi den AI fält, denkt dëst. Weg gi mer all.

Hei ass wat ka geschéien.

En Abléck vun enger Bias déi net an den ursprénglechen Donnéeën fonnt gouf an déi net wärend dem Test vun der AI gefaange gouf ass méiglecherweis aktivéiert. Vläicht geschitt dat nëmme selten. Dir kéint gleewen datt soulaang et rar ass, alles gutt ass. Ech bezweifelen awer datt déi vulnérabel fir déi genannte Bias gewëllt sinn d'Saache sou ze gesinn. Ech trauen et ze soen datt den AI System an déi, déi et formuléiert hunn, Konsequenze wäerte konfrontéieren, entweder an de juristesche Geriichter oder am oppene Geriicht vun der gesellschaftlecher Meenung.

Eng aner Variatioun ass déi sproochlech Notioun fir en Zoll ze huelen an eng Meile ze gräifen. D'Iwwerleeung kéint am Ufank kleng sinn. Wärend der Benotzung vun der AI kéint den AI entwéckelt gi fir sech selwer z'änneren wéi d'Saache weidergoen. Dës Aart vu "Léieren" oder "Selbstléieren" ka ganz nëtzlech sinn. Anstatt mënschlech-AI Entwéckler ze erfuerderen fir den AI System kontinuéierlech z'änneren an unzepassen, ass den AI gebaut fir dat selwer ze maachen. Keng Verspéidungen, keng deier Aarbecht, asw.

Den Nodeel vun dëser praktescher Selbstjustéierung ass datt d'Inkling eropgeet fir méi grouss a méi grouss am Ëmfang vun der Benotzung vun der AI ze ginn. Wärend de Viraussetzung vläicht an engem enke klenge Eck gewiescht wier, gëtt et elo Plaz fir sech auszebauen. D'AI huet keng Schéngen datt dëst "falsch" ass a just computationally verlängert eppes wat schéngt ze schaffen.

Wann dat mécht, datt d'Hoer um Kapp stinn, musst Dir fir déi nächst Variant sëtzen.

Ugeholl datt d'Bias net existéiert vun Ufank un a mir hunn all begrënnegt Iwwerzeegung datt d'AI ganz biasfräi ass. Mir haten entweder Gléck oder hu vläicht systematesch séchergestallt datt keng Biases iergendwou an den Donnéeën waren a keng entstane sinn iwwer de computational Muster Matching. Trotz deem Opschwong vun der Erliichterung ass d'AI erlaabt sech während dem Gebrauch unzepassen. Dem Pandora seng Dier gëtt opgemaach an den AI entscheet fir computationally zu Biases ze gravitéieren, déi fonnt gi wärend alles wat den AI mécht.

Eng nei fonnt Viraussetzung gëtt an d'AI opgehuewen, a keen ass besonnesch méi schlau datt et geschitt ass. Yikes, mir hunn e Monster erstallt, e richtege Frankenstein.

Wéi kann dës Entstoe méiglecherweis verhënnert oder op d'mannst markéiert ginn?

Eng Approche déi Zuchbéischt gewënnt besteet aus der Bau an der AI eng Ethik-Erzéiungskomponent. Den AI ass konstruéiert fir ethesch AI Elementer ze enthalen. Dës Elementer kucken oder iwwerwaachen dann de Rescht vun der AI wärend d'AI sech mat der Zäit upasst. Wann d'AI schéngt iwwer déi programméiert ethesch Viraussetzunge gaang ze sinn, probéiert d'Ethesch AI dës Upassungen anzebezéien oder d'Entwéckler alarméieren datt eppes falsch gaang ass.

Dir kënnt probéieren dës Ethesch AI Iwwerwaachungskapazitéit ze programméieren an hoffen datt et herrscht wärend den AI am Gebrauch ass.

En aneren e bësse kontroverse Wénkel wier Machine Learning an Deep Learning ze benotzen fir d'ethesch AI Aspekter an den AI System ze trainéieren.

Äntwert wat?

Jo, dat vläicht onorthodoxt Konzept ass datt amplaz datt e mënschleche Programméierer direkt eng Rei vun AI Ethik Viraussetzungen codéiert, ass d'AI geformt fir ze probéieren se amplaz ze "léieren". Erënnere mech datt ech kuerz bemierkt hunn datt d'Benotzung vu ML / DL typesch op d'Füttern vun Daten an d'Algorithmen hänkt an e computational Muster Matching stattfënnt. D'Fro vu Millioune Dollar ass ob mir dee selwechte Mechanismus benotze kënnen fir ethesch Wäerter an en AI System z'entdecken.

Ech huelen un, Dir kënnt dëst mat menger Diskussioun bei der Ouverture verglach wéi d'Mënsche sech vun ethesche Prinzipien bewosst ginn, awer w.e.g. anthropomorphize w.e.g. d'AI vun haut net als vergläichbar mam mënschlecht Denken (et ass net, an ech widderhuelen dës Ufro kuerz). Den AI kann "natierlech" mat etheschen AI Virschrëfte programméiert ginn. Oder den AI kéint ethesch AI Virschrëfte "léieren". Dir kënnt natierlech béid maachen, wat ass eppes wat ech soss anzwousch ofgedeckt hunn, kuckt de Link hei.

Huelt e Moment fir dat anscheinend erschreckend Konzept ze iwwerdenken datt AI Ethik "léiere" kéint an ergo viraussiichtlech un ethesch Verhalen halen.

Dës Fuerscher benotzen e Beispill vun engem AI System deen déi gewënscht Temperatur an engem Haus erausfënnt fir ze illustréieren wéi dëst funktionéiere kann: "Et huet fir d'éischt d'Behuele vun de Leit a verschiddene Stéit fir nëmmen eng Woch 'observéiert' an huet Conclusiounen iwwer hir Preferenzen gezunn. Et huet dunn e Bewegungserkennungssensor benotzt fir ze bestëmmen ob iergendeen doheem war. Wann d'Haus eidel war, ass de Smart Thermostat an en héije Energiespuermodus erakomm; wann d'Leit doheem waren, huet den Thermostat d'Temperatur ugepasst fir hir Virléiften ze passen. Dësen Thermostat entsprécht kloer déi zwee Ufuerderunge vun engem Ethikbot, och wann e ganz einfachen. Et bewäert d'Präferenze vun de Leit an setzt se op d'Kontrollen vum Heiz- a Killsystem op. Et kann ee sech froen, wat dat mat soziale moralesche Wäerter ze dinn huet. Dësen Thermostat erlaabt Leit mat ënnerschiddleche Wäerter d'Temperaturastellungen ze hunn déi se léiwer hunn. D'Awunner vum Heem brauchen den Thermostat net all Dag zréckzestellen wann se kommen a goen. Dësen einfachen Ethik Bot reduzéiert och den totalen Energiefoussofdrock vun der Gemeinschaft" (pro Pabeier vum Amitai Etzioni an Oren Etzioni mam Titel "AI Assisted Ethics" am Volume op Ethik an Informatiounstechnologie).

Ier ech weider an d'Twists a Wendungen gräifen fir AI ze hunn deen ethescht Verhalen "léiert", wéilt ech eppes méi iwwer de Status vun AI soen.

AI kann aus dëse méigleche Staate besteet:

1. Net-sentient Einfache-al AI vun haut

2. Sentient AI vu mënschlecher Qualitéit (mir hunn dat nach net)

3. Sentient AI déi superintelligent ass (eng Streck iwwer #2)

Ech konzentréiere mech op den existente Staat deen net-sentient einfach al AI ass. Vill vun deem wat Dir iwwer Ethesch AI liest heiansdo deckt de sentienten AI an ass dofir héich spekulativ. Ech soen et ass spekulativ well kee kann de Schwanz op den Iesel festleeën wat sentient AI wäert sinn. Och méi wäit iwwer d'Räich vun der mënschlecher Qualitéit sentient AI ass déi vill-Ballyhooed super-intelligent AI. Et gi vill Sci-Fi Geschichten a Schwieregkeeten iwwer wéi dës Aromen vun AI kéinten entscheeden d'Mënschheet ze versklaven, oder vläicht just eis all auswëschen. Dëst ass bekannt als existenziell Risiko vun AI. Heiansdo gëtt den Dilemma och als de katastrophale Risiko vun AI fraséiert.

E puer behaapten datt mir an der Rei sinn soulaang mir AI op déi net-sentient einfach al AI halen déi mir haut hunn. Loosst eis unhuelen datt mir net sentient AI kënnen erreechen. Stellt Iech vir datt egal wéi schwéier mir probéieren sentient AI ze kreéieren, mir versoen dat ze maachen. Huelt och fir d'Diskussioun un datt sentient AI net duerch e mysteriéise spontane Prozess entsteet.

Si mir dann net sécher datt dës manner kaliber AI, déi déi virgestallt eenzeg méiglech Aart vun AI ass, am Gebrauch wäert sinn?

Net wierklech.

Zimlech vill, déi selwecht allgemeng Themen si méiglecherweis optrieden. Ech suggeréieren net datt den AI säi Wee "denkt" fir eis ze zerstéieren. Nee, déi gewéinlech net-sentient AI gëtt just a Muechtpositioune gesat, déi eis an der Selbstzerstéierung verstoppt kréien. Zum Beispill setzen mir net-sentient AI a Massevernichtungswaffen. Dës autonom Waffen sinn net fäeg ze denken. Zur selwechter Zäit sinn d'Mënschen net ganz an der Loop gehal. Als Resultat ass d'AI als eng Form vun autonomer Automatisatioun op en Enn op onopfälleg katastrophal Resultater verursaacht, entweder duerch e mënschlecht Kommando fir dat ze maachen, oder duerch e Feeler oder Feeler, oder duerch implantéiert Béisen, oder duerch Selbstjustéierungen déi Saache féieren ellen Wee, etc.

Ech géif behaapten datt den AI Ethikproblem existéiert fir all dräi vun deenen AI festgeluegte Staaten, nämlech datt mir AI ethesch Themen mat net-sentienten einfachen-alen AI hunn, a mat sentienten AI deen entweder nëmme mënschlecht Niveau ass oder déi ausgestreckt AI déi erreecht de bekannte Superintelligenzniveau.

Gitt dës nüchtern Ausso, kënne mir sécher iwwer d'Gréisst an d'Schwieregkeet diskutéieren, déi mat den etheschen Probleemer op jiddereng vun den jeweilegen Niveauen vun der AI assoziéiert ass. De übleche Standpunkt ass datt d'AI Ethik-Predicament manner oniwwergänglech ass op der net-sentienten AI, méi haart um sentient mënschleche-gläichen AI Niveau, an e richtege Head-Scratcher an der sentient super-intelligenter AI Stadium vun Affären.

Wat besser den AI gëtt, dest méi schlëmm gëtt den AI Ethikproblem.

Vläicht ass dat en onverständlecht Gesetz vun der Natur.

Zréck op de Fokus op der heiteger AI zréckzekommen, probéiert d'AI ethesch Verhalen iwwer zäitgenëssesch Machine Learning an Deep Learning ze "léieren" ass voller Bedenken a komplizéiert Probleemer. Ugeholl datt d'AI net déi gewënscht ethesch Virschrëfte sammelt? Wéi wäerte mir sécher wëssen datt et domat gefall ass? Och wäerten aner Deeler vun engem AI System potenziell déi gesammelt ethesch Konstruktiounen iwwerschreiden? Füügt dozou datt wann d'AI sech op der Flucht upasst, d'Upassunge kënnen d'ethesch Aspekter dënnen erofhuelen oder se onbedéngt ganz iwwerwältegt.

Fir d'Saache méi schlëmm ze maachen, kann de "Léieren" dozou féieren datt d'AI op wierklech onethescht Verhalen landen. Wärend mir geduecht hunn datt mir dat richtegt maachen andeems mir den AI ethesch proposéieren, et stellt sech eraus datt d'AI amplaz an d'Muster passend op den onetheschen Aspekter gerutscht ass. Schwätzen iwwer eis eege Fouss schéissen, et kéint absolut geschéien.

Zu dësem Zäitpunkt vun dëser Diskussioun, géif ech wetten datt Dir Loscht hutt op e puer zousätzlech real-Welt Beispiller, déi kéinte beliichten wéi AI d'"Léieren" vun der Ethik fir haut AI gëlle kéint (ausser de leckere Teaser vum Thermostat Beispill).

Ech si frou, datt Dir gefrot hutt.

Et gëtt e speziellen a sécherlech populäre Set vu Beispiller déi mäi Häerz no leien. Dir gesitt, a menger Kapazitéit als Expert op AI mat abegraff déi ethesch a juristesch Auswierkunge, ginn ech dacks gefrot realistesch Beispiller z'identifizéieren déi AI Ethik Dilemmaen weisen, sou datt déi e bësse theoretesch Natur vum Thema méi einfach ka begräifen. Ee vun de evokativste Beräicher, déi dësen etheschen AI-Quandary lieweg presentéiert ass d'Entstoe vun AI-baséiert richteg selbstfahrend Autoen. Dëst wäert als praktesch Benotzungsfall déngen oder Beispill fir genuch Diskussioun iwwer dëst Thema.

Hei ass dann eng bemierkenswäert Fro déi derwäert ass ze iwwerdenken: Beliicht d'Entstoe vun AI-baséiert richteg selbstfahrend Autoen eppes iwwer d'AI fäeg ze "léieren" Ethesch AI Viraussetzungen, a wa jo, wat weist dëst?

Erlaabt mir e Moment d'Fro auszepaken.

Als éischt, bemierkt datt et kee mënschleche Chauffer an engem richtege selbstfahrenden Auto involvéiert ass. Denkt drun datt richteg selbstfahrend Autoen iwwer en AI Fueresystem gedriwwe ginn. Et gëtt keng Bedierfnes fir e mënschleche Chauffer um Rad, an et gëtt och keng Dispositioun fir e Mënsch fir d'Gefier ze fueren. Fir meng extensiv a lafend Ofdeckung vun Autonome Gefierer (AVs) a besonnesch selbstfahrend Autoen, kuckt de Link hei.

Ech wëll weider klären wat gemengt ass wann ech op richteg selbstfahrend Autoen schwätzen.

D'Niveaue vu Selbstfueren Autoen ze verstoen

Als Erklärung si richteg selbstféierend Autoen déi, datt den AI den Auto ganz eleng fiert an et gëtt keng mënschlech Hëllef wärend der Fueraufgab.

Dës Chaufferlos Gefierer ginn als Niveau 4 an Niveau 5 ugesinn (kuckt meng Erklärung op dëse Link hei), während en Auto, deen e mënschleche Chauffer erfuerdert fir de Fuereeffort ze deelen, gëtt normalerweis um Niveau 2 oder Niveau 3 ugesinn. automatiséiert Add-ons déi als ADAS bezeechent ginn (Advanced Driver-Assistance Systems).

Zu Level 5 gëtt et nach net e richtege Selbstfahren Auto, dee mir nach net wëssen ob dëst méiglech wier ze erreechen, an och net wéi laang et dauert fir dohinner ze kommen.

Mëttlerweil probéieren d'Niveau 4 Efforten no an no eng Traktioun ze kréien andeems se ganz schmuel a selektiv ëffentlech Stroosseverfahren duerchgoen, awer et ass Kontrovers iwwer ob dës Tester per se erlaabt sinn (mir sinn all Liewen oder Doud Meerschwäin an engem Experiment. statt op eisen Autobunnen an byways, e puer streiden, kuckt meng Ofdeckung um dëse Link hei).

Zënter semi-autonom Autoe brauchen e mënschleche Chauffer, d'Adoptioun vun deenen Autosformen wäert net däitlech anescht sinn wéi konventionell Gefierer ze fueren, sou datt et net vill nei ass fir sech iwwer dëst Thema ze decken (awer wéi Dir wäert gesinn an engem Moment, d'nächst Punkten si generell applicabel).

Fir semi-autonom Autoen ass et wichteg datt de Public muss iwwer e gestéiert Aspekt virgeworf ginn, dee viru Kuerzem entstoung, nämlech datt trotz deene mënschleche Chauffeuren, déi weider Videoe vu sech selwer schlofen um Rad vun engem Level 2 oder Level 3 Auto an, mir all musse vermeiden datt mir falsch ginn ze gleewen datt de Chauffer hir Opmierksamkeet vun der Fuehrfahrt kann ewechhuelen während e semi-autonomem Auto fuert.

Dir sidd déi verantwortlech Partei fir déi dreiwend Handlungen vum Gefier, egal wéi vill Automatioun an en Niveau 2 oder Niveau 3 gegoss ka ginn.

Selbstfahrend Autoen an ethesch AI Inokulatioun

Fir Level 4 a Level 5 richteg selbstfuerend Gefierer wäert et kee mënschleche Chauffer mat der Fuereaufgab involvéiert sinn.

All Besetzer wäerte Passagéier sinn.

Den AI mécht der Fuert.

Een Aspekt fir direkt ze diskutéieren implizéiert de Fakt datt den AI involvéiert an den haitegen AI Fuerersystemer net sentient ass. An anere Wierder, den AI ass insgesamt e Kollektiv vu computerbaséierter Programmatioun an Algorithmen, a ganz sécher net fäeg ze déiselwecht ze veruersaachen datt d'Mënschen kënnen.

Firwat ass dësen zousätzlechen Akzent iwwer den AI net sensibel?

Well ech wëll ënnersträichen datt wann ech iwwer d'Roll vum AI Fuerersystem diskutéieren, ginn ech net d'mënschlech Qualitéiten dem AI zou. Gitt weg datt et eng kontinuéierlech a geféierlech Tendenz ass dës Deeg d'Anthropomorphiséierung vum AI. Am Wesentlechen zielen d'Leit mënschlech wéi d'Gefill vun der haiteger AI zou, trotz der onbestreitbarer an onvermeidlecher Tatsaach datt bis elo nach keen esou AI existéiert.

Mat dëser Klärung kënnt Dir Iech virstellen datt den AI Fuerersystem net natierlech iergendwéi "weess" iwwer d'Facette vum Fuerer. Fueren an alles wat et mat sech bréngt, muss als Deel vun der Hardware a Software vum selbstfuerenden Auto programméiert ginn.

Loosst eis an déi Onmass Aspekter tauchen déi op dëst Thema spillen.

Als éischt ass et wichteg ze realiséieren datt net all AI selbstfahrend Autoen d'selwecht sinn. All Automobilist a selbstfahrend Tech Firma hëlt seng Approche fir selbstfahrend Autoen z'entwéckelen. Als esou ass et schwéier schwiereg Aussoen ze maachen iwwer wat AI Fueresystemer maachen oder net maachen.

Ausserdeem, wann Dir seet datt en AI Fuertsystem keng speziell Saach mécht, kann dëst spéider vun den Entwéckler iwwerholl ginn, déi de Computer tatsächlech programméiere fir dat Ganzt ze maachen. Schrëtt fir Schrëtt ginn AI Fuersystemer lues a lues verbessert a verlängert. Eng existent Limitatioun haut existéiert vläicht net méi an enger zukünfteger Iteratioun oder Versioun vum System.

Ech vertrauen datt et eng genuch Litane vu Virschrëfte gëtt fir z'ënnerstëtzen wat ech amgaang sinn ze beschreiwen.

Mir sinn elo prett fir en déif Tauchen an selbstfahrend Autoen an ethesch AI Méiglechkeeten ze maachen, déi d'Wëndbrecherbehaaptung mat sech bréngt datt mir AI kënne kréien fir iwwer ethesch Verhalen selwer ze "léieren".

Loosst eis en einfacht Beispill benotzen. En AI-baséiert selbstfahrenden Auto ass ënnerwee op Äre Quartierstroossen a schéngt sécher ze fueren. Fir d'éischt hues du all Kéier besonnesch opmierksam gemaach, datt Dir et fäerdeg bruecht huet den selbstfahrenden Auto ze gesinn. Dat autonomt Gefier stoung mat sengem Rack vun elektronesche Sensoren eraus, déi Videokameraen, Radareenheeten, LIDAR-Geräter an dergläiche enthalen. No ville Woche vum selbstfahrenden Auto ronderëm Är Gemeng, mierkt Dir et elo kaum. Wat Iech ugeet, ass et just en aneren Auto op de scho beschäftegten ëffentleche Stroossen.

Fir datt Dir denkt datt et onméiglech oder onplausibel ass Gewunnecht ze ginn mat selbstfahrenden Autoen ze gesinn, hunn ech dacks geschriwwen iwwer wéi d'Lokaler, déi am Kader vun de selbstfahrenden Autosprobéieren sinn, no an no gewinnt gewinnt sinn, déi ausgeräiften Gefierer ze gesinn, gesinn meng Analyse op dëse Link hei. Vill vun den Awunner hu sech schlussendlech vum mëndleche rappt Gawking gewiesselt fir elo en erweiderten Gaascht vu Langweil ze emittéieren fir déi meanderend selbstfahrend Autoen ze gesinn.

Wahrscheinlech den Haaptgrond grad elo, datt se déi autonom Gefierer bemierken, ass wéinst der Irritatioun an der Erschöpfungsfaktor. D'by-the-book AI Fahrsystemer suergen dofir datt d'Autoen all Geschwindegkeetsgrenzen a Regele vun der Strooss befollegen. Fir hektesch mënschlech Chauffeuren an hiren traditionelle Mënsch-Undriff Autoen, sidd Dir heiansdo irritéiert wann Dir hannert de strikt gesetzlech konsequent AI-baséiert selbstfahrend Autoen hält.

Dat ass eppes, wou mir all mussen Gewunnecht ginn, richteg oder falsch.

Zréck op eis Geschicht. Enges Daags, ugeholl, e selbstfahrenden Auto an Ärer Stad oder Stad fiert laanscht a kënnt op eng Situatioun wou e Foussgänger op d'Strooss waart. Dovun ausgoen, datt de Foussgänger net d'Recht vum Wee per se huet. E Mënsch ugedriwwenen Auto kéint laanscht de Foussgänger goen a ganz legal sinn. Och den AI Fueresystem ass legal fäeg laanscht de waardenende Foussgänger ze goen.

Decidéieren ob de Foussgänger ophalen an iwwer d'Strooss goen loossen ass ganz diskretionär fir de Chauffer, egal ob e mënschleche Chauffer oder en AI Fueresystem ass.

Ech si sécher datt Dir dës Aart vu Situatioun eng onzueleg Zuel vu Mol begéint hutt. Vläicht hutt Dir presséiert, also stoppt Dir net fir de Foussgänger iwwer ze loossen. Bei enger anerer Geleeënheet hutt Dir vill Zäit fir op Är Destinatioun ze kommen, also wielt Dir op ze stoppen an erlaabt der Waarde Persoun iwwer d'Strooss ze goen. Är Stëmmung an déi speziell Ëmstänn diktéieren wat Dir wäert wielen ze maachen.

Näischt iwwer dëst Szenario schéngt ongewéinlech oder nervös.

Ier ech d'AI Säit vun de Saachen ënnersichen, kéint Dir interesséiert sinn ze wëssen datt dëse speziellen Aspekt vun der Diskretioun, deen e Foussgänger erlaabt eng Strooss ze Kräiz, genee studéiert gouf. D'Fuerscher hunn identifizéiert datt heiansdo d'Wiel vum Chauffer anscheinend vu rassisteschen oder Geschlecht-Basen hänkt. E mënschleche Chauffer kéint de waartende Foussgänger vergréisseren an entscheeden fir d'Persoun z'erméiglechen ze iwwerstoen wéi anscheinend baséiert op den inherente Viraussetzungen vum Chauffer. Ob de Chauffeur iwwerhaapt mierkt datt se dat maachen ass eng Fro vun der lafender Fuerschung. Gesinn meng Ofdeckung op dëse Link hei.

Ech hunn d'Bühn gesat fir eis ze entdecken wat en AI Fueresystem an der Foussgängerkrees Situatioun maache kann.

Konventionell Programméierung vun der AI kéint matbréngen datt d'AI Entwéckler entscheeden ëmmer den AI Fueresystem opzehalen an de Foussgänger iwwerzeegen. Dëst schéngt déi ethesch richteg oder zivil Saach ze maachen. De selbstfahrenden Auto setzt sech op de waardenende Mënsch deen iwwer d'Strooss wëll.

Ech trauen Iech ze soen, wann Dir e Passagéier an engem selbstfahrenden Auto war an den AI ëmmer gestoppt fir all diskretionäre Foussgänger, da kënnt Dir Nëss ginn. Är séier Rees an d'Epicerie ka vill Mol méi laang daueren. Denkt och drun datt mir net op d'Foussgänger schwätzen, déi de devoute legale Wee fir ze Kräiz hunn, well dës Fäll viraussiichtlech schonn d'AI programméiert hunn fir ëmmer z'erméiglechen. Mir konzentréieren eis nëmmen op déi diskretionär Ëmstänn.

Et gi méi Nodeeler un dëser Deklaratioun fir ëmmer opzehalen fir diskretionär Foussgänger iwwer d'Strooss ze loossen.

Déi, déi AI-baséiert selbstfahrend Autoe maachen a Felder wëllen, datt d'Leit an hinnen fueren. D'Iddi ass datt mir duerch selbstfahrend Autoen d'Zuel vun alljährlechen Autosaccidenter reduzéiere kënnen, déi am Moment ongeféier 40,000 jäerlech Doudesfäll an 2.5 Millioune Verletzungen an den USA eleng produzéieren, kuckt meng Statistik Sammlung op dëse Link hei. Nieft dësem geéierten gesellschaftleche Zil, hoffen d'Automobilisten a selbstfahrend Tech Hiersteller och Suen aus hiren AI Kreatiounen ze verdéngen, natierlech esou.

Ech bréngen dëst op, well d'Leit kënnen entscheeden net an selbstfahrend Autoen ze fueren wann den AI Fuere System Saachen mécht onnéideg Enn Reesen Verspéidung. All alldeegleche Mënsch géif Ursaach datt amplaz e mënschleche Chauffer ze wielen d'Rees méi séier ka sinn, an ergo en AI selbstfahrenden Auto fir eng Rees auswielen kéint ganz niddereg op der Lëscht vun hire Choixe gesat ginn. Dat géif dann och bedeiten, datt mir déi gesichte Reduktioun vun den Autosaccidenter net hätten an och datt d'Hiersteller potenziell hir Wueren net rentabel fannen.

Mat deem Satz vun Argumenter, kënnt Dir gezwongen sinn ze denken datt d'AI ni sollt ophalen wann eng diskretionär Instanz vun engem Foussgänger optrieden deen d'Strooss wëll iwwerstoen. Programméiere just den AI Fuere System fir alles ze maachen wat strikt legal ass. Wann et keng gesetzlech Fuerderung ass fir e Foussgänger ze loossen, dann ass et schwéier fir dee waarden Foussgänger. Vläicht sollt d'Persoun de Wee op e Kräizpunkt maachen, deen et erlaabt eng gesetzlech Basis vun der AI de selbstfahrenden Auto ze stoppen.

Kënnt Dir Iech de Gejäiz iwwer dëst virstellen?

D'Leit an Ärer Stad oder Stad entdecken lues a lues datt AI selbstfahrend Autoen ni e diskretionäre Foussgänger erlaben. Dat verdammt irrascible AI! Et ass wéi wann d'AI seng Nues op d'Mënschen dréckt. Eng krank-Manéier Brat vun engem Stéck net-gutt Automatisatioun. Fir dëst ofzeschléissen, stellt Iech vir datt et dokumentéiert Ëmstänn vu Foussgänger sinn, déi verzweiwelt musse kräizen an d'AI géif guer net ophalen.

Mëttlerweil hu mënschlech Chauffeuren gär gestoppt fir déi "verzweifelt" Leit sécher iwwer d'Strooss ze loossen.

Als Resultat vun dësem Outrage sinn AI selbstfahrend Autoen net méi op de Stroossen an op de Stroossen vun Ärer Regioun begréisst. Genehmegungen, déi vun de Stadleader ausgestallt goufen, ginn zréckgezunn. Déi ondankbar Bruten vun eise Stroossen ze kréien ass de Gesang.

Okay, mir schéngen tëscht engem Fiels an enger haarder Plaz ze sinn. Den AI soll net ëmmer den diskretionäre Foussgänger duerchbriechen (net ëmmer ophalen). Den AI sollt net ëmmer verhënneren datt en diskretionäre Foussgänger iwwerschreift (zoom net ëmmer laanscht). Wat kann een maachen?

Déi offensichtlech Äntwert wier den AI ze programméieren fir diskretionär ze handelen.

Ech bieden Iech den ADM (algorithmesch Entscheedungsprozess) ze iwwerdenken, aus deem dëst sollt bestoen. Wäert d'AI probéieren d'Natur vum Foussgänger z'entdecken an déi erkannte Charakteristiken als Basis ze benotzen fir ze entscheeden ob de selbstfahrenden Auto ophalen oder net? Vläicht een eeler sicht ass de Wee fir ze wielen. Awer ass dat Altersdiskriminéierung amgaang? A sou weider.

Vläicht ass den AI Fueresystem programméiert fir während Dagesliichtstonnen ze stoppen an ni an der Nuecht opzehalen. D'Logik ass méiglecherweis datt et ugeholl gëtt datt et méi sécher ass fir d'Coureuren am selbstfahrenden Auto, datt dat autonomt Gefier am Dag stoppt, awer net an de méi schwaache Stonnen vun der Owendzäit.

Dat kléngt vläicht sënnvoll. En Deel vum Problem wäerten d'Erwaardunge vun de Foussgänger sinn. Hei ass wat ech mengen. Foussgänger gesinn d'AI selbstfahrend Autoen ophalen fir diskretionär Kräizungen, déi am Dagesliicht geschéien. D'Foussgänger wëssen net wéi eng Critèren d'AI benotzt fir ze entscheeden ze stoppen. D'Annahme vun e puer Foussgänger ass datt d'AI ëmmer ophält (net realiséiere datt d'Dagesliicht versus d'Nuetszäit de richtege Bestëmmung ass). Als Resultat wäerten déi Foussgänger, déi gleewen, datt de selbstfahren Auto ëmmer ophält, eng Chance huelen a fänken un ze kräizen wann den AI Fueresystem guer net zielt ze stoppen (wat den AI méiglecherweis ophält wann de Foussgänger geet an d'Strooss, och wann dëst schwiereg ka sinn an d'Physik kéint ausschléissen datt den AI den selbstfahrenden Auto net genuch Zäit stoppt fir de scheinbar "errant" Foussgänger ze schloen).

Gitt un datt d'AI Entwéckler an d'Firmen, déi selbstfahrend Autoen an Ärer Stad zesummesetzen an opstellen, net sécher sinn wéi d'AI an dëser Matière up-to-speed kréien.

Si entscheeden den AI ze "trainen" op Daten aus der ganzer Regioun gesammelt. Et stellt sech eraus datt et vill Stadmontéiert Kameraen sinn déi d'Kommen an d'Gitt vun Autoen duerch d'ganz Gemeng festgeholl hunn. Dës Donnéeë weisen vill Instanzen vu Foussgänger, déi d'Strooss op eng diskretionär Manéier sichen. All d'Donnéeë ginn an e Machine Learning an Deep Learning System gefüttert fir ofzeleeën wat als üblech an där Juridictioun ugesi gëtt.

Sinn mir den AI trainéiert fir ze maachen wat lokal ethesch Mores weisen fir ze maachen?

An anere Wierder, wann eng gegebene Stad eng lokal kulturell méi vun der Tendenz huet ze stoppen an diskretionär Foussgänger ze loosse wéi duerch mënschlech Chaufferhandlungen bewisen ass, géif den ML/DL potenziell computationally op dësem Muster ophuelen. Den AI géif dann trainéiert ginn fir datselwecht ze maachen. Am aneren Extrem, wann d'mënschlech Chauffeuren selten ophalen, géif d'AI potenziell dës "Lektioun" kréien aus der berechnender Analyse vun den Donnéeën. D'AI wäert maachen wéi d'Mënsche maachen, Aart.

D'Behaaptung ass datt d'ethesch Verhalen vun de Mënschen an den Donnéeën erfaasst ginn an datt d'AI déiselwecht ethesch Viraussetzungen duerch computational Analyse duerchdréit. En Ethiker géif dëst allgemeng als eng kommunitär Approche zur Ethik beschreiwen. Déi gemeinsam Wäerter vun der Gemeinschaft sinn an den Efforte vun der Gemeinschaft am grousse reflektéiert.

Dëst kéint wéi eng dandy Léisung schéngen.

Leider ginn et vill Falen.

Ee vläicht offensichtleche Problem ass datt déi mënschlech Chauffeuren scho vläicht eng Form vu Biases ausüben beim Choix ze stoppen oder net ze stoppen (wéi virdru scho gesot). Den AI wäert dann e Copycat vun dëse Biases sinn. Wëlle mir dat de Fall sinn?

Betruecht en anere Problem. Ugeholl datt mënschlech Chauffeuren net einfach akzeptéieren wéi d'AI selbstfahrend Autoen funktionnéieren. Just well mënschlech Chauffeuren, loosse mer soen, bereet waren ze stoppen, ass dat vläicht net gläich virausgesot fir selbstfahrend Autoen. Et kéint sinn datt mënschlech Chauffeuren irritéiert ginn vun den AI selbstfahrenden Autoen déi weiderhin fir diskretionär Foussgänger stoppen, och wann datselwecht geschitt mat den Hänn vu mënschleche Chauffeuren awer dat schéngt net mënschlech Chauffeuren ze stéieren.

Nieft beonrouegend ze sinn, kënnt Dir och d'Méiglechkeet zauberen datt mënschlech Chauffeuren onopfälleg selbstfahrend Autoen hannerloossen. Wann e mënschleche Chauffeur net erwaart huet datt de selbstfahrenden Auto fir e Foussgänger stoppt, a wann de mënschlech ugedriwwenen Auto direkt hannert dem selbstfahrenden Auto ass, kann e schlëmmen Erwaardungsmëssmatch entstoen. Den AI Fuere System bréngt de selbstfahrenden Auto op eng Stopp. De mënschleche Chauffer huet dës Aktioun net virausgesot. De mënschleche Chauffer klappt an de selbstfahrenden Auto. Blesséierter a méiglecherweis Doudesfäll entstoen.

Ech hunn bewosst op d'Chancen vu mënschleche Schued drop higewisen.

De Foussgänger, deen d'Strooss kräizt, kéint op ee séiere Bléck als eng trivial Fro schéngen. Et géif schéngen datt kee verletzt ka ginn duerch egal wéi eng Method den AI wielt fir ze stoppen oder net opzehalen. Falsch! Et besteet eng Chance datt de Foussgänger iwwerrannt gëtt. Et besteet d'Chance datt e Mënsch ugedriwwen Auto an de selbstfahrenden Auto rammt. De Chauffer an d'Passagéier vum Mënsch ugedriwwenen Auto kënne blesséiert ginn. D'Coureuren am selbstfahrenden Auto kënne blesséiert ginn. Zousätzlech Permutatioune vu méigleche mënschleche Schued si liicht virgesinn.

Konklusioun

Apropos mënschleche Schued, ech ginn Iech soss eppes fir Är Gedanken iwwer dëst ethesch AI Conundrum ze dréinen.

Eng Noriicht huet gemellt, datt e Mann mat engem Auto an eng Kräizung gefuer ass an gréng Luucht hat dofir. En aneren duerch Mënsch ugedriwwenen Auto huet sech entscheet fir d'rout Luucht vun der Kräizung ze fueren an ass illegal an onsécher onbehënnert an d'Kräizung gaang, a menacéiert de gesetzlech virgefuerderten Auto ze schloen.

De Chauffer huet de Reporter gesot datt hie muss wielen tëscht dem Schlag ze huelen, oder hie kéint säin Auto fueren fir hoffentlech net ugestouss ze ginn, awer et waren Foussgänger an der Géigend an d'Véieraktioun kéint dës Leit a Gefor bréngen. Wat géifs du maachen? Dir kënnt wielen vun dësem dreiwenden Auto getraff ze ginn a vläicht liewen fir d'Geschicht ze erzielen. Oder Dir kënnt probéieren ze vermeiden, awer mëttlerweil eventuell onschëlleg Foussgänger erof ze lafen.

Vill vun eisem alldeegleche Fuere huet dës Aarte vun ethesch enorm an direkt Entscheedungen ze huelen. Ech hunn dëst laang diskutéiert, zesumme mat dëse Liewen-oder-Doud-Fuerentscheedungen am Zesummenhang mat de berühmten oder e puer soen berühmten Trolley-Problem, kuckt meng Ausschaffung op de Link hei.

Ersetzt de mënschleche Chauffer an dësem Szenario mat engem AI Fueresystem.

Wat wëllt Dir d'AI maachen?

Dat ass eng perplexing Fro.

Eng Approche ass d'AI ze programméieren fir strikt reng riichtaus Fueraktioun ze maachen, also net emol berechnend aner Optiounen ze berücksichtegen, sou wéi de méigleche Crash ewechzekréien. Ech géif virauszesoen datt d'Fuerer an selbstfahrenden Autoen opgeregt ginn fir erauszefannen datt den AI net entwéckelt gouf fir näischt anescht ze maachen wéi den Hit ze huelen. Dir kënnt Gesetzer an en Opschwong erwaarden.

Eng aner Approche wier et ze probéieren den AI ze programméieren fir déi verschidde Méiglechkeeten ze berücksichtegen. Wien kritt awer den ADM opzebauen deen entscheet wéi de Wee den AI Fueresystem géif goen? Et géif schéngen datt AI Entwéckler erlaben esou schwéier Entscheedungen eleng ze treffen ass voll mat vill Bedenken.

Dir kënnt probéieren den AI ze loossen "léieren" vu mënschleche Fuerdaten gesammelt duerch alldeegleche Verkéierssituatiounen. Dëst ass ähnlech dem Foussgänger Kräizgang Dilemma an déi virdru proposéiert Iddi fir versammelt Donnéeën ze benotzen fir den AI ze sammelen wat och ëmmer déi lokal ethesch Moren schéngen ze sinn. Et gi vill Opgepasst doriwwer, sou wéi ob d'ML / DL entdeckte Mustere passend sinn oder net, etc.

Ech hat och viraus gewarnt datt et eng Chance ass datt den AI vläicht onethescht Verhalen erfaasst, ofhängeg vun den involvéierten etheschen Moren. Zum Beispill, ugeholl datt d'AI iergendwéi op engem Rechenmuster gelant ass fir ëmmer op d'Foussgänger ze zielen wann en aneren Auto bedroht huet de selbstfahrenden Auto ze schloen.

Whoa, passt op Foussgänger, Dir wäert fäerdeg Ziler sinn.

Et ass Zäit d'Diskussioun fir de Moment ofzeschléissen an dat mat engem häerzleche Schlussdenken ze maachen.

Dir wësst vläicht datt den Isaac Asimov seng "Three Laws Of Robotics" am Joer 1950 proposéiert huet a mir sinn nach bis haut begeeschtert vun deene proklaméierte Reegelen. Och wann d'Regele schéngen einfach z'erhalen ze sinn, sou wéi datt en AI System oder Roboter kee Mënsch schueden an och e Mënsch net erlaben ze schueden, et gi vill entscheedend Nuancen déi dëse komplexen an heiansdo onhaltbar maachen, kuckt meng Analyse op de Link hei.

Op alle Fall, hei ass eppes anescht, fir deen den Asimov och bekannt ass, awer manner wéi: "Loosst ni Äert Sënn vu Moral am Wee stoen fir ze maachen wat richteg ass."

Fir den etheschen AI, dee mir all hoffen ze entwerfen, musse mir am Kapp behalen datt d'AI Ethik, déi duerchgefouert gëtt, vläicht net ass wat mir virausgesot hunn an datt iergendwéi d'AI nach ëmmer muss maachen wat richteg ass. Asimov sot et gutt. Laang virdru schéngt den Aristoteles zimlech ähnlech Gefiller ze denken.