AI Ethik an Autonom Systemer Lektioune vun deem rezenten Alaska Airlines Fluch wou de Pilot a Co-Pilot net averstane waren ier se fortgaange sinn an abrupt entscheeden Taxi zréck op den Terminal an hir getrennte Weeër ze goen

Fluchgesellschafte sinn zënter kuerzem an den Neiegkeeten.

Mir sinn am Summer Crunch vun Flich. Middeg a frustréiert Passagéier fannen sech mat all Zorte vu Fluchstéierungen a Fluchgesellschafte Fuerplangkontortioune konfrontéiert. Flich ginn onerwaart annuléiert. Flich sinn verspéit. Passagéier fëmmen. Et goufe leider vill Fäll vu Passagéier, déi et erlaben dës Verwierrungen auszebriechen, a mir hu schrecklech vill ze vill viral Videoe vu Kapp-zu-Kapp Konfrontatiounen an heiansdo pummelende Féiss gesinn.

Méi rar léiere mir iwwer Streidereien tëscht engem Pilot an engem Copilot, déi am Cockpit optriede kënnen.

Dat ass eng ganz Iwwerraschung.

Tatsächlech sinn mir natierlech iwwerrascht ze denken datt e Pilot a Copilot iergendeng Scheinung vun enger seriöer Meenungsverschiddenheet während all Etapp vun engem Fluch hunn. Wann d'Desaccord mat wéi eng Kaffismark am Beschten ass, ass eis Virgab datt dëst net an d'Aarbechtseffort géif agebrach ginn fir de Fliger ze fléien. Déi zwee géifen einfach hir Manktem un Aen-zu-Aen op engem anscheinend Fluch-irrelevant Thema ofzéien. Hir berufflech Verhalen a laangjähreg Pilottraining géifen eran kommen a si géifen hire Fokus zréck op d'Fluchdetailer zréckhalen.

Bedenkt awer wann eng berufflech Desaccord intervenéiert.

Ech wäert Iech kuerz eng Neiegkeet deelen déi wäit publizéiert gouf iwwer eng rezent Instanz vun eppes wat geschitt ass während engem Fluch an den USA am Zesummenhang mat enger behaapt professionneller Meenungsverschiddenheet am Cockpit.

Dëst gëtt haaptsächlech hei zitéiert fir datt mir e verwandt Thema kënnen entdecken dat vu grousser Wichtegkeet ass fir d'Entstoe vu Kënschtlech Intelligenz (AI). Dir gesitt, et kann eng Form vu wa mir soen professionell Meenungsverschiddenheeten tëscht net nëmme Mënschen an engem Mënsch-zu-Mënsch Meenungsverschiddenheet sinn, awer mir kënnen och eppes ähnleches optrieden an der Adoptioun vun AI an ergo resultéierend Mënsch-versus-AI berufflech Meenungsverschiddenheeten . All Zorte vun AI Ethik Considératiounen entstinn. Fir meng extensiv a lafend Ofdeckung vun AI Ethik an Ethesch AI Themen, kuckt de Link hei an de Link hei, just fir e puer ze nennen.

Maacht Iech prett fir eng faszinéierend Geschicht.

Wéi viru kuerzem an den Neiegkeeten gemellt, ass e Fall vu "berufflechen Desaccord" anscheinend entstanen wärend engem Alaska Airline Fluch dee vu Washington op San Francisco gefuer ass. Laut den Noriichten, war de Fluch vun der Paart ewech geréckelt a waart um Tarmac op Erlaabnis fir Taxi a Fluch ze huelen. E Stuerm war ënnerwee an huet zu enger Fluchverspéidung vu méi wéi annerhallef Stonn gefouert. Et stellt sech eraus, datt de Fliger schlussendlech ëmgedréint huet an zréck an d'Paart gaang ass, wat e puer vun de Passagéier normalerweis ugeholl hätten, war einfach eng Stuerm-verbonne Sécherheetsmoossnam.

No verschiddenen Tweets schéngt et datt de Pilot an de Copilot während hirer Zäit do am Cockpit eng Aart vun Aussiichtsfeid haten an iergendwéi zur Conclusioun komm sinn datt déi virsiichtegst Approche wier de Fluch ze scrubben an zréck an den Terminal . Tweets hu virgeschloen datt de Kapitän an den Éischten Offizéier anscheinend net matenee eens konnten. D'Airline huet spéider eng Erklärung erausginn datt d'Situatioun onglécklech war (d'Situatioun war net explizit uginn oder erkläert per se), déi zwee Fluchbeamten goufen vun der Direktioun evaluéiert a fit ugesinn fir ze fléien, d'Crews goufen ausgetauscht, an de Fluch huet endlech stattfonnt a spéider op San Francisco erreecht.

An engem Sënn, wann tatsächlech de Pilot an de Copilot eng professionell Meenungsverschiddenheet haten, wéi ob de Fliger passend prett war fir ze fléien oder ob de Risiko fir duerch e Stuerm ze fléien an engem passenden Sécherheetsberäich war, sollten dës Passagéier erliichtert ginn an dankbar datt de Fliger an d'Paart zréckkoum. Besser sécher ze sinn wéi entschëllegt. Eng zousätzlech Verspéidung ze hunn ass derwäert der presuméierter Reduktioun vu Risiken, déi mat enger considéréierter robuster oder negativer Fluchrees verbonne sinn.

Verschidde Leit kënnen iwwerrascht sinn, datt esou eng professionell Desaccord kéint entstoen.

Mir hunn vläicht e falschen Androck datt alles wat am Cockpit geschitt ganz präzis a gutt geschriwwen ass. All Form vu mënschlechen Diskretioun ass anscheinend aus dem Prozess gewéckelt ginn. Baséierend op exakt a grëndlech berechent Charts, ass e Fluch entweder an der Rei oder net. Et kann keng Meenungsverschiddenheet ginn wann de ganze Kit an Caboodle geduecht ass baséiert op irrefutable Berechnung vun Fakten an Zuelen.

Dat ass net déi voll Wourecht vun der Saach. Sécher, et gëtt eng ganz Rëtsch vu Protokoller an all Zorte vu Schecken a Gläichgewiicht, awer dëst dréckt net all Iota vu mënschlecht Uerteel eraus. Piloten a Copiloten üben ëmmer nach mënschlecht Uerteel aus. Glécklecherweis gëtt dëst mënschlecht Uerteel duerch Jore vu fléien verfeinert. D'Chance sinn datt e Pilot a Copilot an engem kommerziellen Passagéierfliger Gobs vu fréiere Flucherfahrung hunn a liicht hir ville Joeren am-Déift Begrënnung an Uerteel verbonne mat der Fluchkontrolle sinn.

Mat der bemierkenswäerter Roll vum mënschlechen Uerteel kënne mir logesch viraussoen datt e Pilot a Copilot heiansdo professionell Meenungsverschiddenheeten hunn. Déi meescht vun der Zäit gëtt et viraussiichtlech ganz wéineg esou Meenungsverschiddenheeten. De Pilot an de Copilot fir all Dag Flich si méiglecherweis gutt ausgeriicht mat der Iwwerhand vun der Zäit. Nëmme wann e Fluchszenario ausserhalb vun de konventionelle Grenze kéint erwaarden, datt méi spannen Reibung entstinn.

Wann et e staarken Meenungsverschiddenheet tëscht deenen zwee ass, géif ech trauen ze soen datt mir wëllen datt se et erauskréien.

Stellt Iech eng Situatioun vir, wou de Pilot streiteg wëll virugoen, awer de Copilot erkennt datt d'Risiken ze héich sinn. Just de Copilot Kowtow zum Pilot ze hunn wier onerwënscht. De Copilot ass e Check-and-Balance zu deem wat e Pilot denkt drun ze maachen. Fir déi, déi wëllen, datt e Copilot zoumaachen an eleng sënnlos handelen op wat och ëmmer de Pilot entscheet, gutt, dat ass net vill vun enger Berouegung. E Copilot ass net nëmmen e Ersatz "Pilot" deen nëmmen an d'Bild kënnt wann de Pilot komplett onfäheg ass. Dat ass e falscht Verständnis vum Wäert fir e Pilot a Copilot am Cockpit ze hunn.

Et gëtt en anere Wénkel fir dëst.

Betruecht de Fall vun engem Pilot deen net gleeft datt e Fluch sollt virugoen an mëttlerweil ass de Copilot gung-ho fir an d'Loft eropzekommen. Wat dann? Vun der erwaarter Hierarchie soll de Pilot konventionell iwwer de Copilot herrschen. Déi designéiert Roll fir de primäre Verantwortlech ze sinn mécht de Pilot méi grouss vun deem wat soss e bësse gläich ass. Normalerweis huet de Pilot méi allgemeng Fliegerzäit wéi de Copilot, an ergo soll de Copilot hierarchesch dem Pilot seng Wënsch ofginn (wann am Grond).

Op alle Fall, ech mengen, mir kënnen all d'accord sinn datt d'Optioun net ze fléien eng sécher manner riskant Wiel ass wéi d'Decisioun ze fléien. Wann de Fliger an der Loft ass, ginn d'Risikoniveauen enorm am Verglach zu all normale stabile Buedem. E übleche kommerziellen Fluch deen einfach zréck an den Terminal fuert ouni an d'Loft geklomm ze sinn wier eng zimlech frëndlech Resolutioun fir all erhëtzt akrimonesch Debatt iwwer de Fluch ze goen.

Loosst eis Gears wiesselen a benotzen dës spunky Neiegkeet fir en ganz aneren awer relatabelen Zweck.

Mir hu graduell ënner eis eng Prävalenz vun AI-baséiert autonom Systemer. Heiansdo leeft d'AI d'Show, wéi et war. Den AI mécht alles vun A bis Z, a mir kënnen dëst als AI interpretéieren déi komplett autonom ass oder bal esou. An anere Fäll kënne mir AI hunn déi interagéiert mat an zu engem gewësse Grad programméiert ass fir ofhängeg vun engem Mënsch-an-der-Loop ze hunn.

Ech wéilt mech op d'Thema vun engem AI-baséierten autonomen oder semi-autonome System konzentréieren, deen vun Ufank un e Mënsch an der Loop huet. Den AI an de Mënsch ginn bewosst zesumme gedréckt a sollen an Tandem matenee schaffen. Si sinn Kohorten an der Leeschtung vun enger bestëmmter Aufgab op der Hand. Den AI eleng soll net op der Aufgab handelen. D'AI muss mat dem designéierte Mënsch-an-der-Loop interagéieren.

Ech bréngen dës Charakteriséierung op fir vun Situatiounen z'ënnerscheeden, wou de Mënsch-an-der-Loop als optional Facet ugesi gëtt. Am Wesentlechen gëtt den AI fräi Rein. Wann d'AI entscheet fir de Mënsch ze benotzen, also sief et fir dat ze maachen. Et gëtt keng Fuerderung datt d'AI d'Basis muss beréieren oder mat dem designéierte Mënsch Hand-an-Hand schaffen. D'Analysen, déi ech amgaang sinn ze bezéien, si sécherlech pertinent fir dës Zort Optional Interaktiounsarrangement, awer et ass net wat ech speziell an dëser spezieller Diskussioun fueren.

Okay, also hu mir eng Aart vun Aufgab, un där e Mënsch an eng AI zesumme schaffen, onofhängeg vuneneen. An engem abstrakte Sënn hu mir e Mënsch, deen an engem Sëtz sëtzt an en AI-System, deen am anere begleetende Sëtz sëtzt. Ech soen dat frech well mir dës Diskussioun net nëmmen op e Roboter beschränken, zum Beispill, deen eigentlech an engem Sëtz sëtzt. Ech zéien metaphoresch op d'Notioun datt d'AI iergendwou un der Aufgab deelhëllt an esou ass de Mënsch. Kierperlech ass hir Plaz net besonnesch wichteg fir d'Diskussioun.

Dir sidd vläicht net sécher, wéini esou eng Ëmstänn entstoe kéint.

Einfach peasy.

Ech wäert spéider iwwer d'Entstoe vun autonomen Gefierer a selbstfueren Autoen diskutéieren. Op bestëmmte Niveauen vun Autonomie sollen d'AI an de Mënsch zesumme schaffen. D'AI kéint den Auto fueren an froen datt de Mënsch d'Fuerkontrolle iwwerhëlt. De Mënsch kéint den Auto fueren an den AI aktivéieren fir d'Kontrollen ze iwwerhuelen. Si wiesselen sech bei de Fuerkontrolle.

Zousätzlech hunn e puer Designs datt d'AI wesentlech déi ganzen Zäit aktiv ass (oder, ausser ausgeschalt), sou datt d'AI ëmmer prett ass. Ausserdeem kann d'AI direkt intervenéieren, och ouni de Mënsch ze froen, ofhängeg vun der Situatioun déi sech entwéckelt. Ugeholl zum Beispill, datt de Mënsch schéngt um Rad ageschlof ze sinn. Well de Mënsch anscheinend den AI net kann aktivéieren (well d'Persoun schléift), kann den AI programméiert ginn fir d'Kontrollen vum Mënsch ze iwwerhuelen.

E puer Designen bréngen d'AI an d'Mënschen an eng duebel Fuere Approche. Den AI fiert an de Mënsch fiert. Oder, wann Dir léiwer, de Mënsch fiert an d'AI fiert och. Si fuere jidderee mam Gefier. Ech vergläichen dëst mat deene speziell rigged Autoen, déi Dir vläicht benotzt hutt wann Dir Chauffer Training gemaach hutt an et waren zwee Sets vu Fuerkontrolle am Gefier, ee fir de Studentefuerer an ee fir de Fahrinstruktor.

Dat ass nëmmen ee Beispill vun engem Kader an deem AI a Mënschen zesummen un enger Aufgab schaffen. All Manéier vu Méiglechkeeten existéieren. Aner Aarte vun autonom Gefierer kënnen ähnlech ausgeschafft ginn, wéi Fligeren, Dronen, Taucher, Surface Schëffer, Zich, asw. Mir mussen net nëmmen Gefierer an Transport Astellunge berücksichtegen. Stellt Iech de medizinesche Domain a Chirurgie vir, déi zesumme vun engem Dokter an engem AI System ausgefouert ginn. D'Lëscht ass endlos.

Ech hu bal Loscht op de klassesch onrouege Witz iwwer e Mënsch an eng AI ze referenzéieren déi zesummen an eng Bar goen. Et ass zimlech e Lach fir déi an AI.

Eescht, loosst eis zréck op de Fokus vun engem Mënsch an engem AI System deen zesummen un enger bestëmmter Aufgab schafft. Als éischt wëll ech anthropomorphiséierend AI vermeiden, wat ech uechter wäert ënnersträichen. Den AI ass net sentient. Weg halen dat am Kapp.

Hei ass eppes ze iwwerdenken: Wäert en designéierte Mënsch-an-der-Loop ëmmer am ganzen Accord mat engem co-teamed AI sinn?

Fir all komplex Aufgab, et schéngt onwahrscheinlech datt de Mënsch an d'AI ganz an ëmmer voll a Spär a Schrëtt wäerte sinn. De Mënsch ass bei e puer Geleeënheeten méiglecherweis net mat der AI averstanen. Mir kënnen dës Viraussetzung bis an d'Bank huelen.

Ech géif gären datt Dir och dës vläicht iwwerraschend Méiglechkeet och betruecht: Wäert d'AI ëmmer am ganzen Accord mat engem designéierte Mënsch-an-der-Loop sinn?

Nach eng Kéier, fir all komplex Aufgab, schéngt et ganz denkbar ze sinn datt AI bei e puer Geleeënheeten net mat de Mënschen averstane wäert sinn. Wann Dir schonn op d'Iddi leet datt AI ëmmer falsch muss sinn, während d'Mënschen ëmmer richteg musse sinn, wier Dir schlau dës séier Conclusioun ze iwwerdenken. Stellt Iech en Auto vir, deen e Mënsch an AI zesumme mam semi-autonome Gefier féiert. De Mënsch steiert op eng Mauer. Firwat? Mir wëssen et net, vläicht ass de Mënsch alkoholiséiert oder ass ageschlof, awer mir wëssen datt an eng Mauermauer ofbriechen ass keng gutt Iddi, alles anescht gläich. D'AI kéint déi zukünfteg Katastroph z'entdecken a sichen ewech vun der bevirsteet Barrière ze steieren.

Alles gesot, mir wäerten déi ënnerschiddlech Méiglechkeet hunn datt den AI an de Mënsch net matenee averstane sinn. Déi aner Manéier déi selwecht Saach ze soen ass, datt Mënschen an AI si mateneen net averstanen. Notéiert datt ech net wëll datt d'Sequenzéierung vun AI-a-Mënsch versus Mënsch-an-AI eppes iwwer d'Richtung oder Plausibilitéit vum Desaccord suggeréiert.

Déi zwee Aarbechter, ee Mënsch an een deen AI ass, sinn net mateneen averstanen.

Mir kéinten am Viraus deklaréieren datt wann ëmmer en Desaccord tëscht engem bestëmmten AI an engem bestëmmte Mënsch geschitt, mir virdru proklaméieren datt de Mënsch iwwer den AI herrscht. Wann dat gesot gëtt, meng illustrativ Beispill iwwer den Auto, deen an eng Mauermauer leeft, schéngt eis ofzehalen, datt de Mënsch ëmmer onbedéngt richteg wäert sinn.

Mir kéinten am Géigesaz entscheeden am Viraus ze deklaréieren datt wann ëmmer en Desaccord entsteet, datt mir virdru festgestallt hunn datt d'AI richteg ass an de Mënsch falsch ass. Dëst ass och net eng sënnvoll generaliséierbar Bestëmmung. Stellt Iech en Auto vir, an deem d'AI e puer embedded Softwarefehler oder Käfer huet, an den AI probéiert d'Gefier vun der Strooss an an eng Grouf ze steieren. Unzehuelen datt alles anescht gläich ass, sollt de Mënsch fäeg sinn dës AI Fuereaktioun ze iwwerwannen an ze verhënneren datt d'Gefier am Schlof landen.

Loosst eis e séiere Resumé vun dësem maachen:

• Wäert e Mënsch-an-der-Loop ëmmer ganz Accord mat AI sinn? Äntwert: Nee.
• Wäert AI ëmmer am ganzen Accord mat engem Mënsch-an-der-Loop sinn? Äntwert: Nee.
• Wäert e Mënsch-an-der-Loop ëmmer richteg sinn am Verglach mat AI? Äntwert: Net onbedéngt.
• Wäert d'AI ëmmer richteg sinn am Verglach zum Mënsch-an-der-Loop? Äntwert: Net onbedéngt.

Dir kënnt sécherlech den AI astellen fir als Standard als déi "falsch" oder méi schwaach Partei ugesi ze ginn an dofir ëmmer dem Mënsch ofzeginn wann ëmmer en Desaccord erschéngt. Och Dir kënnt den AI opstellen fir unzehuelen datt d'AI als "richteg" ugesi gëtt wann e Mënsch net mat der AI net averstanen ass. Ech wëll klären, datt mir dat programmatesch kënne maachen, wa mir dat wëllen. Ech behaapten awer, datt dat am Allgemengen net ëmmer de Fall wäert sinn. Et gi sécherlech Astellungen, an deenen mir am Viraus net wëssen ob den AI "richteg" ass oder de Mënsch "richteg" ass wat d'Optioun fir deen een oder aneren op en Desaccord mat enger bestëmmter Aufgab ass.

Ech hunn Iech op eng ganz wichteg an héich komplizéiert Fro gefouert.

Wat solle mir maachen wann e professionnelle Meenungsverschiddenheet tëscht dem Mënsch-an-der-Schleifen an AI geschitt (oder, gläichwäerteg, kënne mir dat ausdrécken als tëscht der AI an dem Mënsch-an-der-Loop)?

Probéiert net d'Fro ze vermeiden.

E puer kënne plädéieren datt dëst ni geschéie géif, awer wéi ech a mengem Beispill iwwer den Auto gesot hunn, kéint et sécher geschéien. E puer kënne plädéieren datt e Mënsch offensichtlech superior ass a muss de Gewënner vun all Desaccord sinn. Mäi Beispill vum Auto an der Mauer klappt deen erof. Et gi AI Verdeedeger déi insistéiere kënnen datt AI de Gewënner muss sinn, wéinst anscheinend mënschlech Emotiounen iwwerwannen a wahnsinneg Denken vun deenen zoufälleg fuzzy-denken Mënschen. Nach eng Kéier, mäin anert Beispill, deen den Auto an den Dëppe setzt, ënnersträicht dës Behaaptung.

An der realer Welt wäerten AI a Mënschen net averstane sinn, och wann déi zwee virsiichteg an eng Teamsituatioun bruecht ginn fir eng gemeinsam Aufgab auszeféieren. Et wäert geschéien. Mir kënnen de Kapp net an de Sand leeën a maache wéi wann et net geschitt.

Mir hunn gesinn datt d'Mënschen, déi de Fliger pilotéieren, anscheinend net eens sinn. Glécklecherweis si si ausgemaach net averstanen ze sinn, sou schéngt et. Si hunn de Fliger zréck an den Terminal bruecht. Si hunn e Mëttel fonnt fir mat der Desaccord ëmzegoen. D'Resolutioun fir hir Meenungsverschiddenheet huet gutt geklappt, am Verglach zu wa se vläicht an de Cockpit gefëscht waren oder vläicht an d'Loft geflunn sinn a weider matenee kämpfen. Dat ass e traureg Szenario deen onhaltbar ass, a mir kënne dankbar sinn datt et net geschitt ass.

Erlaabt mir meng Lëscht vun de verschiddene Weeër ze bidden, wéi d'AI a Mënsch-an-der-Loop (oder, Mënsch-an-der-Loop an AI) Meenungsverschiddenheeten geléist kënne ginn:

• AI an de Équipe-up Mënsch schaffen Saachen aus (frëndlech oder net)
• De Mënsch herrscht iwwer d'AI, par défaut
• AI herrscht iwwer de Mënsch, par défaut
• E puer aner virbestëmmte fixe Resolutioun herrscht, par défaut
• Drëtte-Partei-Mënsch ass geschloen an hir Indikatioun herrscht iwwer d'Parteien
• Drëtt-Partei AI ass geschloen a seng Indikatioun herrscht iwwer d'Parteien
• Drëtt Partei Mënsch ersetzt den existente Mënsch, d'Saache ginn nei
• Drëtt-Partei AI ersetzt déi existent AI, Saachen ginn nei
• Drëtt Partei Mënsch ersetzt déi existent AI, d'Saache ginn nei (elo Mënsch-zu-Mënsch)
• Drëtt-Partei AI ersetzt den existente Mënsch, Saache ginn nei (elo AI-zu-AI)
• aner

Déi si vill wäertvoll ausgepackt ze ginn.

Ier mer e bësse méi Fleesch a Gromperen iwwer déi wilde a wollekeg Iwwerleeungen ënnerleien, wéi mat AI a mënschlech Meenungsverschiddenheeten ëmzegoen, loosst eis e puer zousätzlech Fundamenter iwwer déif wesentlech Themen ausleeën. Mir mussen kuerz e breezy Tauche an AI Ethik huelen a besonnesch d'Entstoe vu Machine Learning (ML) an Deep Learning (DL).

Dir sidd vläicht vague bewosst datt eng vun de haartste Stëmmen hautdesdaags am AI Feld an och ausserhalb vum AI Feld besteet aus dem Geruff no enger méi grousser Scheinheet vun ethescher AI. Loosst eis kucken wat et heescht fir AI Ethics an Ethical AI ze referenzéieren. Ausserdeem wäerte mir entdecken wat ech mengen wann ech vu Machine Learning an Deep Learning schwätzen.

E bestëmmte Segment oder Deel vun der AI Ethik, déi vill Medienopmierksamkeet kritt huet, besteet aus AI déi ongerecht Biases an Ongläichheeten ausweist. Dir sidd vläicht bewosst datt wann déi lescht Ära vun AI ugefaang huet, et e grousse Burst vun Begeeschterung war fir wat e puer elo nennen AI Fir Gutt. Leider, op den Fersen vun där grujeleger Opreegung, hu mir ugefaang Zeien AI Fir Schlecht. Zum Beispill, verschidde AI-baséiert Gesiichtserkennungssystemer goufen opgedeckt wéi se rassistesch Biases a Geschlecht Biases enthalen, déi ech diskutéiert hunn. de Link hei.

Efforten ze kämpfen zréck géint AI Fir Schlecht aktiv ënnerwee sinn. Nieft vociferous legal Verfollegungen fir de Mëssbrauch z'erhiewen, gëtt et och e wesentleche Push fir d'AI Ethik ëmzegoen fir d'AI Vielness ze rächen. D'Notioun ass datt mir wichteg ethesch AI Prinzipien solle adoptéieren an ënnerstëtze fir d'Entwécklung an d'Feldung vun AI ze maachen fir de AI Fir Schlecht a gläichzäiteg d'Preferenz ze heraldéieren a förderen AI Fir Gutt.

Op enger verwandter Notioun sinn ech en Affekot fir ze probéieren AI als Deel vun der Léisung fir AI-Schwieregkeeten ze benotzen, Feier mat Feier ze kämpfen an där Manéier vum Denken. Mir kënnen zum Beispill Ethesch AI Komponenten an en AI System embetteren deen iwwerwaacht wéi de Rescht vun der AI d'Saache mécht an domat potenziell diskriminéierend Efforten an Echtzäit opfänken, kuckt meng Diskussioun op de Link hei. Mir kënnen och e separaten AI System hunn, deen als Typ vun AI Ethics Monitor handelt. Den AI System déngt als Iwwerwaacher fir ze verfolgen an z'entdecken wann en aneren AI an den onetheschen Ofgrond geet (kuckt meng Analyse vu sou Fäegkeeten op de Link hei).

An engem Moment wäert ech mat Iech e puer iwwergräifend Prinzipien deelen, déi AI Ethik ënnerleien. Et gi vill vun dësen Aarte vu Lëschte ronderëm hei an do. Dir kënnt soen datt et nach net eng eenzeg Lëscht vun universellen Appel a Konkurrenz ass. Dat ass déi onglécklech Noriicht. Déi gutt Noriicht ass datt op d'mannst et liicht verfügbar AI Ethics Lëschte sinn a si tendéieren zimlech ähnlech ze sinn. Alles gesot, dëst suggeréiert datt duerch eng Form vu rational Konvergenz vu verschiddenen Aarte mir eise Wee an eng allgemeng Gemeinsamkeet fannen, aus deem AI Ethik besteet.

Als éischt, loosst eis kuerz e puer vun den allgemenge etheschen AI Virschrëfte ofdecken fir ze illustréieren wat e vital Considératioun sollt sinn fir jiddereen deen AI bastelt, fält oder benotzt.

Zum Beispill, wéi gesot vum Vatikan am Rom Call Fir AI Ethik a wéi ech am-Déift Daach am de Link hei, dëst sinn hir identifizéiert sechs primär AI Ethik Prinzipien:

• Transparenz: Am Prinzip mussen AI Systemer erklärbar sinn
• Inclusioun: D'Bedierfnesser vun all Mënsch musse berücksichtegt ginn, fir datt jidderee profitéiere kann, an all Eenzelnen déi beschtméiglech Konditioune gebuede kréien fir sech auszedrécken an z'entwéckelen.
• Verantwortung: Déi, déi d'Benotzung vun AI designen an ofsetzen, musse mat Verantwortung an Transparenz virgoen
• Onpartialitéit: Schafen oder handelen net no Viraussetzungen, sou datt d'Gerechtegkeet an d'mënschlech Dignitéit ofgeséchert sinn
• Zouverlässegkeet: AI Systemer musse fäeg sinn zouverlässeg ze schaffen
• Sécherheet a Privatsphär: AI Systemer musse sécher funktionnéieren an d'Privatsphär vun de Benotzer respektéieren.

Wéi gesot vum US Department of Defense (DoD) an hirem Ethesch Prinzipien fir d'Benotzung vu kënschtlecher Intelligenz a wéi ech am-Déift Daach am de Link hei, dëst sinn hir sechs primär AI Ethik Prinzipien:

• Verantwortlech: DoD Personal wäert entspriechend Niveaue vu Uerteel a Suergfalt ausüben wärend se verantwortlech bleiwen fir d'Entwécklung, d'Deployment an d'Benotzung vun AI Fäegkeeten.
• Gerechtegkeet: D'Departement wäert bewosst Schrëtt huelen fir onbedéngt Bias an AI Fäegkeeten ze minimiséieren.
• Tracéierbar: D'AI-Kapazitéite vum Departement ginn entwéckelt an ofgesat sou datt relevant Personal e passend Verständnis vun der Technologie, Entwécklungsprozesser, an operationelle Methoden huet, déi op AI Fäegkeeten applicabel sinn, inklusiv transparent an auditéierbar Methodologien, Datequellen, an Designprozeduren an Dokumentatioun.
• verléisslech: Dem Departement seng AI Fäegkeeten wäerten explizit, gutt definéiert Uwendungen hunn, an d'Sécherheet, Sécherheet an d'Effizienz vun esou Fäegkeeten wäerten ënner deenen definéierte Gebrauch iwwer hire ganze Liewenszyklus Testen a Versécherung ënnerleien.
• Regéierend: D'Departement wäert AI Fäegkeeten designen an entwerfen fir hir virgesinn Funktiounen ze erfëllen, wärend se d'Fäegkeet besëtzt fir ongewollte Konsequenzen z'entdecken an ze vermeiden, an d'Fäegkeet fir ofgebaute Systemer ze deaktivéieren oder ze deaktivéieren déi ongewollt Verhalen weisen.

Ech hunn och verschidde kollektiv Analysen vun AI Ethik Prinzipien diskutéiert, ënner anerem e Set ofgedeckt, entwéckelt vu Fuerscher, déi d'Essenz vu ville nationalen an internationalen AI Ethik Prinzipien ënnersicht a kondenséiert hunn an engem Pabeier mam Titel "The Global Landscape Of AI Ethics Guidelines" (publizéiert) an Natur), an datt meng Ofdeckung exploréiert am de Link hei, wat zu dëser Keystone Lëscht gefouert huet:

• Transparenz
• Gerechtegkeet & Gerechtegkeet
• Net-Maleficenz
• Responsabilitéit
• Privatsphär
• Benefizitéit
• Fräiheet & Autonomie
• Trust
• Nohaltegkeet
• Dignitéit
• Solidaritéit

Wéi Dir direkt kéint roden, probéieren d'Spezifizitéiten déi dës Prinzipien ënnersträichen ze präziséieren, kann extrem schwéier sinn ze maachen. Nach méi esou, den Effort fir dës breet Prinzipien an eppes ganz konkret an detailléiert genuch ze maachen fir ze benotzen wann Dir AI Systemer erstallt ass och eng haart Nëss fir ze knacken. Et ass einfach insgesamt Handwaving ze maachen iwwer wat AI Ethik Viraussetzungen sinn a wéi se allgemeng observéiert solle ginn, wärend et eng vill méi komplizéiert Situatioun an der AI Kodéierung muss de richtege Gummi sinn deen op der Strooss entsprécht.

D'AI Ethik Prinzipien solle vun AI Entwéckler benotzt ginn, zesumme mat deenen, déi AI Entwécklungsefforten managen, an och déi, déi schlussendlech op AI Systemer Felder a Betreiung maachen. All Akteuren am ganzen AI Liewenszyklus vun der Entwécklung an der Notzung ginn am Kader vum Verhalen vun den etabléierten Normen vun der ethescher AI ugesinn. Dëst ass e wichtegen Highlight well déi üblech Viraussetzung ass datt "nëmmen Coderen" oder déi, déi den AI programméieren, ënnerleien un den AI Ethics Notioune ze halen. Wéi virdru gesot, et brauch en Duerf fir AI z'entwéckelen an ze feld, a fir déi d'ganz Duerf muss beherrscht sinn an un d'AI Ethik Viraussetzungen halen.

Loosst eis och sécherstellen datt mir op der selwechter Säit sinn iwwer d'Natur vun der heiteger AI.

Et gëtt keng AI haut déi sentient ass. Mir hunn dat net. Mir wëssen net ob sentient AI méiglech wäert sinn. Keen kann passend viraussoen ob mir sentient AI erreechen, an och net ob sentient AI iergendwéi wonnerbar spontan an enger Form vu computational kognitiver Supernova entstinn (normalerweis als Singularitéit bezeechent, kuckt meng Ofdeckung op de Link hei).

D'Aart vun AI op déi ech fokusséiere besteet aus der net-sentienten AI déi mir haut hunn. Wa mir wëlle wëlle spekuléieren iwwer sensibel AI, dës Diskussioun kéint an eng radikal aner Richtung goen. Eng sentient AI wier anscheinend vu mënschlecher Qualitéit. Dir musst berücksichtegen datt de sentienten AI de kognitiven Äquivalent vun engem Mënsch ass. Méi esou, well e puer spekuléiere kënne mir super-intelligent AI hunn, ass et denkbar datt sou AI schlussendlech méi schlau ka sinn wéi Mënschen (fir meng Exploratioun vu super-intelligenten AI als Méiglechkeet, kuckt d'Ofdeckung hei).

Loosst eis d'Saache méi erof op d'Äerd halen a betruechten haut computational net-sentient AI.

Realiséiere datt d'AI vun haut net fäeg ass op iergendeng Manéier ze "denken" par rapport zum mënschlechen Denken. Wann Dir mat Alexa oder Siri interagéiert, kënnen d'Gespréichskapazitéiten ähnlech wéi mënschlech Fäegkeeten schéngen, awer d'Realitéit ass datt et computational ass a mënschlech Erkenntnis feelt. Déi lescht Ära vun AI huet extensiv Notzung vu Machine Learning (ML) an Deep Learning (DL) gemaach, déi computational Muster Matching profitéieren. Dëst huet zu AI Systemer gefouert, déi d'Erscheinung vu mënschlechähnleche Proclivitéiten hunn. Mëttlerweil gëtt et haut keng AI déi e Gesinn vu gesonde Mënscheverstand huet an och keng vun der kognitiver Wonnerung vu robustem mënschlecht Denken.

ML / DL ass eng Form vu computational Muster Matching. Déi üblech Approche ass datt Dir Daten iwwer eng Entscheedungsaarbecht sammelt. Dir fiddert d'Donnéeën an d'ML / DL Computermodeller. Dës Modeller sichen mathematesch Mustere ze fannen. Nodeems Dir esou Mustere fonnt hutt, wa se fonnt goufen, benotzt den AI System dann dës Mustere wann Dir nei Daten begéint. No der Presentatioun vun neien Donnéeën ginn d'Muster op Basis vun den "alen" oder historeschen Donnéeën ugewannt fir eng aktuell Entscheedung ze maachen.

Ech mengen, Dir kënnt roden, wou dat geet. Wann d'Mënschen, déi d'Muster op Entscheedunge getraff hunn, ongewollt Biases integréiert hunn, sinn d'Chancen datt d'Donnéeën dëst op subtile awer bedeitende Weeër reflektéieren. Machine Learning oder Deep Learning computational Muster Matching wäert einfach probéieren d'Donnéeën deementspriechend mathematesch ze mimikéieren. Et gëtt kee Gesinn vu gesonde Mënscheverstand oder aner sentienten Aspekter vun der AI erstallt Modeller per se.

Ausserdeem kënnen d'AI Entwéckler och net realiséieren wat lass ass. Déi arcane Mathematik am ML / DL kéint et schwéier maachen déi elo verstoppte Biases erauszekréien. Dir géift mat Recht hoffen an erwaarden datt d'AI Entwéckler fir déi potenziell begruewe Biases testen, obwuel dëst méi komplizéiert ass wéi et schéngt. Eng zolitt Chance existéiert datt och mat relativ extensiv Tester datt et Biases nach ëmmer an de Muster passend Modeller vun der ML / DL agebonne sinn.

Dir kënnt e bëssen de berühmten oder berühmte Spréchwuert vun Gerempels-an Dreck-eraus benotzen. D'Saach ass, dëst ass méi ähnlech wéi Biases-an déi süchteg infuséiert ginn wéi Biases ënner dem AI ënnerdaach. Den Algorithmus Entscheedungsprozess (ADM) vun AI gëtt axiomatesch mat Ongläichheeten belaascht.

Net gutt.

Loosst eis zréck op eise Fokus op Meenungsverschiddenheeten tëscht AI an engem Mënsch.

Ech hu virdru uginn datt dëst e puer vun den Desaccord-Léisungsstrategien sinn:

• AI an de Équipe-up Mënsch schaffen Saachen aus (frëndlech oder net)
• De Mënsch herrscht iwwer d'AI, par défaut
• AI herrscht iwwer de Mënsch, par défaut
• E puer aner virbestëmmte fixe Resolutioun herrscht, par défaut
• Drëtte-Partei-Mënsch ass geschloen an hir Indikatioun herrscht iwwer d'Parteien
• Drëtt-Partei AI ass geschloen a seng Indikatioun herrscht iwwer d'Parteien
• Drëtt Partei Mënsch ersetzt den existente Mënsch, d'Saache ginn nei
• Drëtt-Partei AI ersetzt déi existent AI, Saachen ginn nei
• Drëtt Partei Mënsch ersetzt déi existent AI, d'Saache ginn nei (elo Mënsch-zu-Mënsch)
• Drëtt-Partei AI ersetzt den existente Mënsch, Saache ginn nei (elo AI-zu-AI)
• aner

Zäit dës auszepaken.

Als éischt, betruecht datt dëst alles ëm ass berufflech Meenungsverschiddenheeten.

Eng berufflech Meenungsverschiddenheet ass locker definéiert als Desaccord mat enger Aarbecht-relatéierten Aufgab assoziéiert.

Zum Beispill, en Desaccord, deen tëscht engem Pilot an engem Copilot entsteet, ob ee mat engem Fluch viru geet, deen e Stuerm konfrontéiert ass, kéint raisonnabel als professionell Desaccord bezeechent ginn. Am Géigesaz, eng hefteg Meenungsverschiddenheet iwwer wéi eng Kaffismark de Pilot plädéiert géint d'Mark, déi de Copilot léiwer ass, ass einfach als net-professionell Desaccord an dësem bestëmmte Kontext kategoriséiert.

Natierlech, wann en net-berufflechen Desaccord de Wee an eng berufflech Desaccord würmt, kënne mir schlussendlech un den net-professionellen Desaccord als presuméiert Quell oder Spark fir de professionelle interesséiert sinn. Stellt Iech vir, datt e Pilot a Copilot bitter streiden iwwer wéi eng Kaffismark déi bescht ass, déi dann bedauerlech a Fluchspezifesch Bedenken (Pun!), wéi ob se ofstinn oder net.

Zweetens, mir mussen d'Gréisst vun der professioneller Desaccord am Kapp behalen.

Vläicht de Pilot an de Copilot oder a mëll Meenungsverschiddenheet iwwer d'Fléien. Si sinn net mateneen a betruechten nëmmen d'Virdeeler an Nodeeler ob se ofstinn. Dëst ass net de Kaliber oder d'Gréisst vun enger professioneller Meenungsverschiddenheet déi mir üblech hei berécksiichtegen. D'Saach ass, et kéint sinn datt de professionnelle Desaccord iwwergräifend ass a béid Parteien eng Resolutioun häerzlech oder op d'mannst fristgerecht ausschaffen. Allgemeng sinn de Fokus vu professionnelle Meenungsverschiddenheeten am Ëmfang déi, déi anscheinend intraktabel sinn, an déi zwou Parteien bleiwen stänneg am Desaccord.

Drëttens, et muss normalerweis eppes eescht op der Linn sinn fir datt dës Richtlinnen an d'Spill kommen.

Entscheeden ze fléien oder net ze fléien ass eng entscheedend Liewen-oder-Doud Aart vun Entscheedung wann de Fluch a Gefor ass wéinst engem Stuerm oder de Fliger als net voll preparéiert fir sou eng Rees ugesi gëtt. Dëst ass sérieux Geschäft. Mir kënnen d'Richtlinnen nach ëmmer op déi manner beaflosst professionnell Meenungsverschiddenheeten uwenden, obwuel et méi stéiert wéi et wäert ass.

Okay, eis Iwwerleeungen sinn dat:

• Den Desaccord ass haaptsächlech professionell orientéiert anstatt iwwer eppes net-professionelles
• Den Desaccord ass vun enger nohalteger Natur an net nëmmen iwwergänglech oder soss einfach geléist
• Den Desaccord virausgesot sérieux Konsequenzen an ass normalerweis vun engem Impakt Resultat
• D'Parteie sinn openeen a si schéngen intraktabel

Loosst eis elo jidderee vu menge virgeschloene Richtlinnen oder Approche méi no kucken wéi ee mat sou professionelle Meenungsverschiddenheeten ëmgoe kann.

AI an de Équipe-up Mënsch schaffen Saachen aus (frëndlech oder net)

Ech fänken d'Lëscht un mat der einfacher Méiglechkeet datt d'AI an de Mënsch-an-der-Loop fäeg sinn déi professionell Meenungsverschiddenheet ënner sech ze léisen. Et schéngt, datt vläicht d'Instanz vun den zwee Mënschen, de Pilot an de Copilot dës Aart vun Ëmstänn illustréieren. Si hu sech iergendwéi geléist fir zréck an den Terminal ze goen an hir getrennte Weeër ze goen. Et kéint sinn datt en AI System an e Mënsch fäeg sinn eng léisende Approche erauszefannen déi allgemeng fir béid Parteien zefriddestellend ass an d'Saach also zefriddestellend ofgeschloss ass.

De Mënsch herrscht iwwer d'AI, par défaut

Wann Dir den AI opstellt, kënne mir eng Regel programméieren, déi seet, datt de Mënsch-an-der-Loop ëmmer wäert herrsche wann e professionnelle Meenungsverschiddenheet entstinn. Dëst wier déi explizit kodéiert Default. Mir kënnen och eng Form vun Iwwerdribblen erlaben, just am Fall, obwuel déi stänneg Regel wäert sinn datt de Mënsch herrscht.

AI herrscht iwwer de Mënsch, par défaut

Wann Dir den AI opstellt, kënne mir eng Regel programméieren déi seet datt den AI ëmmer iwwer de Mënsch an der Loop herrsche soll wann e professionnelle Meenungsverschiddenheet entstinn. Dëst ass déi explizit kodéiert Default. Mir kënnen och eng Form vun Iwwerschreiden erlaben, just am Fall, obwuel déi stänneg Regel ass datt d'AI herrscht.

E puer aner virbestëmmte fixe Resolutioun herrscht, par défaut

Wann Dir den AI opstellt, kënne mir eng Regel programméieren déi seet datt eng aner virbestëmmte fixe Resolutioun herrsche wäert wann e professionnelle Meenungsverschiddenheet mam Mënsch an der Loop entsteet. De Mënsch-an-der-Loop herrscht net par défaut. Den AI herrscht net par défaut. Et gëtt eng aner preidentifizéiert Resolutioun. Zum Beispill, vläicht gëtt et d'Tossing vun enger Mënz, déi benotzt gëtt fir ze entscheeden wéi eng vun den zwou Parteien als de richtege Wee ugesi gëtt. Dat géif selbstverständlech éischter arbiträr schéngen; also en anert Beispill Approche wier datt eng spezialiséiert Regel erakënnt, déi e Wäert berechent baséiert op Inputen vun den zwou Parteien an zu engem Resultat als Tiebreaker kënnt.

Drëtte-Partei-Mënsch ass geschloen an hir Indikatioun herrscht iwwer d'Parteien

Bei enger professioneller Meenungsverschiddenheet kann eng Regel sinn datt eng Drëtt Partei, déi e Mënsch ass, opgeruff gëtt an an de Kader geschloen gëtt fir eng Entscheedung iwwer d'Léisung vum Desaccord ze huelen. D'AI ass programméiert fir ze verzichten op alles wat den Drëtt-Partei Mënsch decidéiert. De Mënsch, deen schonn am Mënsch-an-der-Loop ass, gouf virdru gesot datt wann esou eng Situatioun entsteet, si och dem Drëtt-Partei-Mënsch sollen ofsetzen. Als Ofgesi kënnt Dir méiglecherweis viraussoen datt de Mënsch-an-der-Loop Angst hätt iwwer zouzegräifen op alles wat den Drëtte-Partei-Mënsch entscheet wann d'Entscheedung net mat der Mënsch-an-der-Loop Haltung averstan ass.

Drëtt-Partei AI ass geschloen a seng Indikatioun herrscht iwwer d'Parteien

Bei enger professioneller Meenungsverschiddenheet kann eng Regel sinn datt eng Drëtt Partei, déi en aneren AI System ass, opgeruff gëtt an an d'Astellung geschlof gëtt fir eng Entscheedung ze treffen iwwer d'Léisung vum Desaccord. Den ursprénglechen AI ass programméiert fir ofzestellen op alles wat den Drëtt-Partei AI entscheet. De Mënsch, deen schonn am Mënsch-an-der-Loop ass, gouf virdru instruéiert datt wann esou eng Situatioun entsteet, se och op Drëtt Partei AI sollen ofsetzen. Als Ofgesi kënnt Dir méiglecherweis virauszesoen datt de Mënsch-an-der-Loop Angst huet iwwer zouzegräifen op alles wat d'Drëtt-Partei AI entscheet wann d'Entscheedung net mat der Human-in-the-Loop Haltung averstanen ass.

Drëtt Partei Mënsch ersetzt den existente Mënsch, d'Saache ginn nei

Bei enger professioneller Meenungsverschiddenheet gëtt de Mënsch-an-der-Schleifen duerch eng Drëtt Partei ersat, déi e Mënsch ass, an deen elo de Mënsch-an-der-Loop gëtt. De Mënsch, deen den urspréngleche Mënsch-an-der-Loop fir d'Aufgab war, gëtt net méi als Deel vun der Aufgab ugesinn. Et ass en oppenen Aspekt wat soss mam elo ersat Mënsch-an-der-Loop geschitt ass, awer mir soen datt se sécher keng weider Roll an der Aarbechtsaufgab hunn.

Drëtt-Partei AI ersetzt déi existent AI, Saachen ginn nei

Bei enger professioneller Meenungsverschiddenheet gëtt den AI duerch en Drëtt-Partei AI ersat an dat gëtt den AI vun elo un fir d'Aarbechtsaufgab op der Hand. Den AI deen ursprénglech fir d'Aufgab benotzt gouf gëtt net méi als Deel vun der Aufgab ugesinn. Et ass en oppenen Aspekt wat soss mat der elo ersater AI geschitt, awer mir soen datt sécher den AI keng weider Roll an der Aarbechtsaufgab huet.

Drëtt Partei Mënsch ersetzt déi existent AI, d'Saache ginn nei (elo Mënsch-zu-Mënsch)

No enger professioneller Meenungsverschiddenheet gëtt den AI duerch en Drëtt-Partei-Mënsch ersat, fir deen dës Persoun elo déi considéréiert Co-Team-Partei gëtt, déi fir d'Aarbechtsaufgab benotzt gëtt. Den AI deen ursprénglech fir d'Aufgab benotzt gouf gëtt net méi als Deel vun der Aufgab ugesinn. Et ass en oppenen Aspekt wat soss mat der elo ersater AI geschitt, awer mir soen datt sécher den AI keng weider Roll an der Aarbechtsaufgab huet. Kuerz gesot, dëst gëtt elo eng zwee-Partei Mënsch-zu-Mënsch ausgefouert Aufgab.

Drëtt-Partei AI ersetzt den existente Mënsch, Saache ginn nei (elo AI-zu-AI)

Bei enger professioneller Meenungsverschiddenheet gëtt de Mënsch-an-der-Loop duerch eng Drëtt-Partei AI ersat an dës AI gëtt vun elo un de Fëllung fir de viregte Mënsch-an-der-Loop. De Mënsch, deen den urspréngleche Mënsch-an-der-Loop fir d'Aufgab war, gëtt net méi als Deel vun der Aufgab ugesinn. Et ass en oppenen Aspekt wat soss mam elo ersat Mënsch-an-der-Loop geschitt ass, awer mir soen datt se sécher keng weider Roll an der Aarbechtsaufgab hunn. Kuerz gesot, dëst gëtt elo eng Zwee-Partei AI-zu-AI fir d'Aufgab auszeféieren.

aner

Aner Variatioune kënnen ausgeschafft ginn fir mat enger professioneller Meenungsverschiddenheet ze këmmeren, awer mir hunn hei e puer vun de Keystones ofgedeckt.

Wéi solle mir entscheeden wéi eng vun dësen Approche déi richteg ass fir eng bestëmmte Situatioun?

Eng grouss Varietéit vun Themen ginn esou e Choix gemaach. Et ginn technologesch Iwwerleeungen. Et gi Affär Considératiounen. Et gi legal an ethesch Iwwerleeungen.

Zu engem gewësse Grad, dofir ass AI Ethik an Ethesch AI sou en entscheedend Thema. D'Virschrëfte vun der AI Ethik bréngen eis waakreg ze bleiwen. AI Technologen kënnen heiansdo mat Technologie beschäftegt ginn, besonnesch d'Optimiséierung vum High-Tech. Si berücksichtegen net onbedéngt déi gréisser gesellschaftlech Auswierkunge. En AI Ethics Mentalitéit ze hunn an dat integral mat der AI Entwécklung a Fielding ze maachen ass vital fir entspriechend AI ze produzéieren, inklusiv (vläicht iwwerraschend oder ironesch) d'Bewäertung vu wéi AI Ethik vu Firmen ugeholl gëtt.

Nieft der AI Ethik Virschrëften am Allgemengen ze benotzen, gëtt et eng entspriechend Fro ob mir Gesetzer solle hunn fir verschidde Benotzung vun AI ze regéieren. Nei Gesetzer ginn op Bundes-, Staats- a lokalen Niveauen ëmginn, déi d'Gamme an d'Natur betreffen wéi d'AI soll ausgeschafft ginn. Den Effort fir esou Gesetzer auszeschaffen an duerchzesetzen ass graduell. AI Ethik déngt op d'mannst als e betruechten Stopgap, a wäert bal sécher zu engem gewësse Grad direkt an déi nei Gesetzer agebaut ginn.

Sidd bewosst datt e puer onbestänneg argumentéieren datt mir keng nei Gesetzer brauchen déi AI decken an datt eis existent Gesetzer genuch sinn. Tatsächlech warnen si viraus datt wa mir e puer vun dësen AI Gesetzer asetzen, mir déi gëllen Gäns ëmbréngen andeems se Fortschrëtter an der AI erofklammen, déi immens gesellschaftlech Virdeeler bidden.

Zu dësem Zäitpunkt vun dëser schwéierer Diskussioun, géif ech wetten datt Dir e puer illustrative Beispiller wëllt, déi dëst Thema kéinte weisen. Et gëtt e speziellen a sécherlech populäre Set vu Beispiller déi mäi Häerz no leien. Dir gesitt, a menger Kapazitéit als Expert op AI mat abegraff déi ethesch a juristesch Auswierkunge, ginn ech dacks gefrot realistesch Beispiller z'identifizéieren déi AI Ethik Dilemmaen weisen, sou datt déi e bësse theoretesch Natur vum Thema méi einfach ka begräifen. Ee vun de evokativste Beräicher, déi dësen etheschen AI-Quandary lieweg presentéiert ass d'Entstoe vun AI-baséiert richteg selbstfahrend Autoen. Dëst wäert als praktesch Benotzungsfall déngen oder Beispill fir genuch Diskussioun iwwer dëst Thema.

Hei ass dann eng bemierkenswäert Fro déi derwäert ass ze iwwerdenken: Beliicht d'Entstoe vun AI-baséiert richteg selbstfahrend Autoen eppes iwwer AI-a-Mënsch Meenungsverschiddenheeten, a wa jo, wat weist dëst?

Erlaabt mir e Moment d'Fro auszepaken.

Als éischt, bemierkt datt et kee mënschleche Chauffer an engem richtege selbstfahrenden Auto involvéiert ass. Denkt drun datt richteg selbstfahrend Autoen iwwer en AI Fueresystem gedriwwe ginn. Et gëtt keng Bedierfnes fir e mënschleche Chauffer um Rad, an et gëtt och keng Dispositioun fir e Mënsch fir d'Gefier ze fueren. Fir meng extensiv a lafend Ofdeckung vun Autonome Gefierer (AVs) a besonnesch selbstfahrend Autoen, kuckt de Link hei.

Ech wëll weider klären wat gemengt ass wann ech op richteg selbstfahrend Autoen schwätzen.

D'Niveaue vu Selbstfueren Autoen ze verstoen

Als Erklärung, richteg selbstfahrend Autoen sinn déi wou den AI den Auto ganz eleng fiert an et gëtt keng mënschlech Hëllef wärend der Fuertask.

Dës Chaufferlos Gefierer ginn als Niveau 4 an Niveau 5 ugesinn (kuckt meng Erklärung op dëse Link hei), während en Auto, deen e mënschleche Chauffer erfuerdert fir de Fuereeffort ze deelen, gëtt normalerweis um Niveau 2 oder Niveau 3 ugesinn. automatiséiert Add-ons déi als ADAS bezeechent ginn (Advanced Driver-Assistance Systems).

Et gëtt nach kee richtegen selbstfahrenden Auto um Niveau 5, a mir wëssen nach net emol ob dat méiglech ass, a wéi laang et dauert bis dohinner kënnt.

Mëttlerweil probéieren d'Niveau 4 Efforten no an no eng Traktioun ze kréien andeems se ganz schmuel a selektiv ëffentlech Stroosseverfahren duerchgoen, awer et ass Kontrovers iwwer ob dës Tester per se erlaabt sinn (mir sinn all Liewen oder Doud Meerschwäin an engem Experiment. statt op eisen Autobunnen an byways, e puer streiden, kuckt meng Ofdeckung um dëse Link hei).

Zënter semi-autonom Autoe brauchen e mënschleche Chauffer, d'Adoptioun vun deenen Autosformen wäert net däitlech anescht sinn wéi konventionell Gefierer ze fueren, sou datt et net vill nei ass fir sech iwwer dëst Thema ze decken (awer wéi Dir wäert gesinn an engem Moment, d'nächst Punkten si generell applicabel).

Fir semi-autonom Autoen ass et wichteg datt de Public muss iwwer e gestéiert Aspekt virgeworf ginn, dee viru Kuerzem entstoung, nämlech datt trotz deene mënschleche Chauffeuren, déi weider Videoe vu sech selwer schlofen um Rad vun engem Level 2 oder Level 3 Auto an, mir all musse vermeiden datt mir falsch ginn ze gleewen datt de Chauffer hir Opmierksamkeet vun der Fuehrfahrt kann ewechhuelen während e semi-autonomem Auto fuert.

Dir sidd déi verantwortlech Partei fir déi dreiwend Handlungen vum Gefier, egal wéi vill Automatioun an en Niveau 2 oder Niveau 3 gegoss ka ginn.

Selbstfahrend Autoen An AI-Versus-Mënsch Desaccord

Fir Level 4 a Level 5 richteg selbstfuerend Gefierer wäert et kee mënschleche Chauffer mat der Fuereaufgab involvéiert sinn.

All Besetzer wäerte Passagéier sinn.

Den AI mécht der Fuert.

Een Aspekt fir direkt ze diskutéieren implizéiert de Fakt datt den AI involvéiert an den haitegen AI Fuerersystemer net sentient ass. An anere Wierder, den AI ass insgesamt e Kollektiv vu computerbaséierter Programmatioun an Algorithmen, a ganz sécher net fäeg ze déiselwecht ze veruersaachen datt d'Mënschen kënnen.

Firwat ass dësen zousätzlechen Akzent iwwer den AI net sensibel?

Well ech wëll ënnersträichen datt wann ech iwwer d'Roll vum AI Fuerersystem diskutéieren, ginn ech net d'mënschlech Qualitéiten dem AI zou. Gitt weg datt et eng kontinuéierlech a geféierlech Tendenz ass dës Deeg d'Anthropomorphiséierung vum AI. Am Wesentlechen zielen d'Leit mënschlech wéi d'Gefill vun der haiteger AI zou, trotz der onbestreitbarer an onvermeidlecher Tatsaach datt bis elo nach keen esou AI existéiert.

Mat dëser Klärung kënnt Dir Iech virstellen datt den AI Fuerersystem net natierlech iergendwéi "weess" iwwer d'Facette vum Fuerer. Fueren an alles wat et mat sech bréngt, muss als Deel vun der Hardware a Software vum selbstfuerenden Auto programméiert ginn.

Loosst eis an déi Onmass Aspekter tauchen déi op dëst Thema spillen.

Als éischt ass et wichteg ze realiséieren datt net all AI selbstfahrend Autoen d'selwecht sinn. All Automobilist a selbstfahrend Tech Firma hëlt seng Approche fir selbstfahrend Autoen z'entwéckelen. Als esou ass et schwéier schwiereg Aussoen ze maachen iwwer wat AI Fueresystemer maachen oder net maachen.

Ausserdeem, wann Dir seet datt en AI Fuertsystem keng speziell Saach mécht, kann dëst spéider vun den Entwéckler iwwerholl ginn, déi de Computer tatsächlech programméiere fir dat Ganzt ze maachen. Schrëtt fir Schrëtt ginn AI Fuersystemer lues a lues verbessert a verlängert. Eng existent Limitatioun haut existéiert vläicht net méi an enger zukünfteger Iteratioun oder Versioun vum System.

Ech hoffen dat bitt eng genuch Litanei vu Virwarnungen fir ze ënnersträichen wat ech amgaang sinn ze bezéien.

Fir voll autonom Gefierer ass et vläicht keng Chance fir eng professionell Meenungsverschiddenheet tëscht engem Mënsch an der AI wéinst der Méiglechkeet datt et kee Mënsch an der Loop ass fir mat ze starten. D'Striewe fir vill vun den haitegen selbstfahrenden Autohersteller ass de mënschleche Chauffer komplett aus der Fuertask ze läschen. D'Gefier wäert net emol mënschlech zougänglech Fuerkontrolle enthalen. An deem Fall kann e mënschleche Chauffer, wann et präsent ass, net un der Fuertask deelhuelen well se Zougang zu all Fuerkontrolle feelen.

Fir e puer voll autonom Gefierer erlaben e puer Designen nach ëmmer e Mënsch an der Loop ze sinn, obwuel de Mënsch guer net verfügbar muss sinn oder um Fuereprozess deelhuelen. Sou kann e Mënsch beim Fuere matmaachen, wann déi Persoun dat wëllt. Op kee Fall ass d'AI awer op de Mënsch ofhängeg fir eng vun de Fuertaufgaben auszeféieren.

Am Fall vun semi-autonome Gefierer gëtt et eng Hand-an-Hand Relatioun tëscht dem mënschleche Chauffer an der AI. De mënschleche Chauffer kann d'Fuerkontrolle ganz iwwerhuelen an am Wesentlechen den AI stoppen fir un de Fuere deelzehuelen. Wann de mënschleche Chauffer den AI an d'Fuererroll wëll zrécksetzen, kënne se dat maachen, obwuel dëst dann heiansdo de Mënsch forcéiert d'Fuerkontrolle opzeginn.

Eng aner Form vu semi-autonomer Operatioun géif de mënschleche Chauffer an den AI involvéieren, déi zesummen zesummen schaffen. Den AI fiert an de Mënsch fiert. Si fueren zesummen. D'AI kéint dem Mënsch ofginn. De Mënsch kéint den AI ofsetzen.

Op e puer Punkte kënnen den AI Fueresystem an de mënschleche Chauffer an der Loop e Moment vun enger "professioneller Meenungsverschiddenheet" erreechen iwwer d'Fuertask op der Hand.

Fir ze illustréieren wéi e puer vun den uewe genannte Reegele fir mat enger professioneller Meenungsverschiddenheet ëmzegoen, schwiereg kënne sinn ze realiséieren, betruecht d'Instanz vun engem Opruff vun engem Drëtte-Partei-Mënsch fir an d'Saach anzegoen an eng Entscheedung ze proposéieren fir dat ongeléist Thema ze léisen.

Stellt Iech vir, datt en Automobilist oder selbstfahrend Technologiefirma fir Remote mënschlech Bedreiwer arrangéiert huet Zougang zu de Fuerkontrolle vu Gefierer an hirer Flott ze hunn. De mënschleche Bedreiwer sëtzt an engem wäitem Büro oder ähnlechen Ëmfeld. Iwwer e Computersystem kënne si d'Fuerszene gesinn duerch Zougang zu de Kameraen an aner Sensorapparater, déi op den selbstfahrenden Auto gelueden sinn. Fir si ass dëst bal wéi en Online Videospill ze spillen, awer natierlech hunn déi real-Liewen Ëmstänn potenziell schlëmm Konsequenzen.

En AI System an e mënschleche Chauffer am Auto fueren e semi-autonomt Gefier op enger laanger Autobunn. Op eemol wëll den AI an eng Grouf steieren. De mënschleche Chauffer wëll dat net maachen. Déi zwee kämpfen iwwer d'Fuerkontrolle.

Wéi wäert dëst geléist ginn?

Mir hätte vläicht virdru kënne feststellen, datt de Mënsch ëmmer gewënnt. Gitt awer un datt mir eis gewielt hunn dat net ze maachen.

Mir hätten virdru kënne feststellen datt AI ëmmer gewënnt. Gitt un datt mir entscheet hunn dat net ze maachen. Alles an allem hu mir keng vun deene Regelen ugeholl, ausser datt mir décidéiert hunn, engem Drëtte Mënsch z'erméiglechen, anzegräifen an eng professionell Desaccord vun iergendenger substantieller Natur ze léisen.

An dësem Benotzungsfall kämpfen d'AI an de mënschleche Chauffer um Rad fir d'Fuerkontrolle. Dëst ass loosst eis soen dem Remote Mënsch Bedreiwer (eis Drëtt Partei Mënsch) vermëttelt. De Remote mënschleche Bedreiwer ënnersicht wat stattfënnt an entscheet aus dem Gruef ewech ze steieren, anscheinend ze vermeiden wat d'AI probéiert huet ze maachen. Zur selwechter Zäit, ugeholl datt de Remote mënschleche Bedreiwer an de kommende Verkéier steiert, wat vläicht weder den AI nach de mënschleche Chauffer am Auto wollte maachen.

De Punkt ass datt d'Aart a Weis wéi dës Regel ëmgesat gouf ass datt den Drëttubidder mënschlech Bedreiwer fäeg ass souwuel den AI wéi och de Mënsch-an-der-Loop komplett ze iwwerschreiden. Ob dëst e gutt Resultat wäert produzéieren ass sécher net sécher.

Ech wäert dëst Beispill benotze fir e puer zousätzlech Abléck iwwer dës Themen ze markéieren.

Dir kënnt net déi brazen Viraussetzung maachen datt just well ee vun dëse Reegelen op d'Plaz gesat gëtt, ass d'Resultat vun der geléister Desaccord onbedéngt e garantéiert gutt Resultat. Et ass vläicht net. Et gëtt keng Ironclad ëmmer-richteg Aart vu Regel déi ka gewielt ginn.

Als nächst kënnen e puer vun dëse Reegele vläicht net viabel implementéierbar sinn.

Betruecht d'Beispill vum Remote mënschleche Bedreiwer intervenéiert wann den AI an de mënschleche Chauffer iwwer d'Fuerkontrolle kämpfen. Et ka vill Sekonnen Zäit daueren fir de Remote mënschleche Bedreiwer erauszefannen wat lass ass. Deemools wier d'Gefier scho vläicht an de Gruef gefall oder en anert negativt Resultat. Stellt och un datt d'Positioun vum Gefier den Fernzougang ausschléisst wéi op enger Plaz wou et keng elektronesch Netzwierkverbindung gëtt. Oder vläicht funktionnéieren d'Vernetzungsfeatures vum Gefier net an deem bestëmmte Moment.

Wéi Dir gesitt, kann d'Regel op Pabeier dandy ausgesinn, obwuel d'Regel an d'aktuell Benotzung setzen kann eng ganz schwéier oder héich Chance Approche sinn. Gesinn meng kritesch-Aen Ofdeckung op der Fernbedreiwer vun autonom Gefierer an Self-fueren Autoen op de Link hei.

Ech wéilt kuerz en anert Zesummenhang Thema ofdecken, dat ech an enger zukünfteg Analyse méi déif wäert ofdecken.

Eng vun de steigenden Bedenken iwwer autonom Gefierer a selbstfahrend Autoen, déi semi-autonom sinn, ass de sougenannte Hot Potato Syndrom.

Hei ass den Deal.

En AI Fueresystem an e Mënsch fueren zesummen. Eng schlëmm Situatioun entsteet. Den AI gouf programméiert fir aus der Fahrtask erauszekommen an d'Saachen un de Mënsch ze dréinen wann e schlëmme Moment geschitt. Dëst schéngt vläicht "sënnvoll" an datt mir schéngen d'Regel iwwer de Mënsch als Standard "Gewënner" an all potenziell professionell Desaccord ze ruffen.

Awer den AI erofgefall ass vläicht fir méi nefaresch oder als süchteg Zwecker ugesinn. Et kéint sinn datt den Automobilist oder selbstfahrend Tech Firma net wëllt datt hir AI als "Feele vu Schold" ugesi gëtt wann en Autosaccident geschitt. Fir anscheinend ze vermeiden datt se sou festgepëtzt ginn, iwwerhëlt d'AI abrupt d'Kontrollen un de Mënsch. Voila, de Mënsch ass elo viraussiichtlech komplett verantwortlech fir d'Gefier.

De Kicker ass datt ugeholl datt den AI dës Handoff mécht mat loosse mer soen eng Sekonn lénks fir ze goen ier e Crash geschitt.

Huet de Mënsch wierklech Zäit zur Verfügung fir den Crash ze vermeiden?

Wahrscheinlech net.

Ugeholl datt den AI den Handoff mécht mat e puer Millisekonnen oder Nanosekonnen ze goen. Ech getraut ze soen datt de Mënsch am Fong null Chance huet eppes ze maachen fir den Crash ze vermeiden.

Aus der Perspektiv vum Automaker oder selbstfahrend Autosfirma kënne si probéieren ze handelen wéi wann hir Hänn propper wieren wann esou en Autosaccident geschitt. Den Auto gouf vun engem Mënsch gefuer. Den AI huet den Auto net gefuer. Déi eenzeg "logesch" Conclusioun schéngt ze sinn datt de Mënsch schëlleg muss sinn an d'AI muss komplett onbestänneg sinn.

Et ass e Crock.

Ech wäert dëst méi déif an enger kommende Kolonn diskutéieren.

Konklusioun

Berufflech Meenungsverschiddenheeten wäerten optrieden.

Et ass schwéier eng komplex Aufgab virzestellen, déi zwou Parteien d'Aufgab zesumme maachen a fir déi et ni professionell Meenungsverschiddenheeten entstinn. Dëst schéngt wéi e Fantasieland oder op d'mannst eng grouss Raritéit.

Haut hu mir vill vu Mënsch-zu-Mënsch Fäll vu berufflecher Meenungsverschiddenheet, fir déi alldeeglech Resolutiounen friddlech a verstänneg op déi eng oder aner Manéier erausfonnt ginn. Tatsächlech setze mir dacks Situatiounen virsiichteg op fir professionell Meenungsverschiddenheeten ze fërderen an z'erwächen. Dir kéint streiden datt dëst déi berühmt Wäisheet weist datt heiansdo zwee Kapp besser sinn wéi een.

Wéi AI méi verbreet gëtt, wäerte mir vill AI-zu-Mënsch oder Mënsch-zu-AI Zwee-Partei Task performers hunn an et gëtt berufflech Meenungsverschiddenheeten dat wäert geschéien. Déi faul Approche ass ëmmer dem Mënsch ze verzichten. Dëst ass vläicht net déi gëeegent Approche. AI ass vläicht déi besser Wiel. Oder eng vun deenen aneren uewe genannte Reegele kéint eng méi gesond Approche sinn.

Et gëtt déi Sage Linn oft widderholl datt mir all allgemeng fäeg sinn d'accord ze sinn net averstanen ze sinn, awer wann et ëm den Drot kënnt, heiansdo muss en Desaccord eendeiteg geléist ginn, soss féiert d'Saach op der Hand zu enger ongewéinlecher Katastroph. Mir kënnen net nëmmen eng Meenungsverschiddenheet op d'Rebe loosse loossen. Zäit kéint vun der Essenz sinn a Liewen kéint um Spill sinn.

Et gëtt eng kloer Ufuerderung fir e puer virsiichteg Mëttele fir Meenungsverschiddenheeten ze léisen, och wann net onbedéngt averstanen esou, och wann AI an e Mënsch-an-der-Loop net Aen-zu-Aen nach Byte-zu-Byte gesinn.

Ech vertrauen datt Dir net mat där ganz agreabeler Contestatioun averstan sidd.