AI Ethik Fuming iwwer de Rising Hot Potato Syndrom, dee vun AI Hiersteller beschäftegt gëtt, anscheinend probéieren Verantwortung fir hiert Liewen ze entscheeden Autonom Systemer ze vermeiden

Mir all wëssen, datt Dir soll sécherstellen, datt Dir net mat der sproochlech waarm Gromper Enn.

De waarme Grompergambit schéngt seng Wuerzelen op d'mannst an de spéiden 1800er ze verfolgen, wann e Salon-Spill mat beliichte Käerzen e bëssen de Ball rullt. D'Leit wäerten typesch an enger Serie vun hëlze Still sëtzen, déi relativ nieftenee waren an an där Ära e ganz begeeschtert Spill spillen. Eng beliichte Käerz wier vu Persoun zu Persoun vun de Spiller iwwerreecht ginn a representéiert dat, wat mir spéider entscheet hunn als Iwwerreechung vun engem waarm Kartoffel.

Et war üblech, datt jidderee verlaangt huet, e populäre Reim haart ze schwätzen, ier se laanscht déi progressiv brennend Käerz laanschtgoe konnten. D'Reim goung anscheinend esou:

"Jack ass lieweg a wäert wahrscheinlech liewen;

Wann hien an Ärer Hand stierft, hutt Dir e Verzicht ze ginn.

Dëse rhyming Recital géif viraussiichtlech erlaben der Käerz e bëssen Zäit fir weider ze brennen a Richtung seng definitiv Conclusioun. Wien mat der Käerz an hirem Besëtz bei der natierlecher Läschung um Enn hänke bliwwen ass, war déi Persoun, déi de Match verluer huet (Pun!).

No de Wierder, déi am Reim uginn, huet de Verléierer de "Forfeit" missen bezuelen an huet also normalerweis all weider Ronnen vum Spill erausginn. Dëst kéint dann kombinéiert ginn mat deem, wat mir haut als alldeegleche musikalesche Still betruechten, sou datt déi Persoun, déi d'Ronn verluer huet, net méi an de folgende Ronnen deelhëlt (wéi wann d'Musek gestoppt ass a se keng fräi Plaz konnte sammelen). Schlussendlech wieren et just zwee Leit iwwreg, déi d'beliichte Käerz passéiert hunn an d'Reim gesot hunn, bis e leschte Gewënner an der leschter Läschung festgeluecht gouf.

Dir kënnt Iech froen firwat mir dëst Spill net méi mat enger beliichter Käerz spillen, a firwat mir amplaz dëst normalerweis als eng waarm Kartoffel bezeechnen anstatt dëst als e "beliichte Käerz" Schema ze weisen. Fuerscher si mat villen Theorien erauskomm wéi dëst graduell geschitt ass. D'Geschicht schéngt bewölkt an ondecidéiert iwwer wéi d'Saachen an dëser Matière evoluéiert hunn. Ech huelen un datt mir erliichtert kënne sinn datt beliichte Käerzen net allgemeng sou benotzt ginn, well d'Chancen datt eppes palpabel schief geet, wier vill beonrouegend schéngen (een fällt d'Käerz a fänkt e Feier un, oder een gëtt vun der Käerz verbrannt wann se se iwwerreecht gëtt vun engem anere Spiller, etc.).

Am Sënn vun der waarmer Kartoffel als potenziellen Ersatz fir déi beliichte Käerz, kënnt Dir allgemeng argumentéieren datt d'Kartoffel e bësse méi sécher wäert sinn. Keng oppe Flam. Kee Schmelzwachs. D'potenziell Basis fir d'Gromperen an dësem Kontext ze benotzen ass datt se bekannt sinn datt se einfach d'Hëtzt behalen wann se erwiermt sinn. Dir kënnt d'Kartoffel ëmginn an et bleift eng Zäit laang waarm. Et gëtt ugeholl datt d'Entscheedung wann déi waarm Kartoffel net méi waarm ass an amplaz als kal bewäert gëtt, eng hefteg diskutabel Propositioun wier.

Natierlech ass d'Notioun vun enger sproochlecher waarmer Kartoffel méi e Standalone Iwwerleeung dës Deeg. Alles wat als waarme Kartoffel bewäert oder klasséiert ass ass normalerweis vun enger ernstloser Qualitéit. Dir wëllt net eng waarm Kartoffel halen. Dir wëllt sécherstellen datt et soss anzwousch geet. Zu engem gewësse Mooss sidd Dir vläicht net zevill gestéiert iwwer wou et geet, einfach datt et net méi an Ärem Besëtz ass.

Dir géift zimmlech onroueg schéngen fir potenziell eng waarm Kartoffel un engem léiwe Frënd oder ähnleche Bekannten ze ginn. Dëst géif schéngen ganz aus Zorte. Fannt vläicht een aneren oder soss eng Plaz fir déi waarm Gromper ze setzen, wann Dir dat maache kënnt. Eng verzweifelt Beweegung kéint sinn, déi waarm Gromper op e frëndleche Kolleg ze zwéngen, awer dëst gëtt hoffentlech nëmmen als leschten Auswee gemaach.

Déi aner Säit vun där Mënz ass datt Dir Iech freet Iech eng waarm Kartoffel un een ze ginn deen Dir net gär hutt oder op wiem Dir Revanche sicht. Sécher, eng waarm Kartoffel ka bal herrlech praktesch sinn wann Dir zielt eng Persoun ze ënnersträichen déi Iech schlecht behandelt huet. Loosst se erausfannen, wat se mat der waarmer Kartoffel maachen. Gutt lass op d'Kartoffel a Schlëmmst Gléck fir déi Persoun mat där Dir se gezeechent hutt.

An engem waarme Gromper Szenario mat nëmmen zwee Leit, ass et d'Méiglechkeet vun engem séiere Réck-an-viraus Sträit iwwer déi Persoun déi onsavoréisen an ongewollt Element hält. Zum Beispill iwwerginn ech Iech déi waarm Gromper, an Dir gitt mir se séier zréck. Unzehuelen, datt mir tëscht all Handoff kee Crèche musse matkënnegen, kënne mir d'Gromper zimlech einfach laanschtgoe sou séier wéi d'Äerm eis dat erlaabt.

Dir kënnt virwëtzeg sinn firwat ech entscheet hunn en déif Tauchen an déi geéiert an dacks zitéiert waarm Kartoffel ze maachen.

Hei ass et.

Et stellt sech eraus datt déi waarm Kartoffelkleedung ëmmer méi am Beräich vun der Artificial Intelligence (AI) benotzt gëtt.

Déi meescht Leit wëssen näischt doriwwer. Si hunn ni vun et héieren. Si sinn komplett net bewosst wat et ass. Och vill AI Entwéckler sinn net bewosst vun der Saach. Trotzdem existéiert et a schéngt a wierklech zweifelhaften Astellungen benotzt ze ginn, besonnesch Fäll mat Liewen-oder-Doud Ëmstänn.

Ech bezeechnen dëst als de AI Hot Potato Syndrom.

Et gi vill sérieux Auswierkungen ënner dësem Syndrom a mir musse suergen, datt mir eis AI Ethik Denkkappen opsetzen a betruechten wat soll gemaach ginn. Et gi nüchtern ethesch Iwwerleeungen. Et gi gebonnen och bemierkenswäert juristesch Implikatiounen ze sinn (déi nach net gesellschaftlech Visibilitéit erreecht hunn, obwuel ech viraussoen datt se geschwënn wäerten). Fir meng lafend an extensiv Ofdeckung vun AI Ethik, Ethesch AI, a Legal AI Themen, kuckt de Link hei an de Link hei, Just e puer ze Numm.

Loosst eis de AI Hot Potato Syndrom.

Stellt Iech en AI System vir, deen zesumme mat engem Mënsch schafft. Den AI an de Mënsch passéieren d'Kontroll vun enger ënnerwee Aktivitéit sou datt heiansdo de Mënsch a Kontroll ass, während aner Zäiten den AI a Kontroll ass. Dëst kéint fir d'éischt op eng gutt manéiert oder raisonnabel Manéier gemaach ginn. Aus verschiddene Grënn, op déi mir momentan kommen, kann d'AI berechent feststellen datt d'Kontroll séier un de Mënsch muss iwwerginn.

Dat ass de waarm Kartoffel dat kënnt d'Liewen an der realer Welt a Gefor anstatt nëmmen als léierräich Kannerspill ze déngen.

De Problem mat engem séiere Passage vun der Kontroll vun der AI op de Mënsch ass datt dëst op eng raisonnabel Manéier ka gemaach ginn oder op eng zimlech onverständlech Manéier erreecht ka ginn. Wann de Mënsch net besonnesch d'Iwwerreechung erwaart, ass dëst wahrscheinlech e Problem. Wann de Mënsch allgemeng an der Rei ass mat der Passioun vun der Kontroll, kënnen d'Ëmstänn, déi d'Iwwerleeung ënnerleien, beängschtegend sinn, wann de Mënsch net genuch Zäit kritt oder net genuch Bewosstsinn firwat d'Kontroll an hir mënschlech Hänn gezwongen gëtt.

Mir wäerte Beispiller entdecken wéi dëst Liewen-oder-Doud Gefor fir de Mënsch a méiglecherweis aner Emgéigend Mënschen produzéiere kann. Et ass sérieux Saachen. Period, Voll Stop.

Ier Dir an e puer méi vun der Fleesch Facettenaen vun der wëll a woolly Considératiounen ënnerleien der AI Hot Potato Syndrom, loosst eis e puer zousätzlech Fundamenter iwwer déif wesentlech Themen leeën. Mir mussen kuerz e breezy Tauche an AI Ethik huelen a besonnesch d'Entstoe vu Machine Learning (ML) an Deep Learning (DL).

Dir sidd vläicht vague bewosst datt eng vun de haartste Stëmmen hautdesdaags am AI Feld an och ausserhalb vum AI Feld besteet aus dem Geruff no enger méi grousser Scheinheet vun ethescher AI. Loosst eis kucken wat et heescht fir AI Ethics an Ethical AI ze referenzéieren. Ausserdeem wäerte mir entdecken wat ech mengen wann ech vu Machine Learning an Deep Learning schwätzen.

E bestëmmte Segment oder Deel vun der AI Ethik, déi vill Medienopmierksamkeet kritt huet, besteet aus AI déi ongerecht Biases an Ongläichheeten ausweist. Dir sidd vläicht bewosst datt wann déi lescht Ära vun AI ugefaang huet, et e grousse Burst vun Begeeschterung war fir wat e puer elo nennen AI Fir Gutt. Leider, op den Fersen vun där grujeleger Opreegung, hu mir ugefaang Zeien AI Fir Schlecht. Zum Beispill, verschidde AI-baséiert Gesiichtserkennungssystemer goufen opgedeckt wéi se rassistesch Biases a Geschlecht Biases enthalen, déi ech diskutéiert hunn. de Link hei.

Efforten ze kämpfen zréck géint AI Fir Schlecht aktiv ënnerwee sinn. Nieft vociferous legal Verfollegungen fir de Mëssbrauch z'erhiewen, gëtt et och e wesentleche Push fir d'AI Ethik ëmzegoen fir d'AI Vielness ze rächen. D'Notioun ass datt mir wichteg ethesch AI Prinzipien solle adoptéieren an ënnerstëtze fir d'Entwécklung an d'Feldung vun AI ze maachen fir de AI Fir Schlecht a gläichzäiteg d'Preferenz ze heraldéieren a förderen AI Fir Gutt.

Op enger verwandter Notioun sinn ech en Affekot fir ze probéieren AI als Deel vun der Léisung fir AI-Schwieregkeeten ze benotzen, Feier mat Feier ze kämpfen an där Manéier vum Denken. Mir kënnen zum Beispill Ethesch AI Komponenten an en AI System embetteren deen iwwerwaacht wéi de Rescht vun der AI d'Saache mécht an domat potenziell diskriminéierend Efforten an Echtzäit opfänken, kuckt meng Diskussioun op de Link hei. Mir kënnen och e separaten AI System hunn, deen als Typ vun AI Ethics Monitor handelt. Den AI System déngt als Iwwerwaacher fir ze verfolgen an z'entdecken wann en aneren AI an den onetheschen Ofgrond geet (kuckt meng Analyse vu sou Fäegkeeten op de Link hei).

An engem Moment wäert ech mat Iech e puer iwwergräifend Prinzipien deelen, déi AI Ethik ënnerleien. Et gi vill vun dësen Aarte vu Lëschte ronderëm hei an do. Dir kënnt soen datt et nach net eng eenzeg Lëscht vun universellen Appel a Konkurrenz ass. Dat ass déi onglécklech Noriicht. Déi gutt Noriicht ass datt op d'mannst et liicht verfügbar AI Ethics Lëschte sinn a si tendéieren zimlech ähnlech ze sinn. Alles gesot, dëst suggeréiert datt duerch eng Form vu rational Konvergenz vu verschiddenen Aarte mir eise Wee an eng allgemeng Gemeinsamkeet fannen, aus deem AI Ethik besteet.

Als éischt, loosst eis kuerz e puer vun den allgemenge etheschen AI Virschrëfte ofdecken fir ze illustréieren wat e vital Considératioun sollt sinn fir jiddereen deen AI bastelt, fält oder benotzt.

Zum Beispill, wéi gesot vum Vatikan am Rom Call Fir AI Ethik a wéi ech am-Déift Daach am de Link hei, dëst sinn hir identifizéiert sechs primär AI Ethik Prinzipien:

• Transparenz: Am Prinzip mussen AI Systemer erklärbar sinn
• Inclusioun: D'Bedierfnesser vun all Mënsch musse berücksichtegt ginn, fir datt jidderee profitéiere kann, an all Eenzelnen déi beschtméiglech Konditioune gebuede kréien fir sech auszedrécken an z'entwéckelen.
• Verantwortung: Déi, déi d'Benotzung vun AI designen an ofsetzen, musse mat Verantwortung an Transparenz virgoen
• Onpartialitéit: Schafen oder handelen net no Viraussetzungen, sou datt d'Gerechtegkeet an d'mënschlech Dignitéit ofgeséchert sinn
• Zouverlässegkeet: AI Systemer musse fäeg sinn zouverlässeg ze schaffen
• Sécherheet a Privatsphär: AI Systemer musse sécher funktionnéieren an d'Privatsphär vun de Benotzer respektéieren.

Wéi gesot vum US Department of Defense (DoD) an hirem Ethesch Prinzipien fir d'Benotzung vu kënschtlecher Intelligenz a wéi ech am-Déift Daach am de Link hei, dëst sinn hir sechs primär AI Ethik Prinzipien:

• Verantwortlech: DoD Personal wäert entspriechend Niveaue vu Uerteel a Suergfalt ausüben wärend se verantwortlech bleiwen fir d'Entwécklung, d'Deployment an d'Benotzung vun AI Fäegkeeten.
• Gerechtegkeet: D'Departement wäert bewosst Schrëtt huelen fir onbedéngt Bias an AI Fäegkeeten ze minimiséieren.
• Tracéierbar: D'AI-Kapazitéite vum Departement ginn entwéckelt an ofgesat sou datt relevant Personal e passend Verständnis vun der Technologie, Entwécklungsprozesser, an operationelle Methoden huet, déi op AI Fäegkeeten applicabel sinn, inklusiv transparent an auditéierbar Methodologien, Datequellen, an Designprozeduren an Dokumentatioun.
• verléisslech: Dem Departement seng AI Fäegkeeten wäerten explizit, gutt definéiert Uwendungen hunn, an d'Sécherheet, Sécherheet an d'Effizienz vun esou Fäegkeeten wäerten ënner deenen definéierte Gebrauch iwwer hire ganze Liewenszyklus Testen a Versécherung ënnerleien.
• Regéierend: D'Departement wäert AI Fäegkeeten designen an entwerfen fir hir virgesinn Funktiounen ze erfëllen, wärend se d'Fäegkeet besëtzt fir ongewollte Konsequenzen z'entdecken an ze vermeiden, an d'Fäegkeet fir ofgebaute Systemer ze deaktivéieren oder ze deaktivéieren déi ongewollt Verhalen weisen.

Ech hunn och verschidde kollektiv Analysen vun AI Ethik Prinzipien diskutéiert, ënner anerem e Set ofgedeckt, entwéckelt vu Fuerscher, déi d'Essenz vu ville nationalen an internationalen AI Ethik Prinzipien ënnersicht a kondenséiert hunn an engem Pabeier mam Titel "The Global Landscape Of AI Ethics Guidelines" (publizéiert) an Natur), an datt meng Ofdeckung exploréiert am de Link hei, wat zu dëser Keystone Lëscht gefouert huet:

• Transparenz
• Gerechtegkeet & Gerechtegkeet
• Net-Maleficenz
• Responsabilitéit
• Privatsphär
• Benefizitéit
• Fräiheet & Autonomie
• Trust
• Nohaltegkeet
• Dignitéit
• Solidaritéit

Wéi Dir direkt kéint roden, probéieren d'Spezifizitéiten déi dës Prinzipien ënnersträichen ze präziséieren, kann extrem schwéier sinn ze maachen. Nach méi esou, den Effort fir dës breet Prinzipien an eppes ganz konkret an detailléiert genuch ze maachen fir ze benotzen wann Dir AI Systemer erstallt ass och eng haart Nëss fir ze knacken. Et ass einfach insgesamt Handwaving ze maachen iwwer wat AI Ethik Viraussetzungen sinn a wéi se allgemeng observéiert solle ginn, wärend et eng vill méi komplizéiert Situatioun an der AI Kodéierung muss de richtege Gummi sinn deen op der Strooss entsprécht.

D'AI Ethik Prinzipien solle vun AI Entwéckler benotzt ginn, zesumme mat deenen, déi AI Entwécklungsefforten managen, an och déi, déi schlussendlech op AI Systemer Felder a Betreiung maachen. All Akteuren am ganzen AI Liewenszyklus vun der Entwécklung an der Notzung ginn am Kader vum Verhalen vun den etabléierten Normen vun der ethescher AI ugesinn. Dëst ass e wichtege Highlight well déi üblech Viraussetzung ass datt "nëmmen Coderen" oder déi, déi den AI programméiere, ënnerleien un den AI Ethics Notioune ze halen. Wéi virdru gesot, et brauch en Duerf fir AI z'entwéckelen an ze feld, a fir déi d'ganz Duerf muss beherrscht sinn an un d'AI Ethik Viraussetzungen halen.

Loosst eis och sécherstellen datt mir op der selwechter Säit sinn iwwer d'Natur vun der heiteger AI.

Et gëtt keng AI haut déi sentient ass. Mir hunn dat net. Mir wëssen net ob sentient AI méiglech wäert sinn. Keen kann passend viraussoen ob mir sentient AI erreechen, an och net ob sentient AI iergendwéi wonnerbar spontan an enger Form vu computational kognitiver Supernova entstinn (normalerweis als Singularitéit bezeechent, kuckt meng Ofdeckung op de Link hei).

D'Aart vun AI op déi ech fokusséiere besteet aus der net-sentienten AI déi mir haut hunn. Wa mir wëlle wëlle spekuléieren iwwer sensibel AI, dës Diskussioun kéint an eng radikal aner Richtung goen. Eng sentient AI wier anscheinend vu mënschlecher Qualitéit. Dir musst berücksichtegen datt de sentienten AI de kognitiven Äquivalent vun engem Mënsch ass. Méi esou, well e puer spekuléiere kënne mir super-intelligent AI hunn, ass et denkbar datt sou AI schlussendlech méi schlau ka sinn wéi Mënschen (fir meng Exploratioun vu super-intelligenten AI als Méiglechkeet, kuckt d'Ofdeckung hei).

Loosst eis d'Saache méi erof op d'Äerd halen a betruechten haut computational net-sentient AI.

Realiséiere datt d'AI vun haut net fäeg ass op iergendeng Manéier ze "denken" par rapport zum mënschlechen Denken. Wann Dir mat Alexa oder Siri interagéiert, kënnen d'Gespréichskapazitéiten ähnlech wéi mënschlech Fäegkeeten schéngen, awer d'Realitéit ass datt et computational ass a mënschlech Erkenntnis feelt. Déi lescht Ära vun AI huet extensiv Notzung vu Machine Learning (ML) an Deep Learning (DL) gemaach, déi computational Muster Matching profitéieren. Dëst huet zu AI Systemer gefouert, déi d'Erscheinung vu mënschlechähnleche Proclivitéiten hunn. Mëttlerweil gëtt et haut keng AI déi e Gesinn vu gesonde Mënscheverstand huet an och keng vun der kognitiver Wonnerung vu robustem mënschlecht Denken.

ML / DL ass eng Form vu computational Muster Matching. Déi üblech Approche ass datt Dir Daten iwwer eng Entscheedungsaarbecht sammelt. Dir fiddert d'Donnéeën an d'ML / DL Computermodeller. Dës Modeller sichen mathematesch Mustere ze fannen. Nodeems Dir esou Mustere fonnt hutt, wa se fonnt goufen, benotzt den AI System dann dës Mustere wann Dir nei Daten begéint. No der Presentatioun vun neien Donnéeën ginn d'Muster op Basis vun den "alen" oder historeschen Donnéeën ugewannt fir eng aktuell Entscheedung ze maachen.

Ech mengen, Dir kënnt roden, wou dat geet. Wann d'Mënschen, déi d'Muster op Entscheedunge getraff hunn, ongewollt Biases integréiert hunn, sinn d'Chancen datt d'Donnéeën dëst op subtile awer bedeitende Weeër reflektéieren. Machine Learning oder Deep Learning computational Muster Matching wäert einfach probéieren d'Donnéeën deementspriechend mathematesch ze mimikéieren. Et gëtt kee Gesinn vu gesonde Mënscheverstand oder aner sentienten Aspekter vun der AI erstallt Modeller per se.

Ausserdeem kënnen d'AI Entwéckler och net realiséieren wat lass ass. Déi arcane Mathematik am ML / DL kéint et schwéier maachen déi elo verstoppte Biases erauszekréien. Dir géift mat Recht hoffen an erwaarden datt d'AI Entwéckler fir déi potenziell begruewe Biases testen, obwuel dëst méi komplizéiert ass wéi et schéngt. Eng zolitt Chance existéiert datt och mat relativ extensiv Tester datt et Biases nach ëmmer an de Muster passend Modeller vun der ML / DL agebonne sinn.

Dir kënnt e bëssen de berühmten oder berühmte Spréchwuert vun Gerempels-an Dreck-eraus benotzen. D'Saach ass, dëst ass méi ähnlech wéi Biases-an déi süchteg infuséiert ginn wéi Biases ënner dem AI ënnerdaach. Den Algorithmus Entscheedungsprozess (ADM) vun AI gëtt axiomatesch mat Ongläichheeten belaascht.

Net gutt.

Loosst eis zréck op eise Fokus op déi waarm Kartoffel a seng potenziell katastrofal Notzung an AI. Et gëtt och e Fiendishness, deen och am waarme Kartoffelplot lauere kann.

Als séier Recap iwwer d'AI Manifestatioun vum waarme Kartoffelgambit:

• AI an e Mënsch-an-der-Loop schaffen zesummen un enger bestëmmter Aufgab
• AI huet e puer vun der Zäit Kontroll
• De Mënsch-an-der-Loop huet e puer vun der Zäit Kontroll
• Et gëtt eng Form vum Handoff Protokoll tëscht der AI an dem Mënsch
• D'Handoff kéint héich siichtbar sinn, oder et kéint subtil a bal verstoppt sinn
• Dëst ass alles normalerweis an engem Echtzäitkontext (eppes aktiv ass amgaang)

De primäre Fokus hei ass wann d'Handoff wesentlech eng waarm Kartoffel ass an d'AI entscheet fir op eemol d'Kontroll un de Mënsch ze iwwerginn. Notéiert w.e.g. datt ech méi spéit och hei déi aner Facet ofdecken, nämlech d'mënschlech Iwwerreechung vun der Kontroll un den AI als eng waarm Gromper.

Als éischt, betruecht wat ka geschéien wann d'AI eng waarm Kartoffelhandoff un e Mënsch-an-der-Loop mécht.

Ech wäert de Mënsch als de Mënsch-an-der-Loop bezeechnen, well ech soen datt de Mënsch schonn en Deel vun der Aarbechtsaktivitéit ass. Mir kënnen aner Szenarie hunn, wou e Mënsch, deen net besonnesch an der Aktivitéit involvéiert ass, vläicht e Frieme fir déi ganz Saach, déi waarm Gromper vun der AI iwwerreecht kritt, also bedenkt datt aner Aromen vun dësem Milieu existéieren.

Wann ech dir eng waarm Gromper géif ginn an dat op eng raisonnabel Manéier géif maachen, da géif ech Iech vläicht alarméieren, datt ech Iech d'Saachen iwwerginn. Ausserdeem géif ech probéieren dëst ze maachen wann ech wierklech gleewen datt Dir déi waarm Kartoffel besëtzt allgemeng besser wier wéi ech et hunn. Ech géif geeschteg ausrechnen ob Dir et sollt hunn oder ob ech domat weiderfuere soll.

Virstellen e Basketball Spill. Dir an ech sinn op der selwechter Equipe. Mir schaffen hoffentlech zesummen fir ze probéieren d'Spill ze gewannen. Et si just e puer Sekonnen op der Auer a mir musse verzweifelt markéieren soss verléiere mir de Match. Ech kommen an d'Positioun fir de leschte Schoss ze huelen. Soll ech dat maachen, oder soll ech Iech de Ball weiderginn an Dir hutt de leschte Schoss gemaach?

Wann ech e bessere Basketballspiller sinn an eng méi grouss Chance hunn de Schoss ënnerzegoen, sollt ech wahrscheinlech de Basketball halen a probéieren de Schoss ze maachen. Wann Dir e bessere Basketballspiller sidd wéi ech, sollt ech Iech wahrscheinlech de Ball weiderginn an Iech de Schoss loossen. Aner Considératiounen kommen zum Virdergrond wéi wien vun eis besser um Terrain ass fir de Schoss ze huelen, plus ob ee vun eis erschöpft ass well d'Spill bal eriwwer ass a vläicht verschwonnen ass an net up-to-par op hir shooting. etc.

Mat all deene Faktoren an der Mëtt vum haarde Moment, muss ech entscheeden ob ech de Ball halen oder Iech weiderginn.

Keen mierken datt an dësem Szenario d'Auer entscheedend ass. Dir an ech sinn allebéid mat enger extrem fristgerechter Äntwert konfrontéiert. Dat ganzt Spill ass elo op der Linn. Wann d'Auer aus ass, hu mir entweder gewonnen, well ee vun eis de Schoss gemaach huet, oder mir hunn verluer well mir et net ënnerzegoen. Ech kéint vläicht den Held sinn wann ech de Kuerf ënnerzegoen. Oder Dir kéint den Held sinn wann ech de Ball un Iech passéieren an Dir ënnerzegoen.

Et gëtt och d'Geess Säit oder Nodeeler vun dësem. Wann ech de Ball halen an de Schoss verpassen, da kéint jidderee mech virgeworf ginn, datt ech de Geess sinn oder d'ganz Equipe entlooss huet. Op der anerer Säit, wann ech de Ball un Iech passéieren an Dir verpasst de Schoss, gutt, Dir sidd d'Geess. Dëst kéint Iech ganz ongerecht sinn, well ech dech gezwongen hunn de leschte Schéisser ze sinn an de leschte Schéiss ze huelen.

Dir wäert definitiv wëssen datt ech dech an déi off-putting Positioun gesat hunn. An och wann jidderee mech dat kéint gesinn, si si gebonnen sech nëmmen op déi lescht Persoun ze konzentréieren déi de Ball hat. Ech géif méiglecherweis gratis Skate. Keen géif sech drun erënneren datt ech Iech de Ball am leschte Moment passéiert hunn. Si géifen nëmmen drun erënneren datt Dir de Ball hat an d'Spill verluer hutt well Dir de Schoss net gemaach hutt.

Okay, also ginn ech de Ball un Iech.

Firwat hunn ech dat gemaach?

Et gëtt keng einfach Manéier dëst ze bestëmmen.

Meng richteg Intentioune kéinten sinn datt ech net wollt hänke bleiwen als Geess, an dofir hunn ech entscheet fir dech all Drock ze maachen. Op d'Fro firwat ech de Ball passéiert hunn, kann ech behaapten datt ech dat gemaach hunn well ech geduecht hunn du bass e bessere Schéisser wéi ech (awer loosst eis maachen wéi wann ech dat guer net gleewen). Oder ech hu geduecht datt Dir an enger besserer Positioun wier wéi ech (loosst eis maachen wéi wann ech dat och net geduecht hunn). Keen géif jeemools wëssen, datt ech eigentlech just probéiert ze vermeiden mat der waarmer Gromper hänke bliwwen.

Vun der Bausse Vue vun de Saachen, kee konnt einfach meng richteg Begrënnung fir de Ball un Iech z'ënnerscheeden. Vläicht hunn ech dat onschëlleg gemaach well ech gegleeft datt Dir de bessere Spiller wier. Dat ass ee Wénkel. Vläicht hunn ech dat gemaach well ech net wollt datt jidderee mech e Verléierer nennt well ech de Schoss eventuell verpasst hunn, also hunn ech de Ball bei Iech komm a geduecht datt et eng grouss Erliichterung fir mech war. Ob ech wierklech ëm dech këmmeren ass eng ganz aner Saach.

Mir kënnen elo e puer weider Detailer zu der AI-relatéierter waarmer Kartoffel addéieren:

• D'AI entscheet fir de Mënsch-an-der-Loop am leschte Moment Kontroll ze ginn
• De leschte Moment kéint scho wäit iwwer all Mënsch-liewensfäeg Handlung erauskommen
• De Mënsch-an-der-Loop huet d'Kontroll awer e bësse falsch sou wéinst der Iwwerreechungszäit

Mull dëst fir ee Moment.

Ugeholl en AI System an e Mënsch-an-der-Loop schaffen zesummen un enger Echtzäit Aufgab déi involvéiert eng grouss Maschinn an enger Fabrik ze bedreiwen. Den AI detektéiert datt d'Maschinnen amgaang sinn. Anstatt datt d'AI weider d'Kontroll behält, iwwerhëlt d'AI abrupt d'Kontroll un de Mënsch. D'Maschinnen an dëser Fabréck geet séier a reng Mayhem an et gëtt keng Zäit méi fir de Mënsch Korrekturaktioun ze huelen.

D'AI huet déi waarm Kartoffel dem Mënsch-an-der-Loop iwwerginn an de Mënsch mat der richteger waarmer Kartoffel gestoppt sou datt d'Ëmstänn net méi mënschlech méiglech sinn ze këmmeren. Tag, Dir sidd et, geet déi al Linn wann Dir Tag-Spiller als Kand spillt. De Mënsch ass, solle mir soen, mam Mess markéiert.

Just wéi mäi Beispill iwwer de Basketball Spill.

Firwat huet d'AI d'Iwwerhand gemaach?

Gutt, am Géigesaz zu deem wann e Mënsch abrupt e Basketball iwwerhëlt an dann e bëssen Handwénkel mécht firwat se dat gemaach hunn, kënne mir normalerweis d'AI Programméierung ënnersichen an erausfannen wat dozou gefouert huet datt den AI dës Aart vu waarme Kartoffeliwwerreechung gemaach huet.

En AI Entwéckler hätt vläicht virdru decidéiert datt wann d'AI an e wierklech schlechte Problem kënnt, d'AI soll weidergoen fir de Mënsch-an-der-Loop Kontroll ze ginn. Dëst schéngt perfekt sënnvoll a raisonnabel. De Mënsch kéint "de bessere Spiller" um Terrain sinn. D'Mënsche kënnen hir kognitiv Fäegkeeten benotze fir potenziell e Problem ze léisen. D'AI huet méiglecherweis d'Limite vu senger Programméierung erreecht an et gëtt näischt anescht konstruktivt wat et an der Situatioun maache kann.

Wann den AI d'Iwwerreechung gemaach huet mat enger Minutt ier d'Maschinnen kablam gaangen ass, ass vläicht eng Minutt Heads-up laang genuch datt de Mënsch-an-der-Loop d'Saache ka korrigéieren. Ugeholl awer datt den AI d'Iwwerhand gemaach huet mat dräi Sekonnen ze goen. Denkt Dir datt e Mënsch an deem Zäitraum reagéiere kéint? Onwahrscheinlech. Op alle Fall, just fir d'Saachen nach manner quibbling ze maachen, ugeholl datt d'Handoff op de Mënsch-an-der-Loop geschitt ass mat e puer Nanosekonnen ze goen (eng Nanosekonn ass eng Milliardstel Sekonn, wat am Verglach e séiere Blink vun d'Ae ass 300 Millisekonnen laang).

Konnt e Mënsch-an-der-Loop genuch reagéieren wann d'AI déi waarm Kartoffel mat nëmmen Teensy-Weensy Split-Sekonne verlooss huet fir eng offen Handlung ze huelen?

Nee.

D'Handoff ass méi vu Falschheet wéi et soss kéint schéngen.

A Wierklechkeet wäert d'Handoff net gutt maachen wann et ëm déi schlëmm Situatioun kënnt. D'AI huet de Mënsch geprägt fir de Geess ze ginn.

E puer AI Entwéckler denken net iwwer dëst wann se hir AI entwerfen. Si huelen (falsch) glécklech net Rechnung datt d'Zäit en entscheedende Faktor ass. Alles wat se maachen ass entscheeden eng Iwwerreechung ze programméieren wann d'Saache schwéier ginn. Wann et näischt méi ass fir den AI konstruktiv ze maachen, werfen de Ball op de mënschleche Spiller.

AI Entwéckler kënnen net fäerten all engagéiert Gedanken doriwwer ze maachen zum Zäitpunkt vun der Kodéierung vun der AI, a si dann dacks duebel-failen andeems se net Tester maachen, déi dëst an d'Liicht bréngen. Alles wat hir Tester weisen ass datt den AI "flichteg" eng Handoff gemaach huet wann d'Limite vun der AI erreecht goufen. Voila, d'AI gëtt ugeholl gutt ze sinn a prett ze goen. D'Tester enthalen net en eigentleche Mënsch deen an déi onendlech an onméiglech Positioun gesat gouf. Et war net e richtege Mënsch-an-der-Loop Testprozess, dee kéint protestéieren datt dësen Aen Handoff am leschte Moment, oder tatsächlech laanscht de leschte Moment, hinnen wéineg oder guer näischt gutt gemaach huet.

Natierlech, e puer AI Entwéckler wäerten dës Zort vu Predicament intelligent berücksichtegt hunn, clever esou.

Nodeems si iwwer de Conundrum gemierkt hunn, wäerte se weidergoen fir d'AI ze programméieren fir sou ze handelen, souwisou.

Firwat?

Well et ass näischt anescht ze maachen, op d'mannst an hirem Kapp. Wann alles anescht klappt, Handkontrolle fir de Mënsch. Vläicht wäert e Wonner geschéien. Den Haapt Saach ass awer datt dëst den AI Entwéckler net besuergt ass, a si ginn dem Mënsch déi lescht Chance fir mat der Mess ze këmmeren. Den AI Entwéckler wäscht hir Hänn vun deem wat duerno geschitt.

Ech wëll klären datt AI Entwéckler net déi eenzeg Entwéckler vun dësen waarme Kartoffeldesignen sinn. Et sinn eng ganz Partie aner Akteuren, déi dofir op den Dësch kommen. Vläicht huet e Systemanalytiker, deen d'Spezifikatioune an Ufuerderungsanalyse gemaach huet, gesot datt dëst ass wat d'AI soll maachen. Déi involvéiert AI Entwéckler hunn den AI deementspriechend gemaach. Den AI Projektmanager hätt dëst vläicht ausgeschafft. D'Exekutoren an d'Gestioun, déi d'AI Entwécklung iwwerwaachen, kéinten dëst ausgeschafft hunn.

Jiddereen am ganzen AI Entwécklung Liewenszyklus hätt dee selwechten Design vun der waarmer Kartoffel weidergefouert. Ob iergendeen et gemierkt huet, kënne mir net sécher soen. Wa se et gemierkt hunn, kéinten déi als Naysayer bezeechent ginn an op d'Säit shunted ginn. Anerer hu vläicht d'Saach op hir Opmierksamkeet bruecht, awer si hunn d'Konsequenzen net verstanen. Si hu gefillt datt et en technesche bëssen Miniatur war, déi net an hirem Ëmfang war.

Ech wäert zu dëser informeller Lëscht vun "Grënn" eng vill méi nefarious Méiglechkeet bäidroen.

En AI Hot Potato Syndrom ass heiansdo virsiichteg agestallt well déi, déi den AI maachen, wollten hir begeeschtert Fuerderung op plausibel Verweigerung hunn.

Maacht Iech prett fir dësen Deel vun der Geschicht.

Am Fall vun de Fabrécksmaschinnen, déi iwwerhaapt lassgoen, gëtt et gebonnen vill Fanger ze weisen, wien fir dat geschitt ass verantwortlech. Wat d'Maschinn ugeet, hu mir en AI System dat gemaach a mir haten e Mënsch-an-der-Loop deen dat mécht. Dëst sinn eis zwee Basketballspiller, metaphoresch.

D'Auer war erofgaang an d'Maschinnen waren op der Grenz fir Kaboom ze goen. Loosst eis soen datt Dir an ech wëssen datt d'AI eng Iwwerreechung un de Mënsch-an-der-Loop gemaach huet, dëst mat net genuch Zäit ze maachen fir de Mënsch genuch Handlung ze huelen fir d'Katastroph ze korrigéieren oder ze vermeiden. Keen aneren mierkt datt dat ass wat geschitt ass.

D'Firma, déi d'AI mécht, kann op alle Fall direkt deklaréieren, datt si net Schold sinn, well de Mënsch d'Kontroll hat. No hiren impeccable records war d'AI net an der Kontroll an der Zäit vum Kaboom. De Mënsch war. Dofir ass et kloer kloer datt e Mënsch Schold ass.

Ass d'AI Firma grondsätzlech gelunn wann se dës ausgeschwat Behaaptung mécht?

Nee, si schéngen d'Wourecht ze soen.

Op d'Fro ob si sécher sinn datt d'AI net a Kontroll war, géif d'Firma haart an houfreg proklaméieren datt d'AI guer net a Kontroll wier. Si hunn Beweis vun dëser Behaaptung dokumentéiert (ugeholl datt d'AI e Logbuch vum Tëschefall gehal huet). Tatsächlech kënnen d'AI Firmechef hir Wenkbrauwen an Ängscht erhéijen datt iergendeen hir Integritéit op dësem Punkt erausfuerdert. Si wiere gewëllt op hirem hellege Eed ze schwieren datt d'AI war net a Kontroll. De Mënsch-an-der-Loop hat Kontroll.

Ech vertrauen datt Dir gesitt wéi irféierend dat ka sinn.

Jo, de Mënsch krut d'Kontroll iwwerreecht. An der Theorie war de Mënsch a Kontroll. D'AI war net méi a Kontroll. Awer de Mangel u verfügbaren Timing an Notifikatioun zimmlech vill mécht dëst eng extrem huel Fuerderung.

D'Schéinheet vun dësem, aus der Perspektiv vum AI Hiersteller, wier datt wéineg d'Fuerderungen erausfuerderen déi ugebuede ginn. Den AI Hiersteller kann d'Logbicher vum Tëschefall net fräiginn. Maachen dëst kéint déi rigged Situatioun ginn ewech. D'Logbicher ginn argumentéiert als Intellektuell Eegentum (IP) oder soss vun enger propriétaire a vertraulecher Natur. D'Firma wäert méiglecherweis behaapten datt wann d'Logbicher gewise ginn, dëst déi geheim Sauce vun hirer AI géif weisen an hir geschätzte IP ofschafen.

Stellt Iech d'Situatioun vum aarme Mënsch-an-der-Loop vir. Si sinn iwwerrascht datt jidderee se schëlleg ass fir d'Saachen aus der Hand ze loossen. D'AI "huet déi richteg Saach" an huet d'Kontroll un de Mënsch iwwerginn. Dëst kéint gewiescht sinn wat d'Spezifikatioune gesot hunn ze maachen (erëm, awer, d'Spezifikatioune ware remiss an net d'Timing an d'Machbarkeet Faktoren berücksichtegt). D'Logbicher, déi net verëffentlecht goufen, awer behaapt datt se vum AI Hiersteller ironcged sinn, bestätegen dem absolute Fakt datt de Mënsch d'Kontroll vun der AI kritt huet.

Dir kënnt dëst als e traureg Slam-Dunk op de verréckten Mënsch deklaréieren, dee bal sécher de Fall wäert huelen.

D'Chance sinn datt nëmmen wann dëst viru Geriicht geet, d'Realitéit vun deem wat geschitt ass endlech opgedeckt ginn. Wann déi schlau legal Beagle sech vun dëser Aart vu Gig bewosst sinn, géife se probéieren d'Logbicher legal ze kréien. Si missten en Expert Zeien kréien (eppes wat ech vun Zäit zu Zäit gemaach hunn) fir d'Logbicher z'entschlësselen. D'Logbicher eleng sinn vläicht net genuch. D'Logbicher kéinte gedoktert oder geännert ginn, oder virsiichteg entworf ginn fir d'Detailer net kloer ze weisen. Als solch muss och den AI Code verdéift ginn.

Mëttlerweil, all uechter dësem agonizing a laange Prozess vun legal Entdeckung, de Mënsch-an-der-Loop géif wierklech schlecht ausgesinn. D'Medien géifen d'Persoun als onverantwortlech molen, de Kapp verluer hunn, net fläisseg ze sinn, a solle voll verantwortlech gemaach ginn. Méiglech Méint oder Joeren, während dësem Prozess, wier déi Persoun nach ëmmer déi, op déi jidderee e beschëllegt Fanger gewisen huet. De Gestank kéint ni ewechgeholl ginn.

Denkt och drun datt dës selwecht Situatioun einfach erëm ka geschéien. An erëm. Unzehuelen datt den AI Hiersteller den AI net geännert huet, wann ëmmer eng ähnlech Last-Minute Situatioun entsteet, wäert den AI dee keng Zäit lénks Handoff maachen. Et géif een hoffen, datt dës Situatiounen net dacks geschéien. Op déi selten Occasiounen, wou et geschitt, ass de Mënsch-an-der-Loop nach ëmmer de praktesche Fall Guy.

Et ass en däiwelschen Trick.

Dir wëllt vläicht insistéieren datt den AI Hiersteller näischt falsch gemaach huet. Si soen d'Wourecht. D'AI huet d'Kontroll opginn. De Mënsch gouf dunn als Kontroll ugesinn. Dat sinn d'Fakten. Kee Sënn et ze streiden.

Egal ob iergendeen sech verstännegt an déi haart Froen stellt, plus ob den AI Hiersteller dës Froen op eng einfach Manéier beäntwert, dëst ass eppes wat selten schéngt ze geschéien.

Froen enthalen:

• Wéini huet d'AI d'Iwwerreechung un de Mënsch-an-der-Loop gemaach?
• Op wéi enger programméierter Basis huet d'AI d'Iwwerhand gemaach?
• Huet de Mënsch an der Loop genuch Zäit kritt fir d'Kontroll ze iwwerhuelen?
• Wéi gouf den AI fir dës Quandaries entworf an entworf?
• A sou weider.

Zu engem gewësse Grad, dofir ass AI Ethik an Ethesch AI sou en entscheedend Thema. D'Virschrëfte vun der AI Ethik bréngen eis waakreg ze bleiwen. AI Technologen kënnen heiansdo mat Technologie beschäftegt ginn, besonnesch d'Optimiséierung vum High-Tech. Si berücksichtegen net onbedéngt déi gréisser gesellschaftlech Auswierkunge. En AI Ethics Mentalitéit ze hunn an dat integral mat der AI Entwécklung a Fielding ze maachen ass vital fir entspriechend AI ze produzéieren, inklusiv (vläicht iwwerraschend oder ironesch) d'Bewäertung vu wéi AI Ethik vu Firmen ugeholl gëtt.

Nieft der AI Ethik Virschrëften am Allgemengen ze benotzen, gëtt et eng entspriechend Fro ob mir Gesetzer solle hunn fir verschidde Benotzung vun AI ze regéieren. Nei Gesetzer ginn op Bundes-, Staats- a lokalen Niveauen ëmginn, déi d'Gamme an d'Natur betreffen wéi d'AI soll ausgeschafft ginn. Den Effort fir esou Gesetzer auszeschaffen an duerchzesetzen ass graduell. AI Ethik déngt op d'mannst als e betruechten Stopgap, a wäert bal sécher zu engem gewësse Grad direkt an déi nei Gesetzer agebaut ginn.

Sidd bewosst datt e puer onbestänneg argumentéieren datt mir keng nei Gesetzer brauchen déi AI decken an datt eis existent Gesetzer genuch sinn. Tatsächlech warnen si viraus datt wa mir e puer vun dësen AI Gesetzer asetzen, mir déi gëllen Gäns ëmbréngen andeems se Fortschrëtter an der AI erofklammen, déi immens gesellschaftlech Virdeeler bidden.

Zu dësem Zäitpunkt vun dëser schwéierer Diskussioun, géif ech wetten datt Dir e puer zousätzlech illustréierend Beispiller wëllt, déi dëst Thema kéinte weisen. Et gëtt e speziellen a sécherlech populäre Set vu Beispiller déi mäi Häerz no leien. Dir gesitt, a menger Kapazitéit als Expert op AI abegraff déi ethesch a juristesch Auswierkunge, ginn ech dacks gefrot realistesch Beispiller z'identifizéieren déi AI Ethik Dilemmaen weisen, sou datt déi e bësse theoretesch Natur vum Thema méi einfach ka begräifen. Ee vun de evokativste Beräicher, déi dës ethesch AI Quandary lieweg presentéieren ass d'Entstoe vun AI-baséiert richteg selbstfahrend Autoen. Dëst wäert als praktesch Benotzungsfall déngen oder Beispill fir genuch Diskussioun iwwer dëst Thema.

Hei ass dann eng bemierkenswäert Fro déi derwäert ass ze iwwerdenken: Beliicht d'Entstoe vun AI-baséiert richteg selbstfahrend Autoen eppes iwwer den AI Hot Potato Syndrom, a wa jo, wat weist dëst?

Erlaabt mir e Moment d'Fro auszepaken.

Als éischt, bemierkt datt et kee mënschleche Chauffer an engem richtege selbstfahrenden Auto involvéiert ass. Denkt drun datt richteg selbstfahrend Autoen iwwer en AI Fueresystem gedriwwe ginn. Et gëtt keng Bedierfnes fir e mënschleche Chauffer um Rad, an et gëtt och keng Dispositioun fir e Mënsch fir d'Gefier ze fueren. Fir meng extensiv a lafend Ofdeckung vun Autonome Gefierer (AVs) a besonnesch selbstfahrend Autoen, kuckt de Link hei.

Ech wëll weider klären wat gemengt ass wann ech op richteg selbstfahrend Autoen schwätzen.

D'Niveaue vu Selbstfueren Autoen ze verstoen

Als Erklärung, richteg selbstfahrend Autoen sinn déi wou den AI den Auto ganz eleng fiert an et gëtt keng mënschlech Hëllef wärend der Fuertask.

Dës Chaufferlos Gefierer ginn als Niveau 4 an Niveau 5 ugesinn (kuckt meng Erklärung op dëse Link hei), während en Auto, deen e mënschleche Chauffer erfuerdert fir de Fuereeffort ze deelen, gëtt normalerweis um Niveau 2 oder Niveau 3 ugesinn. automatiséiert Add-ons déi als ADAS bezeechent ginn (Advanced Driver-Assistance Systems).

Et gëtt nach kee richtegen selbstfahrenden Auto um Niveau 5, a mir wëssen nach net emol ob dat méiglech ass, a wéi laang et dauert bis dohinner kënnt.

Mëttlerweil probéieren d'Niveau 4 Efforten no an no eng Traktioun ze kréien andeems se ganz schmuel a selektiv ëffentlech Stroosseverfahren duerchgoen, awer et ass Kontrovers iwwer ob dës Tester per se erlaabt sinn (mir sinn all Liewen oder Doud Meerschwäin an engem Experiment. statt op eisen Autobunnen an byways, e puer streiden, kuckt meng Ofdeckung um dëse Link hei).

Zënter semi-autonom Autoe brauchen e mënschleche Chauffer, d'Adoptioun vun deenen Autosformen wäert net däitlech anescht sinn wéi konventionell Gefierer ze fueren, sou datt et net vill nei ass fir sech iwwer dëst Thema ze decken (awer wéi Dir wäert gesinn an engem Moment, d'nächst Punkten si generell applicabel).

Fir semi-autonom Autoen ass et wichteg datt de Public muss iwwer e gestéiert Aspekt virgeworf ginn, dee viru Kuerzem entstoung, nämlech datt trotz deene mënschleche Chauffeuren, déi weider Videoe vu sech selwer schlofen um Rad vun engem Level 2 oder Level 3 Auto an, mir all musse vermeiden datt mir falsch ginn ze gleewen datt de Chauffer hir Opmierksamkeet vun der Fuehrfahrt kann ewechhuelen während e semi-autonomem Auto fuert.

Dir sidd déi verantwortlech Partei fir déi dreiwend Handlungen vum Gefier, egal wéi vill Automatioun an en Niveau 2 oder Niveau 3 gegoss ka ginn.

Selbstfahrend Autoen An AI Hot Potato Syndrom

Fir Level 4 a Level 5 richteg selbstfuerend Gefierer wäert et kee mënschleche Chauffer mat der Fuereaufgab involvéiert sinn.

All Besetzer wäerte Passagéier sinn.

Den AI mécht der Fuert.

Een Aspekt fir direkt ze diskutéieren implizéiert de Fakt datt den AI involvéiert an den haitegen AI Fuerersystemer net sentient ass. An anere Wierder, den AI ass insgesamt e Kollektiv vu computerbaséierter Programmatioun an Algorithmen, a ganz sécher net fäeg ze déiselwecht ze veruersaachen datt d'Mënschen kënnen.

Firwat ass dësen zousätzlechen Akzent iwwer den AI net sensibel?

Well ech wëll ënnersträichen datt wann ech iwwer d'Roll vum AI Fuerersystem diskutéieren, ginn ech net d'mënschlech Qualitéiten dem AI zou. Gitt weg datt et eng kontinuéierlech a geféierlech Tendenz ass dës Deeg d'Anthropomorphiséierung vum AI. Am Wesentlechen zielen d'Leit mënschlech wéi d'Gefill vun der haiteger AI zou, trotz der onbestreitbarer an onvermeidlecher Tatsaach datt bis elo nach keen esou AI existéiert.

Mat dëser Klärung kënnt Dir Iech virstellen datt den AI Fuerersystem net natierlech iergendwéi "weess" iwwer d'Facette vum Fuerer. Fueren an alles wat et mat sech bréngt, muss als Deel vun der Hardware a Software vum selbstfuerenden Auto programméiert ginn.

Loosst eis an déi Onmass Aspekter tauchen déi op dëst Thema spillen.

Als éischt ass et wichteg ze realiséieren datt net all AI selbstfahrend Autoen d'selwecht sinn. All Automobilist a selbstfahrend Tech Firma hëlt seng Approche fir selbstfahrend Autoen z'entwéckelen. Als esou ass et schwéier schwiereg Aussoen ze maachen iwwer wat AI Fueresystemer maachen oder net maachen.

Ausserdeem, wann Dir seet datt en AI Fuertsystem keng speziell Saach mécht, kann dëst spéider vun den Entwéckler iwwerholl ginn, déi de Computer tatsächlech programméiere fir dat Ganzt ze maachen. Schrëtt fir Schrëtt ginn AI Fuersystemer lues a lues verbessert a verlängert. Eng existent Limitatioun haut existéiert vläicht net méi an enger zukünfteger Iteratioun oder Versioun vum System.

Ech hoffen dat bitt eng genuch Litanei vu Virwarnungen fir ze ënnersträichen wat ech amgaang sinn ze bezéien.

Fir voll autonom Gefierer ass et vläicht keng Chance datt eng Handoff tëscht der AI an engem Mënsch geschitt, wéinst der Méiglechkeet datt et kee Mënsch an der Loop ass fir mat ze starten. D'Striewe fir vill vun den haitegen selbstfahrenden Autohersteller ass de mënschleche Chauffer komplett aus der Fuertask ze läschen. D'Gefier wäert net emol mënschlech zougänglech Fuerkontrolle enthalen. An deem Fall kann e mënschleche Chauffer, wann et präsent ass, net un der Fuertask deelhuelen well se Zougang zu all Fuerkontrolle feelen.

Fir e puer voll autonom Gefierer erlaben e puer Designen nach ëmmer e Mënsch an der Loop ze sinn, obwuel de Mënsch guer net verfügbar muss sinn oder um Fuereprozess deelhuelen. Sou kann e Mënsch beim Fuere matmaachen, wann déi Persoun dat wëllt. Op kee Fall ass d'AI awer op de Mënsch ofhängeg fir eng vun de Fuertaufgaben auszeféieren.

Am Fall vun semi-autonome Gefierer gëtt et eng Hand-an-Hand Relatioun tëscht dem mënschleche Chauffer an der AI. Fir e puer Designen kann de mënschleche Chauffer d'Fuerkontrolle ganz iwwerhuelen an am Wesentlechen den AI stoppen fir un de Fuere deelzehuelen. Wann de mënschleche Chauffer den AI an d'Fuererroll wëll zrécksetzen, kënne se dat maachen, obwuel dëst dann heiansdo de Mënsch forcéiert d'Fuerkontrolle opzeginn.

Eng aner Form vu semi-autonomer Operatioun géif de mënschleche Chauffer an den AI involvéieren, déi zesummen zesummen schaffen. Den AI fiert an de Mënsch fiert. Si fueren zesummen. D'AI kéint dem Mënsch ofginn. De Mënsch kéint den AI ofsetzen.

Op e puer Zäitpunkte kann den AI Fueresystem computationell feststellen datt de selbstfahrenden Auto an eng onhaltbar Situatioun geet an datt dat autonomt Gefier wäert crashen.

Als Ofgesi ginn e puer Pundits ronderëm behaapten datt selbstfahrend Autoen uncrashable wäerte sinn, wat pure Blödsinn ass an eng skandaléis a falsch Saach ze soen, kuckt meng Ofdeckung op de Link hei.

Fuert de Szenario vun engem selbstfahrenden Auto op eng Kollisioun oder Autosaccident weider, den AI Fueresystem kéint programméiert ginn fir d'Fuerkontrollen dem mënschleche Chauffer summéiert ze iwwerginn. Wann et genuch Zäit zur Verfügung ass fir de mënschleche Chauffer fir evasiv Handlung ze huelen, ass dëst wierklech eng sënnvoll a richteg Saach fir den AI ze maachen.

Awer ugeholl datt d'AI d'Iwwerhand mécht mat enger Fraktioun vun enger Split-Sekonn lénks fir ze goen. D'Reaktiounszäit vum mënschleche Chauffer ass net iwwerall séier genuch fir adäquat ze reagéieren. Plus, wann wonnerbar de Mënsch séier genuch war, sinn d'Chancen datt et keng liewensfäeg evasiv Handlungen sinn déi mat der limitéierter Zäit nach virum Crash gemaach kënne ginn. Dëst ass eng Twofer: (1) net genuch Zäit fir de mënschleche Chauffer ze handelen, (2) net genuch Zäit datt wann Handlung vum mënschleche Chauffer méiglech wier, datt d'Aktioun an der defiziter Zäit ausgefouert ka ginn.

Alles an allem ass dëst ähnlech wéi meng fréier Diskussioun iwwer d'Basketball-Buzzer-Situatioun an d'Fabréckmaschinn, déi berserk Szenario gaang ass.

Loosst eis de schiedlechen Zutat derbäi addéieren.

En Automobilist oder selbstfahrend Techfirma wëll net mat verschiddenen Autosaccidenter markéiert ginn, déi an hirer Flott geschitt sinn. Den AI Fuere System ass programméiert fir ëmmer d'Kontroll op de mënschleche Chauffer ze werfen, egal ob et genuch Zäit ass fir de mënschleche Chauffer eppes iwwer d'Predicament ze maachen. All Kéier wann en Autosaccident vun dëser Aart geschitt, ass den Automaker oder selbstfahrend Tech Firma fäeg vokal insistéieren datt de mënschleche Chauffer bei de Kontrollen war, während d'AI net war.

Hir Streckrekord fir AI Fueresystemer schéngt stellar ze sinn.

Net eemol ass den AI Fueresystem "schold" fir dës Autosaccidenter. Et sinn ëmmer déi darned mënschlech Chauffeuren, déi schéngen hir Aen op der Strooss net ze halen. Mir tendéieren dës Blarney ze schlucken a gleewen datt déi ganz präzis AI wahrscheinlech ni falsch ass. Mir tendéieren éischter ze gleewen (well mir duerch Erfahrung wëssen) datt mënschlech Chauffeuren sloppy sinn a Tonne Fuerfehler maachen. Déi logesch Conclusioun ass datt déi mënschlech Chauffeuren den Täter musse verantwortlech sinn, an den AI Fueresystem ass ganz onschëlleg.

Ier e puer selbstfahrend Affekote sech iwwer dës Charakteriséierung opreegen, loosst eis absolut unerkennen datt de mënschleche Chauffer ganz gutt kéint schëlleg sinn an datt se méi séier sollten handelen, wéi zum Beispill d'Fuerkontrolle vun der AI iwwerhuelen. Et gëtt och d'Chance datt de mënschleche Chauffer eppes substantielles gemaach hätt wann d'AI d'Fuerkontrollen iwwerginn huet. etc.

De Fokus hei war op d'Ëmstänn wou den AI als Chauffeur vum Gefier ugesi gouf an dann abrupt a mat wéineg Opmierksamkeet op wat e mënschleche Chauffer fäeg wier ze maachen, déi waarm Kartoffel un de mënschleche Chauffer werfen. Dëst ass och firwat sou vill besuergt sinn iwwer déi duebel Fuerroll vun semi-autonome Gefierer. Dir kéint soen, datt et ze vill Chauffeuren um Rad sinn. D'Zil, et schéngt, wier d'Saach ze léisen andeems se voll autonom Gefierer hunn déi kee Mënsch um Rad hunn an d'AI ëmmer d'Gefier dreift.

Dëst bréngt d'alliéiert Fro op wat oder wien verantwortlech ass wann den AI fiert, déi ech vill Mol a menge Kolonnen adresséiert hunn, wéi z. de Link hei an de Link hei.

Konklusioun

Mir musse virsiichteg sinn wann mir iwwer Autosaccidenter héieren oder liesen mat semi-autonome Gefierer. Sidd virsiichteg mat deenen déi probéieren eis ze narren andeems se proklaméieren datt hiren AI Fueresystem en onbeschiedegt Rekord huet. De conniving Plo vun der AI Hot Potato Syndrom kéint am Mix sinn.

Fir Firmen déi probéieren komplizéiert an dëse Saachen ze sinn, kënne mir vläicht déi berühmt Zeil vum Abraham Lincoln no bei eis Häerz halen: "Dir kënnt all d'Leit e puer vun der Zäit an e puer vun de Leit déi ganzen Zäit narren, awer Dir kënnt net narren. all d'Leit déi ganzen Zäit."

Ech hu probéiert hei d'AI Magie verstoppt hannert dem Écran ze weisen an heiansdo ënner der Hood gesat, déi ech opgekläert hunn, sou datt méi Leit net wäert méi vun der Zäit täuscht ginn.