AI Ethik virsiichteg bewäerten ob AI Biases Juegdbounties ubidden fir ze fangen an ethesch béis voll autonom Systemer ze bidden ass virsiichteg oder futil

Gewënscht: AI Bias Hunters.

Dat kéint eng modern Annonce sinn, déi Dir ufänkt op sozialen Medienkanäl ze gesinn an Optrëtter a verschiddenen Online Jobposten ze maachen. Dëst ass e relativ neit Konzept oder Roll. Et bréngt Kontrovers mat sech. E puer begeeschterte Gleeweger argumentéieren häerzlech datt et vill Sënn mécht a sollt déi ganzen Zäit geschéien, während anerer éischter nervös e seriöse Kappkraaft maachen an net sou sécher sinn datt dëst eng gutt Iddi ass.

De Kär vun der Roll besteet aus der AI all verstoppte Viraussetzungen oder embedded diskriminatoresch Praktiken auszeféieren. Fir d'Rettung kommen déi éierlech a ganz fréier AI biases Jeeër. Si wiere viraussiichtlech Computer-ervirhiewen Bounty Hunters. Méi sou, hoffentlech, an d'Tiefe vun den AI Fäegkeeten geprägt.

Hutt Pistoul, wäert reesen, a kann iwwer AI-qualifizéiert schaarf Marksmanship verwalten dës onschëlleg an ongewollt AI Biases auszesetzen.

Dëst stellt eng ganz Rëtsch vun thorny Froen iwwer d'Sensibilitéit fir sou eng Taktik ze verfolgen wann et drëm geet AI Biases z'entdecken. Wéi ech momentan diskutéieren, wësst w.e.g. datt d'Entstoe vun AI och d'Entstoe vun AI Biases mat sech bruecht huet. En Torrent vun AI Biases. Fir meng lafend an extensiv Ofdeckung vun AI Ethik an Ethesch AI, kuckt de Link hei an de Link hei, Just e puer ze Numm.

Wéi solle mir entdecken datt e bestëmmten AI System Viraussetzungen huet?

Dir kënnt d'AI Entwéckler uvertraut, déi den AI entworf hunn dat ze maachen. D'Saach ass, si kënne sou verstoppt sinn a Biases datt se selwer d'Biasen an hirer gebauter AI net erkennen kënnen. Et gesäit hinnen alles gutt aus. Oder si si vläicht sou opgereegt iwwer d'AI an hunn e Gefill vu Selbststolz doriwwer datt et dann e kritescht Ae musse huelen fir se no Viraussetzungen z'ënnersichen wier schwéier an e richtegen Downer. Vill aner sou Grënn schéngen ze ënnersträichen datt d'AI Entwéckler dës Aufgab iwwerhuelen, inklusiv Mangel u Fäegkeeten fir déi embedded Biases erauszefannen, Mangel un Zäit an engem Projet fir dat ze maachen, etc.

Okay, also maach weider a astellen ausserhalb Beroder fir déi dreckeg Aarbecht fir Iech ze maachen, wéi et war. Et stellt sech eraus datt Beroder glécklech Är AI fir Biases ënnersichen, Iech e schéine Penny bezuelen fir dat ze maachen (vill a vill Penny). Realiséiert datt Dir musst bezuelen fir datt se mat Ärem AI System séier kommen. Dir musst se dann hunn ronderëm ze rummage, wat eng ongewéinlech Zuel vun deier ustrengend Stonnen huelen kann. Consultants benotzen ass eng Optioun wann Dir de Budget dofir hutt.

An d'potenziell "Lück" vu wéi een dës lëschteg AI Biases fënnt, kommen déi heroesch an iwwerraschend AI Biases Bounty Hunters.

Dir bezuelt se normalerweis net viraus. Si probéieren d'AI Biases op hirer eegener Zäit ze fannen a mussen hir eege Rechnungen bezuelen wéi se dat maachen. Nëmme wa se erfollegräich Biases fannen, kréien se bezuelt. Ech huelen un, Dir kënnt einfach behaapten datt op eng passend Manéier ze denken, dat ass déi konventionell Definitioun vun engem Bounty Hunter. Gitt bezuelt wann Dir Erfolleg hutt. Gitt net bezuelt wann Dir net erfollegräich sidd. Period, Enn vun der Geschicht.

Bounty Programmer existéieren zënter op d'mannst d'Zäit vun de Réimer an dofir kënne mir iwwerzeegen datt se funktionnéieren, déi erfollegräich als Praxis iwwer all dës Joeren erlieft hunn.

Hei ass e faszinante Stéck historesch Trivia fir Iech. Laut enger geposter Noriicht während dem Réimesche Räich an der Stad Pompeji huet proklaméiert datt Bounty Hunters gebraucht goufen fir e Kupferpot ze fannen deen aus engem klenge Buttek vermësst ass. D'Belounung fir d'Erhuelung vum Kupferpot war en impressionante Präis vu fënnefanzechzeg Bronzemënzen. Entschëllegt ze soen datt mir net wëssen ob iergendeen Bounty Hunter de Kupferpot fonnt huet an d'Bronzemënzen behaapt huet, awer mir wëssen datt d'Bounty Juegd sécherlech zënter deenen Antikitéite weidergeet.

A méi modernen Zäiten sidd Dir vläicht bewosst datt an den 1980er et e puer Notabele Bounties ugebuede goufen fir Computerbugs oder Feeler an off-the-shelf Software Packagen ze fannen an dann an den 1990er huet Netscape däitlech eng Bounty ugebueden fir Bugs an hirem Webbrowser ze fannen. (eng vun de prominentste Firme vun deem Dag ginn fir dat ze maachen). Google a Facebook hu sech all op Bounty Juegd fir Bugs entscheet, ab 2010 respektiv 2013 Joer. E puer Joer méi spéit, am Joer 2016 souguer den US Department of Defense (DoD) ass an d'Aktioun komm andeems en "Hack the Pentagon" Bounty Effort huet (Notéiert datt déi ëffentlech fokusséiert Bounty fir Bugs war, déi a verschiddenen DoD-relatéierten Websäiten fonnt goufen an net an Verteidegungsmissiounskritesch Systemer).

Loosst eis méi déif an d'Bug Bounty Thema gräifen. Ech mierken datt ech haaptsächlech zielen iwwer AI Biases an der Bounty Juegd an dëser Diskussioun ze schwätzen, awer et ginn e puer zimlech relevant Parallelen zu der Bug Bounty Arena.

E puer sinn beweisbar verwonnert datt all Firma e Bounty wëll ubidden fir Bugs (oder, an dësem Fall, AI Biases) an hire Systemer ze fannen.

Op der Uewerfläch schéngt dëst wéi eng "Dir freet et" Aart Strategie. Wann Dir d'Welt wësst datt Dir déi begréissen, déi probéieren Lächer an Ärer Software ze fannen, schéngt et entspriechend un Abriecher ze soen datt se viru goen a probéieren an Äert Haus ze briechen. Och wann Dir scho gleeft datt Dir en zimlech gudden Abriecheralarmsystem hutt an datt keen an Äert geséchert Heem sollt erakommen, stellt Iech vir, datt Dir froen an iwwerhaapt bei Abriecher plädéiere fir all op Är Wunnsëtz erof ze kommen a kucken ob se kënnen knacken an et. Oh, d'Problemer, déi mir fir eis selwer wéckelen.

Datselwecht kéint gesot ginn iwwer Bounty Hunters ze froen fir Biases an Ärem AI ze fannen.

Als éischt implizéiert et vläicht datt Dir scho gleeft oder souguer direkt wësst datt Är AI Biases huet. Dat ass eng schockéierend direkt implizéiert Erlaabnes, déi wéineg schéngen bereet ze maachen a potenziell zréckzekommen.

Zweetens, Dir wësst net sécher wat déi Bounty Hunters maache kënnen. Si kéinten entscheeden der ganzer Welt ze soen datt se Biases an Ärem AI fonnt hunn. Et gëtt ugeholl datt dëst d'Bounty verginn kann, awer e puer kënnen d'Opmierksamkeet genéissen oder zielen hire Status ze stäerken fir Consultatiounskonzern an aner Akommes generéierend Méiglechkeeten ze kréien. Et kéint vläicht ganz altruistesch sinn. Et kéint eng Form vun AI Aktivismus sinn. Ech ka weidergoen.

Drëttens, et kéint e sneaky Twist un der ganzer Affär ginn. E Bounty Hunter, dee behaapt no AI Viraussetzungen ze sichen, kéint däiwel ronderëm pochen fir Weeër ze fannen fir Ären AI System z'attackéieren. Dat Ganzt ass eng Charade fir schlussendlech eng schwéier Cyberattack ze maachen. Dir hutt vläicht ugeholl datt si probéiert hunn ze hëllefen, wärend se falsch maachen an hiren Häerzer. Traureg, awer méiglech.

Véiert, kënne mir an dëser Matière nach méi schlau verdréit ginn. E Bounty Hunter fënnt e puer peinlech a potenziell Prozess-Spueren AI Biases. D'Bounty ass e Betrag vun Dollar, déi mir X nennen. Anstatt d'Bounty ze behaapten, mécht de Bounty Hunter eng Aart komesch Ransomware Provokatioun. Wann Dir de Bounty Hunter e Betrag vun zéng Mol X bezuelt oder vläicht den Himmel d'Limite, wäerte se Iech iwwer d'AI Biases soen. Dir hutt bis Sonndeg Nuecht um Mëtternuecht Zäit ze äntweren. No deem Zäitpunkt ginn d'AI Biases opgedeckt fir jiddereen ze gesinn. Yikes, eng schrecklech Situatioun fir an ze sinn.

Fënneften, déi lescht sinn déi sougenannte "Hack to Return" Cybercrooks, déi nodeems se eng Rëtsch Online-Teig geklaut hunn, entscheeden sech ze berouegen an e puer vun de schlecht gehollene Kaméidi zréckzebréngen, déi se gegraff hunn. D'Firma, déi hir Suen deelweis zréckkréien, ass dann bereet de verbleiwen geklauten Betrag ze betruechten als eng After-The-Fact Bounty un d'Déif belount. Schéngt wéi jidderee "gewënnt" an datt de gréissten Deel vun de Fongen zréckginn an mëttlerweil sinn d'Cybercrooks net legal verfollegt, plus si kréien d'Piratebounty fir ze booten. Ass dëst virsiichteg oder onroueg falsch Handlungen ze behalen?

Ech mierken datt e puer vun iech vläicht soen datt kee soll AI fräiginn deen iergendeng Viraussetzungen dran huet. Dat schéngt dëst ganzt Dilemma ze léisen iwwer ob AI Viraussetzungen Bounty Hunters ze benotzen oder net. Gitt Iech just net an eng Bounty Situatioun. Vergewëssert Iech datt Är AI Entwéckler déi richteg Saach maachen an net AI Biases an hir AI Systemer erlaben. Benotzt vläicht Beroder fir en Duebelcheck ze maachen. Am Wesentlechen, maacht wat Dir maache musst fir ze vermeiden datt Dir iwwerhaapt iwwerdenkt oder dës AI Bias Bounty Hunters frot op den Dësch ze kommen.

Jo, dat wier ganz sënnvoll. De Problem ass datt et och e bësse dreemt ass. D'Komplexitéit vu ville AI Systemer ass sou grouss datt probéieren ze garantéieren datt net eng eenzeg Unze vun AI Biases entstinn ass schwéier ze maachen. Zousätzlech sinn e puer AI Systemer virsiichteg entwéckelt fir unzepassen an "léieren" wéi se weidergoen. Dëst bedeit datt zu engem zukünftege Punkt an der Zäit d'AI, déi Dir entwéckelt hutt, déi loosst eis als éischt reng propper an ouni Biases ugoen, sech op d'Verknëppung vun Biases gravitéieren (ech mengen net dat op eng anthropomorphesch Manéier, wéi ech weider erkläre wéi mir gitt mat op dëst Thema).

Déi, déi Bounty Juegd fir Software Bugs favoriséieren, sinn ufälleg fir ze streiden datt et Sënn mécht sou Bounties ze bidden. Mir kënnen hir Begrënnung berücksichtegen a kucken ob et och fir den AI Biase Räich gëllt.

Proponente vu Käferbounties ënnersträichen datt anstatt ze probéieren ze maachen wéi wann et keng Lächer an Ärem System gëtt, firwat net encouragéieren Lächer ze fannen, dat op eng "kontrolléiert" Manéier ze maachen? Am Géigesaz, ouni esou e Bounty Effort, kënnt Dir just hoffen a bieden datt duerch zoufälleg Chance keen e Lach fënnt, awer wann Dir amplaz e Bounty bitt an deenen, déi e Lach fannen, seet, datt se belount ginn, bitt et eng Chance fir dann d'Lach eleng ze shore-up an dann verhënnert datt anerer et heemlech op e puer spéider Zäitpunkt fannen.

Datselwecht kéint am Benotzungsfall vun AI Biases gesot ginn. Wann Dir eng genuch Bounty bitt, hoffentlech bréngen d'Bounty Hunters d'Entdeckung vun AI Biases op Är Opmierksamkeet. Dir kënnt dann mat den AI Biases op eng relativ roueg a gemooss Manéier eens ginn. Dëst kéint e vill méi groussen a méi beängschtegend Problem méi spéit virausgoen, nämlech datt een aneren AI Biases an Ärer AI fënnt an doriwwer an den héijen Himmel jäizt.

Allgemeng, eng Firma, déi Bugs Bounty Juegd Efforten aktivéiere wëll, wäert eng Vulnerability Disclosure Policy (VDP) asetzen. De VDP weist wéi d'Bugs ze fannen an der Firma gemellt ginn, zesumme mat wéi d'Belounung oder d'Bounty dem Jeeër geliwwert gëtt. Normalerweis wäert de VDP verlaangen datt de Jeeër um Enn en Non-Disclosure Agreement (NDA) ënnerschreift sou datt se net anerer verroden wat se fonnt hunn.

D'Notioun fir en NDA mat Bounty Hunters ze benotzen huet e puer Kontrovers. Och wann et vläicht Sënn mécht fir d'Firma déi d'Bounty ubitt fir d'Mamm déi fonnt Belaaschtungen ze halen, et gëtt och gesot datt d'Gesamtbewosstsinn iwwer sou Käfere stëmmt. Wahrscheinlech, wann Software Bugs erlaabt ze schwätzen iwwer, et géif potenziell d'Sécherheet vun anere Systemer bei anere Firmen hëllefen, déi dann hir Belaaschtunge géifen ënnerstëtzen. E puer Bounty Hunters wäerten net eng NDA ënnerschreiwen, deelweis wéinst dem ëffentleche Wonsch an deelweis wéinst dem Versuch hir eegen Identitéit verstoppt ze halen. Bedenkt och datt den NDA Aspekt normalerweis net entsteet bis nodeems de Jeeër behaapt datt se e Käfer fonnt hunn, anstatt et am Viraus ze erfuerderen.

E puer VDPs festleeën datt d'NDA nëmme fir eng limitéiert Zäitperiod ass, wat d'Firma erlaabt fir d'éischt eng Léisung fir dat scheinbar Lach ze fannen an duerno duerno fir méi breet Offenbarung doriwwer z'erméiglechen. Wann d'Lach verstoppt ass, erlaabt d'Firma dann e Losen vun der NDA sou datt de Rescht vun der Welt iwwer de Käfer kann wëssen. Déi typesch Zäit-ze-Resolutioun fir Bounty gejot Bugs ass gemellt ongeféier 15-20 Deeg wann eng Firma et direkt wëll pluggen, während an anere Fäll et op 60-80 Deeg kéint ausstrecken. Am Sënn vun der Bezuelung vum Bounty Hunter, de sougenannten Zäit-ze-Bezuelen, nodeems d'Lach als tatsächlech existéiert verifizéiert gouf, tendéieren d'Bounty Bezuelungen bannent ongeféier 15-20 Deeg fir déi méi kleng Instanzen a ronn 50-60 Deeg fir déi gréisser Instanzen (dës sinn dauernd verännerend Industrieindikatiounen an nëmmen als Illustratioun genannt).

Sollt AI Viraussetzungen Bounty Hunters och gefrot ginn un engem VDP deelzehuelen a mat engem NDA ze këmmeren?

Dir kënnt e Jo an e Nee op dës Fro kréien. Jo, e puer Firme sollten dee Wee goen. Nee, Dir kënnt net onbedéngt entscheeden fir dee Wee ze goen. Faktore enthalen d'Gréisst an d'Natur vun der AI, d'Potenzial vun all involvéierten AI Viraussetzungen, an eng Rëtsch aner ethesch, juristesch a geschäftlech Iwwerleeungen déi kommen.

Ech kéint derbäi bäidroen datt e Bounty Juegdbestriewung fir AI Biases vun Ärem AI opzebauen eng vill méi grouss Uerdnung ass wéi Dir op engem éischte Bléck ugeholl kéint.

Mir fänken un mat der formidabeler Méiglechkeet datt Dir vun AI Biases Bounty Hunters iwwerwältegt gëtt.

De Moment wier Dir schwéier gedréckt vill ze fannen déi sou eng Visitekaart hätten. Et sinn net vill ronderëm. Et sinn d'Deeg vum Wild West an deem Sënn. Awer wann d'Notioun vun AI Biases an der Bounty Juegd opfällt, besonnesch wann d'Bounties vill a räich belount sinn, kënnt Dir wetten datt jidderee sech an de Biase Juegd Schwämm daucht.

Wëllt Dir all Zorte vu Riffraff verfollegen AI Biases an Ärem AI System? Dir kritt e puer Takers déi tatsächlech Experten an dëser Zort Saach sinn. Dir kritt aner Takers déi Amateuren sinn a vläicht e Chaos maachen oder Wollef kräischen. Déi nächst Saach, déi Dir wësst, jidderee deen "Kënschtlech Intelligenz" schreiwe kann, wäert kommen fir an Ärer Goldmine vun engem AI System ze graven fir déi wäertvoll AI Biases Goldnuggets. De Gold Rush ass op. Dat ass vläicht net gutt fir Iech.

Dir musst d'Bounty Hunter Soumissioun iwwerpréiwen. Et gëtt vill "Kaméidi" an de gemellten Fuerderungen, am Sënn datt vill vun de behaapt AI Biases net existéieren, obwuel de Bounty Hunter insistéiert datt se e puer fonnt hunn. Stellt Iech vir wéi vill Aarbecht Är eege AI Teams erfuerderlech sinn fir d'Bounty Fuerderungen z'ënnersichen, d'Validitéit vun all ze entdecken, an dann potenziell zréck an zréck mam Bounty Hunter goen iwwer ob Gold entdeckt gouf oder net.

E puer géife behaapten dat ass en anere Grond fir dat Ganzt selwer ze maachen. Dir kënnt zwangsleefeg entdecken datt d'Bounty Saach méi Ierger ass wéi et wäert war.

Hei ass eng aner Fro fir ze denken. Wéi wäerten d'Bounty Hunters wëssen wéi eng AI Bias ausgesäit? Am Wesentlechen, ouni e bëssen Aussoe vu wat no ze sichen, kann all glänzend Fiels behaapt ginn als eng AI Bias an der erkannter AI Goldmine déi ausgegruewe gëtt.

An den Deeg vum Old West, ugeholl datt Dir eng Belounung fir d'Fange vum Billy the Kid (e berühmten Outlaw) ugebueden hutt. Wann Dir dat gemaach hutt an net e Bild mat abegraff hutt wéi de Billy ausgesäit, stellt Iech d'Zuel vun de Bounty Hunters vir, déi een an de Büro vum Sheriff zéie kënnen, deen se gehofft oder geduecht hunn Billy the Kid wier. Dir kënnt mat falschen Billy's iwwerschwemmt ginn. Dëst ass schlecht, well Dir musst viraussiichtlech jidderee kucken, iwwerpréift Froen stellen, a probéiert erauszefannen ob déi Persoun wierklech de Billy war oder net.

De Punkt ass datt fir d'AI Biases Bounty Effort opzestellen, Dir wier schlau fir ze probéieren ze klären wat Dir als AI Biases betruecht. Dëst erfuerdert eng Goldilocks Aart Eechung. Dir wëllt net sou begrenzt sinn datt d'Bounty Hunters AI Biases iwwersinn just well se net an Ärer virgeschriwwener Definitioun passen, an Dir wëllt och net datt se "Eureka!" bei all Stéck vun enger AI Bias, déi se vläicht fannen.

Dir braucht just déi richteg Goldilocks Gläichgewiicht vun deem wat AI Biases besteet aus a liwwert also léiwer explizit Richtungen dovun.

Vill vun dëser AI Biases Bounty Juegd wäert op AI-baséiert Machine Learning (ML) an Deep Learning (DL) Systemer fokusséieren. Dëst mécht Sënn well d'Entstoe vu ML / DL Pervasivitéit wiisst, plus et schéngt e puer vun de wahrscheinlechsten Erausfuerderungen ze hunn fir ongerecht AI Biases ëmzegoen.

Dës Fuerscher identifizéieren wéi grouss en AI Biases Bounty Juegd Effort ka sinn, besonnesch am ML / DL Kontext: "Mat der Zäit hunn d'Software a Sécherheetsgemeinschaften 'Bug Bounties' entwéckelt an engem Versuch eng ähnlech Dynamik tëscht Systementwéckler an hire Kritiker z'änneren. (oder Hacker) fir méi interaktiv a produktiv Ziler. D'Hoffnung ass datt andeems se bewosst extern Parteien invitéieren fir Software oder Hardware Bugs an hire Systemer ze fannen, an dacks monetär Ureiz fir dat ze maachen, e méi gesond a méi séier reagéiert Ökosystem wäert evoluéieren. Et ass natierlech fir d'ML Gemeinschaft eng ähnlech 'Bias Bounty' Approche fir d'rechtzäiteg Entdeckung a Reparatur vu Modeller a Systemer mat Bias oder aner ongewollt Verhalen ze berücksichtegen. Anstatt Bugs an der Software ze fannen, ginn extern Parteien invitéiert Biases ze fannen - zum Beispill (demographesch oder aner) Ënnergruppen vun Inputen, op deenen en trainéierte Modell ënnerperformt - a gi belount fir dat ze maachen" (am Pabeier "An Algorithmic Framework for Bias) Bounties" vum Ira Globus-Harris, Michael Kearns an Aaron Roth).

Am Fuerschungspabeier skizzéieren d'Auteuren eng proposéiert Approche fir wéi eng Aarte vun AI Biases kënne vu Bounty Hunters gesicht ginn. Et gëtt och eng Indikatioun iwwer d'Bewäertung vun de Bounty Hunter Fuerderunge verbonne mat de angeblechen AI Biases sou entdeckt. Wéi pro meng fréier Bemierkungen hei, sinn d'Chancen datt Dir spektakulär Fuerderungen kritt an d'AI Biases Weess vum Chaff trennt.

Ier mer e bësse méi Fleesch a Gromperen iwwer déi wëll a wollesch Considératiounen ënnerleien, déi AI Bias Juegd ënnerleien, loosst eis e puer zousätzlech Fundamenter iwwer déif integral Themen etabléieren. Mir mussen kuerz e breezy Tauche an AI Ethik huelen a besonnesch d'Entstoe vu Machine Learning (ML) an Deep Learning (DL).

Dir sidd vläicht vague bewosst datt eng vun de haartste Stëmmen hautdesdaags am AI Feld an och ausserhalb vum AI Feld besteet aus dem Geruff no enger méi grousser Scheinheet vun ethescher AI. Loosst eis kucken wat et heescht fir AI Ethics an Ethical AI ze referenzéieren. Ausserdeem wäerte mir entdecken wat ech mengen wann ech vu Machine Learning an Deep Learning schwätzen.

E bestëmmte Segment oder Deel vun der AI Ethik, déi vill Medienopmierksamkeet kritt huet, besteet aus AI déi ongerecht Biases an Ongläichheeten ausweist. Dir sidd vläicht bewosst datt wann déi lescht Ära vun AI ugefaang huet, et e grousse Burst vun Begeeschterung war fir wat e puer elo nennen AI Fir Gutt. Leider, op den Fersen vun där grujeleger Opreegung, hu mir ugefaang Zeien AI Fir Schlecht. Zum Beispill, verschidde AI-baséiert Gesiichtserkennungssystemer goufen opgedeckt wéi se rassistesch Biases a Geschlecht Biases enthalen, déi ech diskutéiert hunn. de Link hei.

Efforten ze kämpfen zréck géint AI Fir Schlecht aktiv ënnerwee sinn. Nieft vociferous legal Verfollegungen fir de Mëssbrauch z'erhiewen, gëtt et och e wesentleche Push fir d'AI Ethik ëmzegoen fir d'AI Vielness ze rächen. D'Notioun ass datt mir wichteg ethesch AI Prinzipien solle adoptéieren an ënnerstëtze fir d'Entwécklung an d'Feldung vun AI ze maachen fir de AI Fir Schlecht a gläichzäiteg d'Preferenz ze heraldéieren a förderen AI Fir Gutt.

Op enger verwandter Notioun sinn ech en Affekot fir ze probéieren AI als Deel vun der Léisung fir AI-Schwieregkeeten ze benotzen, Feier mat Feier ze kämpfen an där Manéier vum Denken. Mir kënnen zum Beispill Ethesch AI Komponenten an en AI System embetteren deen iwwerwaacht wéi de Rescht vun der AI d'Saache mécht an domat potenziell diskriminéierend Efforten an Echtzäit opfänken, kuckt meng Diskussioun op de Link hei. Mir kënnen och e separaten AI System hunn, deen als Typ vun AI Ethics Monitor handelt. Den AI System déngt als Iwwerwaacher fir ze verfolgen an z'entdecken wann en aneren AI an den onetheschen Ofgrond geet (kuckt meng Analyse vu sou Fäegkeeten op de Link hei).

An engem Moment wäert ech mat Iech e puer iwwergräifend Prinzipien deelen, déi AI Ethik ënnerleien. Et gi vill vun dësen Aarte vu Lëschte ronderëm hei an do. Dir kënnt soen datt et nach net eng eenzeg Lëscht vun universellen Appel a Konkurrenz ass. Dat ass déi onglécklech Noriicht. Déi gutt Noriicht ass datt op d'mannst et liicht verfügbar AI Ethics Lëschte sinn a si tendéieren zimlech ähnlech ze sinn. Alles gesot, dëst suggeréiert datt duerch eng Form vu rational Konvergenz vu verschiddenen Aarte mir eise Wee an eng allgemeng Gemeinsamkeet fannen, aus deem AI Ethik besteet.

Als éischt, loosst eis kuerz e puer vun den allgemenge etheschen AI Virschrëfte ofdecken fir ze illustréieren wat e vital Considératioun sollt sinn fir jiddereen deen AI bastelt, fält oder benotzt.

Zum Beispill, wéi gesot vum Vatikan am Rom Call Fir AI Ethik a wéi ech am-Déift Daach am de Link hei, dëst sinn hir identifizéiert sechs primär AI Ethik Prinzipien:

• Transparenz: Am Prinzip mussen AI Systemer erklärbar sinn
• Inclusioun: D'Bedierfnesser vun all Mënsch musse berücksichtegt ginn, fir datt jidderee profitéiere kann, an all Eenzelnen déi beschtméiglech Konditioune gebuede kréien fir sech auszedrécken an z'entwéckelen.
• Verantwortung: Déi, déi d'Benotzung vun AI designen an ofsetzen, musse mat Verantwortung an Transparenz virgoen
• Onpartialitéit: Schafen oder handelen net no Viraussetzungen, sou datt d'Gerechtegkeet an d'mënschlech Dignitéit ofgeséchert sinn
• Zouverlässegkeet: AI Systemer musse fäeg sinn zouverlässeg ze schaffen
• Sécherheet a Privatsphär: AI Systemer musse sécher funktionnéieren an d'Privatsphär vun de Benotzer respektéieren.

Wéi gesot vum US Department of Defense (DoD) an hirem Ethesch Prinzipien fir d'Benotzung vu kënschtlecher Intelligenz a wéi ech am-Déift Daach am de Link hei, dëst sinn hir sechs primär AI Ethik Prinzipien:

• Verantwortlech: DoD Personal wäert entspriechend Niveaue vu Uerteel a Suergfalt ausüben wärend se verantwortlech bleiwen fir d'Entwécklung, d'Deployment an d'Benotzung vun AI Fäegkeeten.
• Gerechtegkeet: D'Departement wäert bewosst Schrëtt huelen fir onbedéngt Bias an AI Fäegkeeten ze minimiséieren.
• Tracéierbar: D'AI-Kapazitéite vum Departement ginn entwéckelt an ofgesat sou datt relevant Personal e passend Verständnis vun der Technologie, Entwécklungsprozesser, an operationelle Methoden huet, déi op AI Fäegkeeten applicabel sinn, inklusiv transparent an auditéierbar Methodologien, Datequellen, an Designprozeduren an Dokumentatioun.
• verléisslech: Dem Departement seng AI Fäegkeeten wäerten explizit, gutt definéiert Uwendungen hunn, an d'Sécherheet, Sécherheet an d'Effizienz vun esou Fäegkeeten wäerten ënner deenen definéierte Gebrauch iwwer hire ganze Liewenszyklus Testen a Versécherung ënnerleien.
• Regéierend: D'Departement wäert AI Fäegkeeten designen an entwerfen fir hir virgesinn Funktiounen ze erfëllen, wärend se d'Fäegkeet besëtzt fir ongewollte Konsequenzen z'entdecken an ze vermeiden, an d'Fäegkeet fir ofgebaute Systemer ze deaktivéieren oder ze deaktivéieren déi ongewollt Verhalen weisen.

Ech hunn och verschidde kollektiv Analysen vun AI Ethik Prinzipien diskutéiert, ënner anerem e Set ofgedeckt, entwéckelt vu Fuerscher, déi d'Essenz vu ville nationalen an internationalen AI Ethik Prinzipien ënnersicht a kondenséiert hunn an engem Pabeier mam Titel "The Global Landscape Of AI Ethics Guidelines" (publizéiert) an Natur), an datt meng Ofdeckung exploréiert am de Link hei, wat zu dëser Keystone Lëscht gefouert huet:

• Transparenz
• Gerechtegkeet & Gerechtegkeet
• Net-Maleficenz
• Responsabilitéit
• Privatsphär
• Benefizitéit
• Fräiheet & Autonomie
• Trust
• Nohaltegkeet
• Dignitéit
• Solidaritéit

Wéi Dir direkt kéint roden, probéieren d'Spezifizitéiten déi dës Prinzipien ënnersträichen ze präziséieren, kann extrem schwéier sinn ze maachen. Nach méi esou, den Effort fir dës breet Prinzipien an eppes ganz konkret an detailléiert genuch ze maachen fir ze benotzen wann Dir AI Systemer erstallt ass och eng haart Nëss fir ze knacken. Et ass einfach insgesamt Handwaving ze maachen iwwer wat AI Ethik Viraussetzungen sinn a wéi se allgemeng observéiert solle ginn, wärend et eng vill méi komplizéiert Situatioun an der AI Kodéierung muss de richtege Gummi sinn deen op der Strooss entsprécht.

D'AI Ethik Prinzipien solle vun AI Entwéckler benotzt ginn, zesumme mat deenen, déi AI Entwécklungsefforten managen, an och déi, déi schlussendlech op AI Systemer Felder a Betreiung maachen. All Akteuren am ganzen AI Liewenszyklus vun der Entwécklung an der Notzung ginn am Kader vum Verhalen vun den etabléierten Normen vun der ethescher AI ugesinn. Dëst ass e wichtege Highlight well déi üblech Viraussetzung ass datt "nëmmen Coderen" oder déi, déi den AI programméiere, ënnerleien un den AI Ethics Notioune ze halen. Wéi virdru gesot, et brauch en Duerf fir AI z'entwéckelen an ze feld, a fir déi d'ganz Duerf muss beherrscht sinn an un d'AI Ethik Viraussetzungen halen.

Loosst eis och sécherstellen datt mir op der selwechter Säit sinn iwwer d'Natur vun der heiteger AI.

Et gëtt keng AI haut déi sentient ass. Mir hunn dat net. Mir wëssen net ob sentient AI méiglech wäert sinn. Keen kann passend viraussoen ob mir sentient AI erreechen, an och net ob sentient AI iergendwéi wonnerbar spontan an enger Form vu computational kognitiver Supernova entstinn (normalerweis als Singularitéit bezeechent, kuckt meng Ofdeckung op de Link hei).

D'Aart vun AI op déi ech fokusséiere besteet aus der net-sentienten AI déi mir haut hunn. Wa mir wëlle wëlle spekuléieren iwwer sensibel AI, dës Diskussioun kéint an eng radikal aner Richtung goen. Eng sentient AI wier anscheinend vu mënschlecher Qualitéit. Dir musst berücksichtegen datt de sentienten AI de kognitiven Äquivalent vun engem Mënsch ass. Méi esou, well e puer spekuléiere kënne mir super-intelligent AI hunn, ass et denkbar datt sou AI schlussendlech méi schlau ka sinn wéi Mënschen (fir meng Exploratioun vu super-intelligenten AI als Méiglechkeet, kuckt d'Ofdeckung hei).

Loosst eis d'Saache méi erof op d'Äerd halen a betruechten haut computational net-sentient AI.

Realiséiere datt d'AI vun haut net fäeg ass op iergendeng Manéier ze "denken" par rapport zum mënschlechen Denken. Wann Dir mat Alexa oder Siri interagéiert, kënnen d'Gespréichskapazitéiten ähnlech wéi mënschlech Fäegkeeten schéngen, awer d'Realitéit ass datt et computational ass a mënschlech Erkenntnis feelt. Déi lescht Ära vun AI huet extensiv Notzung vu Machine Learning (ML) an Deep Learning (DL) gemaach, déi computational Muster Matching profitéieren. Dëst huet zu AI Systemer gefouert, déi d'Erscheinung vu mënschlechähnleche Proclivitéiten hunn. Mëttlerweil gëtt et haut keng AI déi e Gesinn vu gesonde Mënscheverstand huet an och keng vun der kognitiver Wonnerung vu robustem mënschlecht Denken.

ML / DL ass eng Form vu computational Muster Matching. Déi üblech Approche ass datt Dir Daten iwwer eng Entscheedungsaarbecht sammelt. Dir fiddert d'Donnéeën an d'ML / DL Computermodeller. Dës Modeller sichen mathematesch Mustere ze fannen. Nodeems Dir esou Mustere fonnt hutt, wa se fonnt goufen, benotzt den AI System dann dës Mustere wann Dir nei Daten begéint. No der Presentatioun vun neien Donnéeën ginn d'Muster op Basis vun den "alen" oder historeschen Donnéeën ugewannt fir eng aktuell Entscheedung ze maachen.

Ech mengen, Dir kënnt roden, wou dat geet. Wann d'Mënschen, déi d'Muster op Entscheedunge getraff hunn, ongewollt Biases integréiert hunn, sinn d'Chancen datt d'Donnéeën dëst op subtile awer bedeitende Weeër reflektéieren. Machine Learning oder Deep Learning computational Muster Matching wäert einfach probéieren d'Donnéeën deementspriechend mathematesch ze mimikéieren. Et gëtt kee Gesinn vu gesonde Mënscheverstand oder aner sentienten Aspekter vun der AI erstallt Modeller per se.

Ausserdeem kënnen d'AI Entwéckler och net realiséieren wat lass ass. Déi arcane Mathematik am ML / DL kéint et schwéier maachen déi elo verstoppte Biases erauszekréien. Dir géift mat Recht hoffen an erwaarden datt d'AI Entwéckler fir déi potenziell begruewe Biases testen, obwuel dëst méi komplizéiert ass wéi et schéngt. Eng zolitt Chance existéiert datt och mat relativ extensiv Tester datt et Biases nach ëmmer an de Muster passend Modeller vun der ML / DL agebonne sinn.

Dir kënnt e bëssen de berühmten oder berühmte Spréchwuert vun Gerempels-an Dreck-eraus benotzen. D'Saach ass, dëst ass méi ähnlech wéi Biases-an déi süchteg infuséiert ginn wéi Biases ënner dem AI ënnerdaach. Den Algorithmus Entscheedungsprozess (ADM) vun AI gëtt axiomatesch mat Ongläichheeten belaascht.

Net gutt.

Loosst eis elo zréck op d'Thema vun der AI Bias Juegd.

Fir déi vun iech, déi eng AI Bias Bounty Juegd Bestriewung betruechten, hei sinn meng recommandéiert siwe Schlëssel Schrëtt fir wéi een am beschten viru geet:

1) Bewäerten. Bewäert d'Eegeschaft vun engem AI Bias Bounty Juegd Effort fir Är Ëmstänn a wéi pro Ären AI Systemer

2) Design. Designt eng entspriechend AI Bias Bounty Juegd Approche

3) Ëmsetzung. Ëmsetzen a publizéieren Är AI Bias Bounty Juegd Bestriewungen

4) Beräich. Feld d'AI biases Bounty Fuerderungen a veraarbecht deementspriechend

5) gefléckt. Fixéiert oder ajustéiert Är AI wéi pertinent fir dës entdeckt AI Bias-Beliichtungen

6) ajustéieren. Ajustéiert d'AI Biases Bounty Juegd wéi néideg

7) Annuléieren. Stoppen d'AI Bias Bounty Juegd wann et net méi gebraucht gëtt

A menger Serie vun uewe Schrëtt, bemierkt datt ech ernimmen datt Dir viraussiichtlech Är AI wëllt fixéieren oder upassen wéi Dir feststellt datt eng behaapt AI Bias tatsächlech an Ärem AI System existéiert. Dëst mécht vill Sënn. Dir wëllt bal sécher all fonnt AI Biases opmaachen. Denkt un déi legal (an ethesch) Auswierkunge wann Dir dat net maacht. Et ass eng Saach ze behaapten datt Dir net wousst datt eng AI Bias existéiert an dofir erlaabt et ze existéieren, wärend et vill méi wackeleg Terrain ass fir op Rekord ze hunn datt Dir vun enger AI Bias bewosst gouf an näischt doriwwer gemaach hutt.

D'Natur an de Grad vun der AI Fix oder Upassung wieren natierlech ofhängeg wéi bedeitend d'AI Biases waren a wéi déif agebonnen d'Themen sinn. Wann Dir Gléck hutt, vläicht eng bescheiden Quantitéit vun Ännerungen un der AI wäert d'Saache korrigéieren. Deen anere Potenzial ass datt Dir vläicht e ganze Rewrite vun der AI maache musst. Fir den ML / DL Typ vun AI kann dëst erfuerderen zréck op d'Zeechnenbrett ze goen a frësch unzefänken mat engem ganz neie Set vun Daten an engem gebotzten ML / DL Modell. Ech hunn d'Entstoe vun der AI Disgorgement oder AI Zerstéierung als potenziell legal Recours géint onschëlleg AI diskutéiert, kuckt de Link hei.

Eng Fro fir ze iwwerdenken ass ob Dir wëllt datt d'Bounty Hunters méi maache wéi just d'Existenz vun AI Biases z'identifizéieren. Zum Beispill kënnt Dir d'Bounty séiss maachen andeems Dir uginn datt proposéiert Fixer och wëllkomm sinn. Eng AI Viraussetzung fonnt vun engem Bounty Hunter kéint een uginn Belounung oder Präis bezuelt ginn. Wann der Bounty Hunter kann och eng liewensfäeg proffer flécke der AI Bias si vläicht dann eng zousätzlech Belounung ausgezeechent ginn.

E puer plädéieren datt dëst eng Bréck ze wäit ass. Si soen datt Dir den AI Bias Bounty Hunters exklusiv fokusséiere sollte fir AI Biases ze fannen. Dir wäert eng Rëtsch vun ongewollten negativ Konsequenzen kreéieren andeems Dir se invitéiert och Fixer ze proposéieren. Halt Saachen einfach. D'Zil ass sou vill zousätzlech Aen ze kréien fir AI Biases z'entdecken, sou datt Dir kënnt entscheeden wat Dir duerno maache wëllt. Maacht d'Waasser net schlemm.

En thorny Aspekt, dee muss erausfonnt ginn, enthält d'Gréisst vun der Belounung oder Präis fir Bounty Hunters déi wierklech AI Biases entdecken. Dir wëllt datt d'Ausbezuelung demonstrativ ass. Ouni eng héich genuch Belounung kritt Dir net vill Bounty Hunters oder si wäerten net besonnesch gäeren d'AI Biases an Ären AI Systemer sichen. Si kënnen amplaz op aner AI Bias Bounty Bestriewen konzentréieren.

Ausserdeem, wéi erwähnt, wëllt Dir probéieren en Drang vun de Bounty Hunters ze ënnerdrécken fir hir AI Bias Entdeckungen an aner Forme vu Gold ëmzewandelen. Wann d'Belounung mëll schéngt, kann et Bounty-Jeeër irréieren fir aner méi héich Ausbezuelen ze sichen. Si kéinten eng Ransomware Approche fir Iech huelen. Si kënnen deklaréieren datt si eng saftbar AI Bias hunn, déi e Konkurrent gär hätt iwwer ze wëssen a kéint géint Är Firma benotzen andeems se behaapten datt d'AI Bias an Ärer AI existéiert. Sou verkafen se déi entdeckt AI Bias un den héchste Bidder. A sou weider.

Et gëtt ugeholl datt wann Dir d'Belounung op eng extrem héich Gamme setzt, freet Dir och fir potenziell Probleemer. Dëst kéint all Zorte vun Nutty Bounty Hunters unzezéien. Si kënnen am Géigesaz soziale Medien mat niwwelegen Fuerderungen iwwerschwemmt datt se eng Villfalt vun AI Biases fonnt hunn, dat maachen fir hir eege Selbstpromotioun an ouni tatsächlech iergendeng AI Biases ze späicheren. An engem Sënn, Är erhéicht Belounung blénkt onbedéngt e Liicht op Är AI a prodéiert eng ganz Rëtsch vun ongewéinleche Motten fir entspriechend perniciéis un de glühenden Liichtstrahl ugezunn ze ginn.

Eng aner Iwwerleeung implizéiert Accessibilitéit fir Är AI.

Fir eng AI Bounty Juegd Méiglechkeet z'erméiglechen, mussen d'Bounty Hunters genuch Zougang zu Ärem AI kréien. Si wäerten net vill Gléck hunn fir AI Biases ze fannen wa se ganz gespaart sinn. Awer Dir wëllt Är Cybersécherheetsschutz net opginn, well Dir dëst Äert AI System komplett kompromittéiere kënnt.

Dir kënnt probéieren d'Bounty Hunters verschidde gesetzlech bindend Deklaratiounen z'ënnerschreiwen an hinnen dann den néidegen Zougang ze ginn. E puer Bounty Hunters wäerten dës Aart vun Approche net gär hunn. Hir Siicht ass datt se nëmmen alles maache wat all ëffentlech verfügbaren an oppene Wee erlaabt. Si si gratis Mavericks, wéi et war, a si gär net sou geseelt, wéi et war. Si kréien hir Ënnerschrëft op intimidéierend juristesch Dokumenter ze setzen, wäert vill vun hinnen vermeide fir no AI Biases an Ärem AI ze sichen. Oder si kënne sech op Är juristesch Handschëss zerstéieren an entscheeden datt se gesinn wat se iwwer ëffentleche Mëttele fanne kënnen, dat maache mat dem vläicht stéierende Drang Iech ze weisen wéi vulnérabel Dir wierklech sidd.

Ech hunn nach en anere Wénkel, deen Äre Kapp kéint dréinen.

En AI erfuerene Bounty Hunter kéint entscheeden en AI System z'entwéckelen, deen Är AI kann iwwerpréiwen an eventuell AI Biases an Ärem AI entdecken. Dëst ass den Toolmaker entscheet fir en Tool ze maachen fir d'Aarbecht ze maachen anstatt manuell Aarbecht selwer ze maachen. Amplaz Är AI mächteg z'ënnersichen, verbréngt den AI-verséierte Bounty Hunter hir Zäit fir en AI-Tool ze concoctéieren dat datselwecht mécht. Si benotzen dann den AI Tool op Ärem AI. D'Schéinheet ass och datt se viraussiichtlech den AI-Tool op jidderengem aner benotze kënnen, deen och eng Bounty-Juegdméiglechkeet op hirem jeweilegen AI bitt.

Ech weess wat Dir wahrscheinlech denkt. Wann en AI-Tool ka entworf ginn fir AI fir Biases z'ënnersichen, de Hiersteller vun der AI, dee fir AI Biases ënnersicht gëtt, soll entweder esou en AI-Tool kreéieren oder een fir hiren eegene Gebrauch kafen. An der Theorie brauche se dann net mat der ganzer Bounty Hunter Karneval ze kämpfen, fir unzefänken. Benotzt just AI fir hir AI Biases ze fannen.

Jo, dëst ass eppes wat Dir kënnt erwaarden lues a lues wäert entstoen. Mëttlerweil wäert de Grondsteen vun dësen Efforten méiglecherweis aus AI Entwéckler bestoen, déi Bounty Juegd maachen. Si kënne verschidden Tools benotze fir hir Efforten ze hëllefen, awer kuerzfristeg si se onwahrscheinlech einfach den AI Tool op automatesch ze setzen an eng Schlof ze huelen sou datt d'Instrument d'ganz AI Bias op si sicht.

Mir sinn nach net do.

Zu dësem Zäitpunkt vun dëser schwéierer Diskussioun, géif ech wetten datt Dir e puer illustrative Beispiller wëllt, déi dëst Thema kéinte weisen. Et gëtt e speziellen a sécherlech populäre Set vu Beispiller déi mäi Häerz no leien. Dir gesitt, a menger Kapazitéit als Expert op AI mat abegraff déi ethesch a juristesch Auswierkunge, ginn ech dacks gefrot realistesch Beispiller z'identifizéieren déi AI Ethik Dilemmaen weisen, sou datt déi e bësse theoretesch Natur vum Thema méi einfach ka begräifen. Ee vun de evokativste Beräicher, déi dësen etheschen AI-Quandary lieweg presentéiert ass d'Entstoe vun AI-baséiert richteg selbstfahrend Autoen. Dëst wäert als praktesch Benotzungsfall déngen oder Beispill fir genuch Diskussioun iwwer dëst Thema.

Hei ass dann eng bemierkenswäert Fro déi derwäert ass ze iwwerdenken: Beliicht d'Entstoe vun AI-baséiert richteg selbstfahrend Autoen eppes iwwer d'Benotzung vun der AI Bias Bounty Juegd, a wa jo, wat weist dëst?

Erlaabt mir e Moment d'Fro auszepaken.

Als éischt, bemierkt datt et kee mënschleche Chauffer an engem richtege selbstfahrenden Auto involvéiert ass. Denkt drun datt richteg selbstfahrend Autoen iwwer en AI Fueresystem gedriwwe ginn. Et gëtt keng Bedierfnes fir e mënschleche Chauffer um Rad, an et gëtt och keng Dispositioun fir e Mënsch fir d'Gefier ze fueren. Fir meng extensiv a lafend Ofdeckung vun Autonome Gefierer (AVs) a besonnesch selbstfahrend Autoen, kuckt de Link hei.

Ech wëll weider klären wat gemengt ass wann ech op richteg selbstfahrend Autoen schwätzen.

D'Niveaue vu Selbstfueren Autoen ze verstoen

Als Erklärung, richteg selbstfahrend Autoen sinn déi wou den AI den Auto ganz eleng fiert an et gëtt keng mënschlech Hëllef wärend der Fuertask.

Dës Chaufferlos Gefierer ginn als Niveau 4 an Niveau 5 ugesinn (kuckt meng Erklärung op dëse Link hei), während en Auto, deen e mënschleche Chauffer erfuerdert fir de Fuereeffort ze deelen, gëtt normalerweis um Niveau 2 oder Niveau 3 ugesinn. automatiséiert Add-ons déi als ADA bezeechent ginnADA
S (Advanced Driver-Assistance Systems).

Et gëtt nach kee richtegen selbstfahrenden Auto um Niveau 5, a mir wëssen nach net emol ob dat méiglech ass, a wéi laang et dauert bis dohinner kënnt.

Mëttlerweil probéieren d'Niveau 4 Efforten no an no eng Traktioun ze kréien andeems se ganz schmuel a selektiv ëffentlech Stroosseverfahren duerchgoen, awer et ass Kontrovers iwwer ob dës Tester per se erlaabt sinn (mir sinn all Liewen oder Doud Meerschwäin an engem Experiment. statt op eisen Autobunnen an byways, e puer streiden, kuckt meng Ofdeckung um dëse Link hei).

Zënter semi-autonom Autoe brauchen e mënschleche Chauffer, d'Adoptioun vun deenen Autosformen wäert net däitlech anescht sinn wéi konventionell Gefierer ze fueren, sou datt et net vill nei ass fir sech iwwer dëst Thema ze decken (awer wéi Dir wäert gesinn an engem Moment, d'nächst Punkten si generell applicabel).

Fir semi-autonom Autoen ass et wichteg datt de Public muss iwwer e gestéiert Aspekt virgeworf ginn, dee viru Kuerzem entstoung, nämlech datt trotz deene mënschleche Chauffeuren, déi weider Videoe vu sech selwer schlofen um Rad vun engem Level 2 oder Level 3 Auto an, mir all musse vermeiden datt mir falsch ginn ze gleewen datt de Chauffer hir Opmierksamkeet vun der Fuehrfahrt kann ewechhuelen während e semi-autonomem Auto fuert.

Dir sidd déi verantwortlech Partei fir déi dreiwend Handlungen vum Gefier, egal wéi vill Automatioun an en Niveau 2 oder Niveau 3 gegoss ka ginn.

Self-Driving Autoen An AI Bias Bounty Juegd

Fir Level 4 a Level 5 richteg selbstfuerend Gefierer wäert et kee mënschleche Chauffer mat der Fuereaufgab involvéiert sinn.

All Besetzer wäerte Passagéier sinn.

Den AI mécht der Fuert.

Een Aspekt fir direkt ze diskutéieren implizéiert de Fakt datt den AI involvéiert an den haitegen AI Fuerersystemer net sentient ass. An anere Wierder, den AI ass insgesamt e Kollektiv vu computerbaséierter Programmatioun an Algorithmen, a ganz sécher net fäeg ze déiselwecht ze veruersaachen datt d'Mënschen kënnen.

Firwat ass dësen zousätzlechen Akzent iwwer den AI net sensibel?

Well ech wëll ënnersträichen datt wann ech iwwer d'Roll vum AI Fuerersystem diskutéieren, ginn ech net d'mënschlech Qualitéiten dem AI zou. Gitt weg datt et eng kontinuéierlech a geféierlech Tendenz ass dës Deeg d'Anthropomorphiséierung vum AI. Am Wesentlechen zielen d'Leit mënschlech wéi d'Gefill vun der haiteger AI zou, trotz der onbestreitbarer an onvermeidlecher Tatsaach datt bis elo nach keen esou AI existéiert.

Mat dëser Klärung kënnt Dir Iech virstellen datt den AI Fuerersystem net natierlech iergendwéi "weess" iwwer d'Facette vum Fuerer. Fueren an alles wat et mat sech bréngt, muss als Deel vun der Hardware a Software vum selbstfuerenden Auto programméiert ginn.

Loosst eis an déi Onmass Aspekter tauchen déi op dëst Thema spillen.

Als éischt ass et wichteg ze realiséieren datt net all AI selbstfahrend Autoen d'selwecht sinn. All Automobilist a selbstfahrend Tech Firma hëlt seng Approche fir selbstfahrend Autoen z'entwéckelen. Als esou ass et schwéier schwiereg Aussoen ze maachen iwwer wat AI Fueresystemer maachen oder net maachen.

Ausserdeem, wann Dir seet datt en AI Fuertsystem keng speziell Saach mécht, kann dëst spéider vun den Entwéckler iwwerholl ginn, déi de Computer tatsächlech programméiere fir dat Ganzt ze maachen. Schrëtt fir Schrëtt ginn AI Fuersystemer lues a lues verbessert a verlängert. Eng existent Limitatioun haut existéiert vläicht net méi an enger zukünfteger Iteratioun oder Versioun vum System.

Ech hoffen dat bitt eng genuch Litanei vu Virwarnungen fir ze ënnersträichen wat ech amgaang sinn ze bezéien.

A menge Kolonnen hunn ech scho laang iwwer d'Benotzung vu Bugs-orientéierte Bounty Hunters am autonome Gefierer a selbstfahrenden Autosräich diskutéiert. Dës Approche ass wierklech an dëser Nisch stattfonnt. Et ginn déi üblech Debatten iwwer ob et eng gutt Iddi ass oder net. D'Efforte waren normalerweis vun enger limitéierter Natur, dacks relativ roueg gehal.

En ähnlechen Discours kann entstoen wann de Fokus op d'Juegd no AI Biases verännert anstatt Systembugs per se ze sichen. E puer suggeréieren datt et e verstoppt ass, wann Dir et maacht, verstoppt wann Dir net schwätzt.

Hei ass et.

Als éischt, fir kloer ze sinn, ginn et vill Weeër wéi autonom Gefierer a selbstfahrend Autoen ënnerleien AI Biases enthalen, kuckt meng Ofdeckung op de Link hei an de Link hei, fir nëmmen e puer ze nennen. Automobilisten a selbstfahrend Autosfirmen schénge schlau ze probéieren ze vermeiden datt dës AI Biases an hiren AI Systemer optrieden. De juristeschen an ethesche Feierstuerm géint esou Firmen wäert ouni Zweifel intensiv sinn.

Ass d'Benotzung vun enger AI Biases Bounty Juegd beméien eng passend Approche an dësem spezifesche Kontext?

Eng Äntwert ass datt jo, dëst wäert praktesch sinn an en Iwwerfloss vu "gratis" Sätze vun neien Aen ubidden fir ze probéieren all embedded AI Biases vun engem AI selbstfahrenden Auto oder ähnlech ze fangen. Déi meescht vun den AI Entwéckler, déi selbstfahrend Autoen bauen, si beschäftegt AI ze maachen, déi sécher en Auto vum Punkt A op de Punkt B fuere kënnen. Si si beschäftegt mat där Kärfäegkeet an hu weder Zäit nach Opmierksamkeet op all AI Biases, déi iergendwou an der hiren AI.

Déi aner Äntwert ass datt nee, d'Bounty Juegd fir autonom Gefierer a selbstfahrend Autoen op all Basis erlaabt, egal ob fir Käferen oder AI Viraussetzungen, just misst vermeit ginn. D'Argument ass datt dës Gefierer an hir AI vun engem Liewen-oder-Doud Kaliber sinn. Messing mat der AI op iergendeng Manéier kéint iergendwéi ruinös fir den AI sinn an beaflossen wat den AI Fuere System mécht.

E Géigeargument zum leschte Punkt ass datt d'Bounty Hunters net fäeg sinn d'AI ze änneren, déi se ënnersicht. Also ass et keng Gefor datt se mat der AI messen an datt d'AI an dësem Kontext op eemol e verréckten AI Fueresystem gëtt. D'Bounty Hunters hunn nëmme Liesen Zougang. Se méi wäit ze loossen, wier zimmlech domm an e grousse Feeler.

De Géigeargument zu deem Géigeargument ass datt andeems Dir Bounty Hunters erlaabt an encouragéiert Är AI z'ënnersichen, gëtt d'ganz Saach zimmlech. Dës Bounty Hunters kéinte Weeër erausfannen fir all fonnt Bugs oder Biases auszenotzen. Déi Ausnotzen am Tour kéinte fir schwiereg Zwecker sinn. Et wier besser, souzesoen net "Abriecher" bei Iech doheem ze invitéieren. Wann se d'Gelenk ausgeschloss hunn, sidd Dir schlussendlech an engem Koup Ierger.

Fir déi, déi AI Systemer vun enger manner-ewéi-Liewen-oder-Doud Magnitude hunn, ass d'Iwwerzeegung datt d'Konsequenze vun enger Bounty Juegd-Foray, déi schief geet, vill manner riskant sinn. Vläicht esou. Op der anerer Säit, wann eng Firma hir Suen an en AI System gegoss huet, deen Bounty Hunters verwalten ze usurpéieren, kënnt Dir unhuelen datt d'Reputatiounsschued an aner potenziell Schued nach ëmmer verletzen.

Et gëtt kee gratis Mëttegiessen wann et ëm AI Bias Bounty Juegd kënnt.

Eng séier Ofschlossbemierkung fir de Moment.

Wann de berühmten Outlaw Jesse James wärend dem Alen Westen gesicht gouf, gouf e "Wanted" Plakat gedréckt, deen e Bounty vu $ 5,000 fir seng Erfaassung offréiert (mat "dout oder lieweg"). Et war eng zimlech massiv Zomm Suen deemools. Ee vu sengen eegene Bandememberen huet decidéiert de Jesse dout ze schéissen an d'Belounung ze sammelen. Ech huelen un dat weist wéi effektiv eng Bounty ka sinn.

Wäert d'Benotzung vun AI Bias Bounty Hunters eng gutt Saach sinn, oder wäert et eng schlecht Saach sinn?

Wann Dir entscheet fir en AI Bias Bounty Hunter Beméihung z'informéieren, géif ech proposéieren datt Dir Är Aen opmaacht an zu all Moment iwwer Är Schëller kuckt. Dëst ass virsiichteg fir Iech an Är AI. Dir wësst ni wat ka geschéien, och datt e conniving Bounty Hunter iergendwéi heemlech eng AI Bias an Är AI setzt an d'Welt rifft datt se eng skrupellos AI Bias an Ärem AI fonnt hunn. Vläicht maacht dat an engem brutalen an iwwerdriwwenen Versuch fir d'Bounty Belounung ze sichen, plus selwer en Held ze proklaméieren deen am Wesentlechen de beléifte Jesse James krut.

Kommt drun denken, e sentienten AI wäert wahrscheinlech déi Iddi vun enger beonrouegend Doud-oder-lieweg Bestëmmung net gär hunn, et kéint een languorously sou spekuléieren.