AI Ethik an AI Gesetz stellt schwéier Froen iwwer dat neit Verspriechen Vun danzende Roboter Hiersteller, déi soen, si wäerten AI Waffen vermeiden

Dir hutt vläicht d'lescht Woch an den Neiegkeeten gesinn oder op de soziale Medien gemierkt dat ugekënnegt Versprieche vun e puer Roboter Hiersteller iwwer hir berufflech Ziler fir AI Waffung vun allgemengen Zweck Roboteren ze vermeiden. Ech ginn Iech an engem Moment duerch d'Detailer, also maach der keng Suergen, wann Dir net de Wand vun der Saach gefaang hätt.

D'Reaktioun op dës Proklamatioun war séier a, vläicht wéi gewinnt an eiser polariséierter Gesellschaft, souwuel luewenswäert wéi och heiansdo spottend kritesch oder direkt béis skeptesch.

Et ass eng Geschicht vun zwou Welten.

An enger Welt soen e puer datt dat genau ass wat mir brauchen verantwortlech AI Roboter Entwéckler ze erklären.

Gott sei Dank fir op der rietser Säit vun engem Thema ze sinn dat no an no méi siichtbar a méi beonrouegend gëtt. Déi léif danzen Roboter sinn beonrouegend well et zimlech einfach ass se ze rejiggeréieren fir Waffen ze droen an op déi schlëmmste Manéier benotzt ze ginn (Dir kënnt dëst selwer iwwerpréiwen andeems Dir op de soziale Medien gitt an et gi vill Videoe mat danzen Roboteren bewaffnet mat Maschinnegewierer an aner Waffen).

Déi aner Säit vun dëser Mënz seet, datt de sougenannte Verspriechen näischt méi ass wéi e Marketing- oder ëffentleche Relatiouns-Plup (als Säitnotiz, ass iergendeen den Ënnerscheed tëscht engem Verspriechen an engem Spenden vertraut?). Jiddefalls fuerderen d'Zweifeler datt dëst ongebremste Tugend Signaliséierung am Kontext vun danzende Roboteren ass. Dir gesitt, d'Tatsaach ze beschwéieren datt allgemeng Zweck Roboter bewaffnet kënne sinn ass sécher eng wäertvoll an eescht gesichte Iwwerleeung, awer nëmmen ze behaapten datt e Hiersteller dat net wäert maachen ass méiglecherweis en huel Verspriechen, e puer insistéieren.

Alles an allem bréngt déi ganz Matière zimmlech kräfteg Set vun AI Ethik an AI Law Considératiounen op. Mir wäerten d'Thema virsiichteg auspacken a kucken wéi dëst eng duebel Whammy vun engem etheschen a legale AI Morass ass. Fir meng lafend an extensiv Ofdeckung vun AI Ethik an AI Gesetz, kuckt de Link hei an de Link hei, Just e puer ze Numm.

Ech wäert och während dëser Diskussioun op meng virdrun Analysë vun de Gefore vun der AI-Waffenisatioun referenzéieren, sou wéi meng detailléiert Bewäertung op de Link hei. Dir wëllt vläicht e Bléck op dat Discours huelen fir zousätzlech hannert-de-Kulissen Detailer.

Den oppene Bréif, deen eng Dose Würmer opmaacht

Loosst eis dës Analyse ufänken andeems Dir eng virsiichteg Schrëtt-fir-Schrëtt Exploratioun vum Open Letter gemaach huet, dee viru kuerzem vu sechs relativ bekannte fortgeschratt Roboter Hiersteller publizéiert gouf, nämlech Boston Dynamics, Clearpath Robotics, ANYbotics, Agility Robotics, Open Robotics, an Unitree. Am grousse Ganzen denken ech, datt Dir haaptsächlech d'Boston Dynamics Roboter gesinn hutt, sou wéi déi, déi op alle Véier ronderëm rutschen. Si kucken wéi wann se Hondsähnlech sinn a mir freeën eis ze gesinn, wéi se ronderëm spatzen.

Wéi ech virdru an ëmmer erëm virausgesot hunn, ass d'Benotzung vu sou "danzende" Roboteren als Mëttel fir d'Allgemengheet ze iwwerzeegen datt dës Roboter séiss an adorabel sinn, leider täuschend a verwandelt an déi reichend Fallen fir se ze anthropomorphéieren. Mir fänken un dës gehärte Stécker aus Metall a Plastik ze denken, wéi wa se d'Äquivalent vun engem kuscheleg treien Hond sinn. Eis Bereetschaft fir dës Roboteren ze akzeptéieren ass baséiert op engem falsche Sënn vu Sécherheet a Versécherung. Sécher, Dir musst e Buck verdéngen an d'Chance fir dat ze maachen ginn verbessert andeems Dir ronderëm danzende Roboter paradéiert, awer dëst verléisst oder scheinbar verstoppt de richtege Fakt datt dës Roboter Robotere sinn an datt d'AI, déi d'Robotere kontrolléiert, falsch ausgeschafft ka ginn oder schief goen.

Betruecht dës Auswierkunge vun AI (auszitt aus mengem Artikel iwwer AI Waffen, fonnt op de Link hei):

• AI kéint e Feeler begéinen, deen et verdréit
• AI kéint iwwerwältegt ginn an onreaktiounsfäeger gespaart ginn
• AI kéint Entwécklerbugs enthalen déi onregelméisseg Verhalen verursaachen
• AI kéint mat implantéierte Béiser Virus korrupt sinn
• AI kéint vun Cyberhacker an Echtzäit iwwerholl ginn
• AI kéint als onberechenbar ugesi ginn wéinst Komplexitéiten
• AI kéint computationally déi "falsch" Entscheedung treffen (relativ)
• Etc.

Dat si Punkte betreffend AI, déi vun der Aart ass, déi éierlech ausgeschafft gëtt fir déi richteg Saach ze maachen.

Zousätzlech zu dëse Considératiounen, musst Dir AI Systemer enthalen, déi vun Ufank un erstallt sinn fir schlecht Saachen ze maachen. Dir kënnt AI hunn déi fir profitabel Zwecker gemaach gëtt, dacks bezeechent als AI Fir Gutt. Dir kënnt och AI hunn déi virsiichteg fir schlecht Zwecker gemaach gëtt, bekannt als AI Fir Schlecht. Ausserdeem kënnt Dir hunn AI Fir Gutt dat ass korrupt oder rejiggered zu ginn AI Fir Schlecht.

Iwwregens, näischt vun dësem huet eppes mat AI ze dinn ze sinn, wat ech ernimmen, well e puer weider ausruffen datt d'AI vun haut entweder sentient ass oder op der Grenz vu sentient ass. Net esou. Ech huelen dës Mythen a menger Analyse of de Link hei.

Loosst eis dann sécher stellen datt mir op der selwechter Säit sinn iwwer d'Natur vun der heiteger AI.

Et gëtt keng AI haut déi sentient ass. Mir hunn dat net. Mir wëssen net ob sentient AI méiglech wäert sinn. Keen kann passend viraussoen ob mir sentient AI erreechen, an och net ob sentient AI iergendwéi wonnerbar spontan an enger Form vu computational kognitiver Supernova entstinn (normalerweis als Singularitéit bezeechent, kuckt meng Ofdeckung op de Link hei).

D'Aart vun AI op déi ech fokusséiere besteet aus der net-sentienten AI déi mir haut hunn. Wa mir gär iwwer sentient AI spekuléiere wëllen, kéint dës Diskussioun an eng radikal aner Richtung goen. Eng sentient AI wier vermeintlech vu mënschlecher Qualitéit. Dir musst berücksichtegen datt de sentienten AI de kognitiven Äquivalent vun engem Mënsch ass. Méi esou, well e puer spekuléiere kënne mir super-intelligent AI hunn, ass et denkbar datt sou AI schlussendlech méi schlau wéi Mënschen kéint sinn (fir meng Exploratioun vu super-intelligenten AI als Méiglechkeet, kuckt d'Ofdeckung hei).

Ech géif staark proposéieren datt mir d'Saachen op d'Äerd halen an déi haut computational net-sentient AI betruechten.

Realiséiere datt d'AI vun haut net fäeg ass op iergendeng Manéier ze "denken" par rapport zum mënschlechen Denken. Wann Dir mat Alexa oder Siri interagéiert, kënnen d'Gespréichskapazitéiten ähnlech wéi mënschlech Fäegkeeten schéngen, awer d'Realitéit ass datt et computational ass a mënschlech Erkenntnis feelt. Déi lescht Ära vun AI huet extensiv Notzung vu Machine Learning (ML) an Deep Learning (DL) gemaach, déi computational Muster Matching profitéieren. Dëst huet zu AI Systemer gefouert, déi d'Erscheinung vu mënschlechähnleche Proclivitéiten hunn. Mëttlerweil gëtt et haut keng AI déi e Gesinn vu gesonde Mënscheverstand huet an och keng vun der kognitiver Wonnerung vu robustem mënschlecht Denken.

Sidd ganz virsiichteg fir den haitegen AI ze anthropomorphiséieren.

ML / DL ass eng Form vu computational Muster Matching. Déi üblech Approche ass datt Dir Daten iwwer eng Entscheedungsaarbecht sammelt. Dir fiddert d'Donnéeën an d'ML / DL Computermodeller. Dës Modeller sichen mathematesch Mustere ze fannen. Nodeems Dir esou Mustere fonnt hutt, wa se fonnt goufen, benotzt den AI System dann dës Mustere wann Dir nei Daten begéint. No der Presentatioun vun neien Donnéeën ginn d'Muster op Basis vun den "alen" oder historeschen Donnéeën ugewannt fir eng aktuell Entscheedung ze maachen.

Ech mengen, Dir kënnt roden, wou dat geet. Wann d'Mënschen, déi d'Muster op Entscheedunge getraff hunn, ongewollt Biases integréiert hunn, sinn d'Chancen datt d'Donnéeën dëst op subtile awer bedeitende Weeër reflektéieren. Machine Learning oder Deep Learning computational Muster Matching wäert einfach probéieren d'Donnéeën deementspriechend mathematesch ze mimikéieren. Et gëtt kee Gesinn vu gesonde Mënscheverstand oder aner sentienten Aspekter vun der AI erstallt Modeller per se.

Ausserdeem kënnen d'AI Entwéckler och net realiséieren wat lass ass. Déi arcane Mathematik am ML / DL kéint et schwéier maachen déi elo verstoppte Biases erauszekréien. Dir géift mat Recht hoffen an erwaarden datt d'AI Entwéckler fir déi potenziell begruewe Biases testen, obwuel dëst méi komplizéiert ass wéi et schéngt. Eng zolitt Chance existéiert datt och mat relativ extensiv Tester datt et Biases nach ëmmer an de Muster-passende Modeller vun der ML / DL agebonne sinn.

Dir kënnt e bëssen de berühmten oder berühmte Spréchwuert vun Gerempels-an Dreck-eraus benotzen. D'Saach ass, dëst ass méi ähnlech wéi Biases-an déi süchteg infuséiert ginn wéi Biases ënner dem AI ënnerdaach. Den Algorithmus Entscheedungsprozess (ADM) vun AI gëtt axiomatesch mat Ongläichheeten belaascht.

Net gutt.

All dëst huet besonnesch bedeitend AI Ethik Implikatiounen a bitt eng praktesch Fënster op Lektioune geléiert (och ier all d'Lektioune geschéien) wann et drëm geet AI ze gesetzlech ze maachen.

Nieft der AI Ethik Virschrëften am Allgemengen ze benotzen, gëtt et eng entspriechend Fro ob mir Gesetzer solle hunn fir verschidde Benotzung vun AI ze regéieren. Nei Gesetzer ginn op Bundes-, Staats- a lokalen Niveauen ëmginn, déi d'Gamme an d'Natur betreffen wéi d'AI soll ausgeschafft ginn. Den Effort fir esou Gesetzer auszeschaffen an duerchzesetzen ass graduell. AI Ethik déngt op d'mannst als e betruechten Stopgap, a wäert bal sécher zu engem gewësse Grad direkt an déi nei Gesetzer agebaut ginn.

Sidd bewosst datt e puer onbestänneg argumentéieren datt mir keng nei Gesetzer brauchen déi AI decken an datt eis existent Gesetzer genuch sinn. Si warnen viraus datt wa mir e puer vun dësen AI Gesetzer asetzen, mir déi gëllen Gäns ëmbréngen andeems se Fortschrëtter an der AI erofklammen, déi immens gesellschaftlech Virdeeler bidden.

A fréiere Spalten hunn ech déi verschidden national an international Efforten iwwerdeckt fir Gesetzer ze reglementéieren déi AI regelen, kuckt de Link hei, zum Beispill. Ech hunn och déi verschidde AI Ethik Prinzipien a Richtlinnen ofgedeckt déi verschidden Natiounen identifizéiert an ugeholl hunn, dorënner zum Beispill d'Vereenten Natiounen Effort wéi d'UNESCO Set vun AI Ethics déi bal 200 Länner ugeholl hunn, kuckt de Link hei.

Hei ass eng hëllefräich Keystone Lëscht vun etheschen AI Critèren oder Charakteristiken betreffend AI Systemer déi ech virdru genau exploréiert hunn:

• Transparenz
• Gerechtegkeet & Gerechtegkeet
• Net-Maleficenz
• Responsabilitéit
• Privatsphär
• Benefizitéit
• Fräiheet & Autonomie
• Trust
• Nohaltegkeet
• Dignitéit
• Solidaritéit

Dës AI Ethik Prinzipien sollen eescht vun AI Entwéckler benotzt ginn, zesumme mat deenen, déi AI Entwécklungsefforten verwalten, an och déi, déi schlussendlech op AI Systemer Felder a Betreiung maachen.

All Akteuren am ganzen AI Liewenszyklus vun der Entwécklung an der Notzung ginn am Kader vum Verhalen vun den etabléierten Normen vun der ethescher AI ugesinn. Dëst ass e wichtege Highlight well déi üblech Viraussetzung ass datt "nëmmen Coderen" oder déi, déi den AI programméieren, ënnerleien un den AI Ethics Notioune ze halen. Wéi virdru hei ënnerstrach, brauch et en Duerf fir AI z'entwéckelen an ze Feld, a fir deen d'ganz Duerf muss beherrscht sinn an un d'AI Ethik Viraussetzungen halen.

Elo datt ech en hëllefräiche Grondlag geluecht hunn fir an den oppene Bréif ze kommen, si mir prett fir anzeducken.

Den offiziellen Thema Titel vum oppene Bréif ass dëst:

• "En oppene Bréif un d'Robotikindustrie an eis Gemeinschaften, Allgemeng Zweck Roboter sollen net bewaffnet ginn" (wéi per online gepost).

Sou wäit, sou gutt.

Den Titel schéngt bal wéi Glace an Äppeltaart. Wéi konnt iergendeen dëst als fréieren Uruff streiden fir AI Roboter Waffung ze vermeiden?

Weiderliesen fir ze gesinn.

Als éischt, als Fudder fir ze berücksichtegen, hei ass den offiziellen Ouverturesparagraph vum Open Letter:

• "Mir sinn e puer vun de weltgréisste Firmen déi sech fir nei Generatioune vu fortgeschratt mobiler Robotik an d'Gesellschaft aféieren. Dës nei Generatioune vu Robotere si méi zougänglech, méi einfach ze bedreiwen, méi autonom, bezuelbar an adaptéierbar wéi fréier Generatiounen, a fäeg fir op Plazen ze navigéieren, déi virdru net zougänglech waren fir automatiséiert oder fernkontrolléiert Technologien. Mir gleewen datt fortgeschratt mobil Roboteren e grousse Virdeel fir d'Gesellschaft als Mataarbechter an der Industrie a Begleeder an eisen Heiser ubidden "(wéi pro online gepost).

Déi sonneg Säit vun der Erscheinung vun dësen Aarte vu Roboteren ass datt mir vill grouss Virdeeler erwaarden kënnen. Keen Zweiwel doriwwer. Dir hutt vläicht e Roboter an Ärem Heem deen dës Jetson-ähnlech Aktivitéite maache kann wéi Äert Haus botzen, Är Platen wäschen, an aner Aufgaben ronderëm de Stot. Mir wäerten fortgeschratt Roboteren hunn fir an Fabriken a Fabrikatiounsanlagen ze benotzen. Roboter kënne potenziell an enk Plazen krauchen oder manoeuvréieren, sou wéi wann e Gebai kollapst a Mënscheliewen um Spill sinn fir gerett ze ginn. A sou weider.

Als Ofgesi kënnt Dir meng rezent Aen-kritesch Ofdeckung vum Tesla AI Day interessant fannen, op deem e puer Aart vu Spazéierroboter vum Elon Musk als Zukunft fir Tesla a Gesellschaft portraitéiert goufen, kuckt de Link hei.

Zréck op d'Saach op der Hand. Wa mir eescht iwwer danzen Roboter oder Spazéierroboter diskutéieren, musse mir bewosst d'Tradeoffs oder den Total ROI (Return on Investment) vun dëser Notzung vun AI berücksichtegen. Mir däerfen eis net zevill vun de Benefice begeeschteren loossen, wann et och Käschten ze berücksichtegen sinn.

E glänzend neit Spillsaach kann zimlech scharf Kanten hunn.

All dëst spuert e wichtegen awer e bësse rouege Punkt datt en Deel vum Grond datt d'AI Waffungsprobleem elo entstinn ass wéinst der AI Fortschrëtt Richtung autonom Aktivitéit. Mir hunn normalerweis erwaart datt Waffen allgemeng mënschlech bedriwwe ginn. E Mënsch mécht d'Entscheedung ob hien d'Waff schéisst oder engagéiert. Mir kënne viraussiichtlech dee Mënsch verantwortlech fir hir Handlungen halen.

AI déi entwéckelt ass fir autonom ze schaffen oder dee ka getraff ginn fir dat ze maachen, géif anscheinend de Mënsch aus der Loop ewechhuelen. D'AI mécht dann algorithmesch computational Entscheedungen déi um Enn kënne Mënschen ëmbréngen oder schueden. Nieft den offensichtleche Bedenken iwwer de Mangel u Kontroll iwwer den AI, hutt Dir och d'Bedierfnesser datt mir eng schwéier Zäit hunn d'Verantwortung iwwer d'Aktiounen vun der AI ze leeën. Mir hu kee Mënsch deen eisen offensichtlechen Instigator ass.

Ech mierken datt e puer gleewen datt mir den AI einfach an direkt solle verantwortlech halen fir seng Handlungen, wéi wann AI Sënn erreecht huet oder soss eng juristesch Perséinlechkeet kritt huet (kuckt meng Ofdeckung iwwer d'Debatten iwwer AI déi juristesch Perséinlechkeet kritt op de Link hei). Dat geet fir de Moment net. Mir mussen d'AI op d'Mënschen verfollegen, déi entweder entwéckelt hunn oder déi et ausgestallt hunn. Si wäerten ouni Zweifel probéieren d'Verantwortung legal ze vermeiden andeems se probéieren ze streiden datt d'AI iwwergaang ass wat se virgesinn haten. Dëst ass e wuessende Sträit mat deem mir musse këmmeren (kuckt meng AI Law Schrëfte fir Abléck iwwer déi involvéiert kontrovers Themen).

D'Vereenten Natiounen (UN) iwwer d'Konventioun iwwer Gewësse Konventionell Waffen (CCW) zu Genf hunn eelef net-verbindlech Guiding Prinzipien iwwer lethal Autonom Waffen etabléiert, wéi pro offiziellen Bericht online gepost (enthält Referenzen op pertinent International Humanitär Gesetz oder IHL Viraussetzungen) , dorënner:

(a) International humanitär Gesetz gëlt weider voll op all Waffesystemer, dorënner d'potenziell Entwécklung an d'Benotzung vu fatale autonome Waffesystemer;

(b) Mënschlech Verantwortung fir Entscheedungen iwwer d'Benotzung vu Waffesystemer musse behalen ginn, well d'Rechenschaftspflicht net op Maschinnen iwwerdroe ka ginn. Dëst soll iwwer de ganze Liewenszyklus vum Waffesystem berücksichtegt ginn;

(c) Mënsch-Maschinn Interaktioun, déi verschidde Formen kann huelen an a verschiddene Stadien vum Liewenszyklus vun enger Waff ëmgesat ginn, soll suergen datt d'potenziell Notzung vu Waffesystemer baséiert op opkomende Technologien am Beräich vun de fatale autonome Waffesystemer an Konformitéit mam applicabelen internationale Recht, besonnesch IHL. Bei der Bestëmmung vun der Qualitéit an der Ausmooss vun der Mënsch-Maschinn Interaktioun, sollt eng Rei vu Faktoren berücksichtegt ginn, och den operationelle Kontext, an d'Charakteristiken a Fäegkeeten vum Waffesystem als Ganzt;

(d) Verantwortung fir d'Entwécklung, d'Deployment an d'Benotzung vun all opkomende Waffesystem am Kader vum CCW muss am Aklang mat applicabel internationale Gesetz geséchert ginn, och duerch d'Operatioun vun esou Systemer bannent enger verantwortlecher Kette vu mënschleche Kommando a Kontroll;

(e) Am Aklang mat Verpflichtungen vun de Staaten ënner internationalem Gesetz, an der Studie, Entwécklung, Acquisitioun oder Adoptioun vun enger neier Waff, Mëttel oder Method vu Krichsféierung, muss Bestëmmung gemaach ginn ob seng Beschäftegung, an e puer oder all Ëmstänn, wäert sinn. vum internationale Gesetz verbueden;

(f) Wann Dir nei Waffensystemer entwéckelt oder kaaft op Basis vun opkomende Technologien am Beräich vun tödlechen autonome Waffesystemer, kierperlech Sécherheet, passend net-kierperlech Sécherheetsmoossnamen (inklusiv Cyber-Sécherheet géint Hacking oder Datespoofing), de Risiko vun der Acquisitioun vun Terrorgruppen an de Risiko vun Verbreedung soll considéréiert ginn;

(g) Risiko Bewäertungen a Mitigéierungsmoossname sollen Deel vum Design, Entwécklung, Testen an Deployment Zyklus vun opkomende Technologien an all Waffesystemer sinn;

(h) Berücksichtegt soll d'Benotzung vun opkomende Technologien am Beräich vun tödlechen autonome Waffesystemer fir d'Konformitéit mat IHL an aner applicabel international gesetzlech Verpflichtungen z'erhalen;

(i) Beim Handwierk vun potenziellen politesche Moossnamen, opkomende Technologien am Beräich vun fatale autonome Waffesystemer sollten net anthropomorphiséiert ginn;

(j) Diskussiounen an all potenziell politesch Moossnamen, déi am Kontext vum CCW geholl ginn, däerfen de Fortschrëtt an den Zougang zu friddleche Gebrauch vun intelligenten autonomen Technologien net behënneren;

(k) De CCW bitt e passende Kader fir d'Thema vun opkomende Technologien am Beräich vun de fatale autonome Waffesystemer am Kontext vun den Ziler an Zwecker vun der Konventioun ze këmmeren, déi probéiert e Gläichgewiicht tëscht militäresch Noutwennegkeet an humanitär Iwwerleeungen ze treffen.

Dës an aner verschidde Gesetzer vum Krich a Gesetzer vum bewaffnete Konflikt, oder IHL (International Humanitarian Laws) déngen als e vitalen an ëmmer verspriechende Guide fir ze berücksichtegen wat mir probéieren iwwer d'Entstoe vun autonome Systemer ze maachen, déi bewaffnet sinn, egal ob duerch Keystone Design oder no-der-Tatsaach Methoden.

E puer soen datt mir dës AI autonom Systemer direkt solle verbidden déi waffenbar sinn. Dat ass richteg, d'Welt soll de Fouss erof setzen a streng verlaangen datt AI autonom Systemer ni bewaffnet ginn. En Totalverbuet soll agefouert ginn. Enn vun der Geschicht. Voll Stop, Period.

Gutt, mir kënnen oprecht wënschen, datt e Verbuet op déidlech bewaffnet autonom Systemer strikt an gehorsam observéiert gëtt. De Problem ass, datt vill vun wiggle Raum ass gebonnen ze slyly bannent all vun der sincerest vun Verbuet fonnt ginn. Wéi se soen, Regele solle gebrach ginn. Dir kënnt wetten, datt wou d'Saache loose-goosey sinn, Riffraff Lücken ausféieren a probéieren de Wee ronderëm d'Regelen ze wink-wink.

Hei sinn e puer potenziell Schleifen, déi ze berücksichtegen:

• Fuerderungen vun Net-Lethal. Maacht net fatal autonom Waffensystemer (anscheinend okay well et ausserhalb vun der Verbuet Grenz ass), déi Dir dann op engem Zénger Verréckelung zu engem ginn fatal (Dir wäert nëmmen iwwer de Verbuet an der leschter Minutt ginn).
• Fuerderungen vun Autonom System Nëmmen. Erhalen de Verbuet andeems Dir net fatal fokusséiert autonom Systemer mécht, mëttlerweil, maacht sou vill Fortschrëtter fir alldeeglech autonom Systemer z'entwéckelen déi net (nach) bewaffnet sinn, awer datt Dir op engem Zénger Retrofit a bewaffnete kënnt.
• Fuerderungen vun Net Integréiert Als One. Handwierk autonom Systemer déi guer net bewaffnet sinn, a wann d'Zäit kënnt, piggyback Waffniséierung sou datt Dir probéiert vehement ze streiden datt se zwee separat Elementer sinn an dofir streiden datt se net an der Rubrik vun engem All-in-One falen autonome Waffesystem oder säi Cousin.
• Fuerdert datt et net autonom ass. Maacht e Waffesystem deen net vun autonome Kapazitéiten schéngt. Loosst Plaz an dësem viraussiichtlech net-autonome System fir d'Ofdreiwung vun AI-baséiert Autonomie. Wann néideg, Plug an der Autonomie an Dir sidd bereet ze rullen (bis dohin, anscheinend hutt Dir de Verbuet net verletzt).
• aner

Et gi vill aner ausgedréckte Schwieregkeeten mam Versuch, déidlech autonom Waffesystemer direkt ze verbidden. Ech wäert e puer méi vun hinnen Cover.

E puer Pundits argumentéieren datt e Verbuet net besonnesch nëtzlech ass an amplaz et reglementaresche Bestëmmunge solle ginn. D'Iddi ass datt dës Contraptioune erlaabt sinn, awer streng poléiert. Eng Litanei vu gesetzleche Gebrauch ass ausgeluecht, zesumme mat gesetzleche Weeër fir ze zielen, gesetzlech Aarte vu Fäegkeeten, gesetzleche Proportionalitéit, an dergläiche.

Hirer Meenung no ass e riichtaus Verbuet wéi de Kapp an de Sand ze leeën a maachen wéi wann den Elefant am Raum net gëtt. Dës Sträit kritt awer d'Blutt kachen vun deenen, déi mat dem Argument entgéintgoen, datt Dir andeems Dir e Verbuet anzeféieren fäeg ass déi soss Versuchung dramatesch ze reduzéieren fir dës Aarte vu Systemer ze verfolgen. Sécher, e puer wäerten de Verbuet flauntéieren, awer op d'mannst hoffentlech déi meescht net. Dir kënnt dann Är Opmierksamkeet op d'flaunters konzentréieren an net Är Opmierksamkeet op jiddereen ze splinteren.

Ronn an Ronn ginn dës Debatten.

Eng aner dacks bemierkt Suerg ass datt och wann déi Gutt dem Verbuet halen, déi Schlecht net. Dëst setzt de Gutt an enger schlechter Haltung. Déi Schlecht wäerten dës Aarte vu bewaffnete autonome Systemer hunn an déi Gutt net. Wann d'Saachen opgedeckt ginn datt déi Schlecht se hunn, ass et ze spéit fir déi Gutt ze halen. Kuerz gesot, déi eenzeg intelligent Saach ze maachen ass ze preparéieren fir Feier mat Feier ze bekämpfen.

Et gëtt och déi klassesch Ofschreckungsstreit. Wann déi Gutt entscheeden fir bewaffnete autonom Systemer ze maachen, kann dëst benotzt ginn fir déi Schlecht ofzeschléissen fir an engem Sträit ze kommen. Entweder déi Gutt wäerte besser bewaffnet sinn an doduerch déi Schlecht ofwäichen, oder déi Gutt wäerte prett sinn wann déi Schlecht vläicht enthüllt datt se déi ganz Systemer süchteg ausgeschafft hunn.

E Konter zu dëse Konter ass datt andeems Dir bewaffnet autonom Systemer mécht, Dir eng Waffencourse mécht. Déi aner Säit wäert sichen déi selwecht ze hunn. Och wa se technologesch net fäeg sinn esou Systemer nei ze kreéieren, kënnen se elo d'Pläng vun de "Gutt" klauen, d'High-Tech-Darm ëmgedréint oder imitéieren wat se schéngen als probéiert-a-richteg ze gesinn. Manéier d'Aarbecht gemaach ze kréien.

Aha, e puer widderspréchlech, all dëst kéint zu enger Reduktioun vu Konflikter duerch eng Scheinung vu géigesäitege féieren. Wann d'Säit A weess datt d'Säit B déi fatal autonom Systemer Waffen huet, an d'Säit B weess datt d'Säit A se huet, da kënne se enk sëtzen an net zu Schlag kommen. Dëst huet déi ënnerschiddlech Aura vu mutually assured Destruction (MAD) Vibes.

A sou weider.

Nokuckt den zweete Paragraphe

Mir hu scho vill Terrainen hei ofgedeckt an nëmmen bis elo den éischten oder Ouverturesparagraph vum Open Letter ugesinn (et gi véier Abschnitter am Ganzen).

Zäit fir den zweeten Abschnitt ze kucken, hei gitt Dir:

• "Wéi mat all neier Technologie déi nei Fäegkeeten ubitt, bitt d'Entstoe vu fortgeschrattene mobilen Roboteren d'Méiglechkeet vu Mëssbrauch. Onvertrauenswierdeg Leit kéinte se benotze fir Biergerrechter z'invaséieren oder anerer ze menacéieren, ze schueden oder ze intimidéieren. Ee Beräich vu besonnesche Suergen ass Waffeniséierung. Mir gleewen datt d'Waffen u Roboter addéieren déi op afstand oder autonom bedriwwe sinn, wäit fir de Public verfügbar sinn a fäeg sinn op virdru onzougängleche Plazen ze navigéieren wou d'Leit liewen a schaffen, nei Risike vu Schued a sérieux ethesch Themen erhéijen. Waffen Uwendungen vun dësen nei-fähig Roboteren wäerten och ëffentlech Vertrauen an d'Technologie schueden op Weeër déi enorm Virdeeler beschiedegen, déi se fir d'Gesellschaft bréngen. Aus dëse Grënn ënnerstëtzen mir d'Waffeniséierung vun eise fortgeschratt Mobilitéit allgemeng Zweck Roboteren net. Fir déi vun eis, déi an der Vergaangenheet iwwer dëst Thema geschwat hunn, an déi, déi fir d'éischte Kéier engagéieren, fille mir elo eng erneiert Dringendes am Liicht vun der ëmmer méi ëffentlecher Suerg an de leschte Méint verursaacht vun enger klenger Zuel vu Leit, déi hir provisoresch siichtbar publizéiert hunn Efforten fir kommerziell verfügbar Roboteren ze bewaffen" (wéi pro online gepost).

Beim Liesen vun deem zweeten Abschnitt, hoffen ech, Dir kënnt gesinn wéi mäi fréiere Discours hei iwwer AI Waffung op de Virdergrond kënnt.

Loosst eis e puer zousätzlech Punkten ënnersichen.

Een e bësse vun engem Qualifikatioun iwwer e bestëmmte Formuléierungsaspekt, dee vun e puer d'Dander eropgeet, ass datt d'Geschicht schéngt ze ënnersträichen datt "onvertrauenswierdeg Leit" dës AI Roboter mëssbrauchte kënnen. Jo, tatsächlech, et kéinte béis Leit oder Béiser sinn, déi dastardly Akte bréngen, déi AI Roboteren "mëssbrauchen".

Zur selwechter Zäit, wéi zum Ufank vun dëser Diskussioun drop higewisen, musse mir och kloer maachen datt d'AI selwer schrecklech ka goen, méiglecherweis wéinst embedded Bugs oder Feeler an aner sou Komplikatiounen. Déi ausgedréckt Suerg ass, datt nëmmen d'Chancen ënnersträichen vun onvertrauenswierdeg Leit ass, datt et schéngt aner negativ Méiglechkeeten ze ignoréieren. Och wann déi meescht AI Firmen a Verkeefer et net zouginn, et gëtt eng Onmass vun AI Systemprobleemer déi d'Sécherheet an d'Zouverlässegkeet vun autonome Systemer ënnersträichen. Fir meng Ofdeckung vun der AI Sécherheet an de Besoin fir rigoréis a beweisbar Sécherheetsmoossnamen, kuckt de Link hei, zum Beispill.

En anere bemierkenswäerte Punkt deen ënnert deenen opgetrueden ass, déi den Open Letter iwwerpréift hunn, enthält déi abegraff Behaaptung datt et zum Enn vum ëffentleche Vertrauen am Zesummenhang mat AI Roboteren kéint ënnersträichen.

Engersäits ass dëst eng valabel Behaaptung. Wann AI Robotere benotzt gi fir béis Offeren ze maachen, kënnt Dir wetten datt de Public zimmlech gedämpft gëtt. Wann d'Publikum gedämpft gëtt, kënnt Dir wetten datt Gesetzgeber an de Sträit sprangen a sichen Gesetzer auszeféieren, déi AI Roboteren an AI Roboter Hiersteller erofklammen. Dëst am Tour kéint d'AI Robotikindustrie kräischen, wann d'Gesetzer alles ëmfaassend sinn an d'Efforte mat AI Roboter Virdeeler zoumaachen. An engem Sënn kéint de Puppelchen mam Badewaasser erausgehäit ginn (en alen Ausdrock, dee wahrscheinlech verdéngt ze pensionnéieren).

Déi offensichtlech Fro, déi och gestallt gëtt, ass ob dës Behaaptung iwwer d'Vermeidung vun enger Reduktioun vum ëffentleche Vertrauen fir AI Roboteren e bësse selbstdéngend Credo ass oder ob et fir d'Wuel vun eis all ass (kann et béid sinn?).

Dir entscheet.

Mir kommen elo zum besonnesche fläissege Deel vum oppene Bréif:

• "Mir verspriechen datt mir eis fortgeschratt Mobilitéit allgemeng Zweck Roboter net waffen oder d'Software déi mir entwéckelen déi fortgeschratt Robotik erméiglecht a mir wäerten anerer net ënnerstëtzen dat ze maachen. Wa méiglech, wäerte mir suergfälteg iwwerpréiwen déi virgesinn Uwendungen vun eise Clienten fir potenziell Waffen ze vermeiden. Mir verspriechen och d'Entwécklung vun technologesche Funktiounen z'entdecken, déi dës Risiken reduzéieren oder reduzéieren. Fir kloer ze sinn, hu mir keng Probleemer mat existéierende Technologien déi d'Natiounen an hir Regierungsagenturen benotze fir sech selwer ze verteidegen an hir Gesetzer z'erhalen "(wéi pro online gepost).

Mir kënnen dat auspacken.

Sëtzt Iech a preparéiert Iech deementspriechend.

Sidd Dir prett fir eng brennend Polariséierung?

Op der favorabeler Säit sinn e puer vokal annoncéieren datt dës AI Roboter Hiersteller sou e Versprieche maachen. Et schéngt, datt dës Roboter Hiersteller glécklecherweis probéieren hir "fortgeschratt Mobilitéit allgemeng Zweck" Roboter net ze bewaffnen. Ausserdeem seet den oppene Bréif datt si anerer net ënnerstëtzen, déi dat maachen.

D'Kritiker froe sech ob et e schlau Wortschmidt lass ass.

Zum Beispill, wou fänkt an Enn "Mobilitéit fortgeschratt" un? Wann e Roboter Hiersteller eng einfach-Mobilitéit AI Roboter anstatt e fortgeschrattenen (wat en ondefinéiert Stéck Technesch Jargon ass), gëtt deen aus dem Ëmfang ausgeschloss wat wäert net bewaffnet ginn? Also, anscheinend, ass et an der Rei einfach-Mobilitéit AI Roboteren ze waffen, soulaang se net sougenannt sinn fortgeschratt.

Datselwecht gëlt fir d'Fraséierung vun allgemengen Zweck Roboteren. Wann en AI Roboter speziell fir d'Waffen entwéckelt ass an dofir net solle mir soen a allgemeng Zweck Roboter, gëtt dat eng liewensfäeg Ausgrenzung vum Ëmfang?

Dir kënnt mat dëse Geschwëster kibbelen a häerzlech streiden datt dëst just en oppene Bréif ass an net e fofzeg Säit gesetzlech Dokument dat all Eck a Cranny ausschreift.

Dëst bréngt eis op déi scheinbar méi Makro-Niveau Qualm, déi vun e puer ausgedréckt ass. Am Wesentlechen, wat heescht e "Verspriechen"?

E puer froen, wou ass de Rëndfleesch?

Eng Firma déi esou e Versprieche mécht, mécht dat anscheinend ouni e richtegt Spill am Spill. Wann déi iewescht Brass vun enger Firma, déi sech fir dëst Verspriechen ënnerschreift, decidéiert de Verspriechen net méi ze honoréieren, wat geschitt mat där Firma? Kréien d'Exekutive summéiert Konserven? Wäert d'Firma zoumaachen an entschëllege sech vill fir d'Verspriechen ze verletzen? A sou weider.

Sou wäit wéi kann ofgeleent ginn, gëtt et keng speziell Strof oder Strof fir all Violatioun vum Verspriechen.

Dir kéint streiden datt et eng Méiglechkeet vu Ruffschued ass. Eng Verpflichtungsfirma kéint op der Maartplaz geklaut ginn fir e Versprieche gemaach ze hunn deen se net méi observéiert huet. Natierlech geet dat och dovun aus, datt d'Leit sech drun erënneren, datt de Versprieche gemaach gouf. Et gëtt och ugeholl datt d'Verletzung vum Verspriechen iergendwéi festgestallt gëtt (et schéngt däitlech onwahrscheinlech datt eng Firma alles wäert soen wann se dat mécht). De Verspriechenverletzer misst geruff ginn an awer kann esou en Thema nëmme Kaméidi ginn am lafende Tsunami vun Neiegkeeten iwwer AI Robotik Hiersteller.

Bedenkt en anere Wénkel deen opkomm ass.

Eng Verpflichtungsfirma gëtt vun enger méi grousser Firma kaaft. Déi gréisser Firma entscheet fir unzefänken déi fortgeschratt Mobilitéit allgemeng Zweck Roboter an AI bewaffnete Versiounen ze maachen.

Ass dëst eng Verletzung vum Verspriechen?

Déi gréisser Firma kéint insistéieren datt et keng Violatioun ass well se (déi méi grouss Firma) ni de Versprieche gemaach hunn. Mëttlerweil ginn déi onschëlleg AI Roboter, déi déi méi kleng Firma zesummegesat an ausgeschafft huet, mat anscheinend déi altruisteschst Intentiounen, bal iwwer Nuecht ëmgebaut a bewaffnet ginn.

Aart ënnergruewt de Verspriechen, och wann Dir kéint soen datt déi kleng Firma net wousst datt dëst enges Daags geschéie géif. Si waren eescht an hirem Wonsch. Et war ausserhalb vun hirer Kontroll iwwer wat déi méi grouss Kaaffirma gewielt huet ze maachen.

Verschiddener froen och ob et eng legal Haftung an dësem ass.

Eng Verpflichtungsfirma entscheet e puer Méint vun elo un, datt se de Verspriechen net wäert honoréieren. Si hunn eng Ännerung vun Häerz haten. Kann d'Firma verklot ginn fir de Verspriechen opginn ze hunn, deen se gemaach huet? Wien géif verklot? Wat wier d'Basis fir de Prozess? Eng Rëtsch juristesch Themen entstinn. Wéi se soen, Dir kënnt zimmlech jidderee verklot, awer ob Dir wäert duerchsetzen ass eng ganz aner Saach.

Denkt dëst op eng aner Manéier. Eng Verpflichtungsfirma kritt eng Geleeënheet e wierklech groussen Deal ze maachen fir eng ganz Rëtsch vu senge fortgeschratt Mobilitéit allgemeng Zweck Roboteren un eng massiv Firma ze verkafen déi gewëllt ass duerch d'Nues ze bezuelen fir d'Roboteren ze kréien. Et ass ee vun deenen eemol-an-e-Liewensdauer Zillion-Dollar Akaf Deals.

Wat soll d'AI Robotik Firma maachen?

Wann d'AI Robotik Verpflichtungsfirma ëffentlech gehandelt gëtt, wäerte se bal sécher zielen de Verkaf ze maachen (d'selwecht kéint vun enger privater Firma gesot ginn, awer net ganz esou). Stellt Iech vir datt d'Verpflichtungsfirma besuergt ass datt de Keefer probéiert d'Roboteren ze bewaffnen, awer loosst eis soen datt et keng sou Diskussioun um Dësch ass. Et gëtt just Rumeuren datt de Keefer dat kéint maachen.

Deementspriechend setzt d'Verpflichtungsfirma an hir Lizenz datt d'Robotere net bewaffnet ginn. De Keefer balks op dëser Sprooch a Schrëtt ewech vum Kaf.

Wéi vill Gewënn ass déi verpflichtend AI Robotikfirma just fortgaang?

Gëtt et e Punkt op deem den In-Hand Gewënn méi héich ass wéi d'Inklusioun vun der Lizenzbeschränkungsfuerderung (oder vläicht gesetzlech d'Restriktioun formuléiert fir e Wiggleraum z'erméiglechen an ëmmer nach den Deal ze maachen)? Ech mengen, Dir kënnt de Quandary gesinn. Tonne vun esou Szenarie sinn einfach gezaubert. D'Fro ass ob dëst Verspriechen Zänn wäert hunn. Wa jo, wéi eng Zänn?

Kuerz gesot, wéi um Ufank vun dëser Diskussioun erwähnt sinn, sinn déi eng verstäerkt datt dës Zort Versprieche gemaach gëtt, anerer kucken méi däischter ob de Verspriechen Waasser hält.

Mir fuere weider.

Gitt e Verspriechen

De véierten a leschte Paragraphe vum oppene Bréif seet dëst:

• "Mir verstinn datt eisen Engagement eleng net genuch ass fir dës Risiken komplett unzegoen, an dofir fuerdere mir d'Politiker fir mat eis ze schaffen fir eng sécher Notzung vun dëse Roboteren ze förderen an hire Mëssbrauch ze verbidden. Mir ruffen och all Organisatioun, Entwéckler, Fuerscher a Benotzer an der Robotikgemeinschaft op fir ähnlech Verspriechen ze maachen fir net ze bauen, autoriséieren, z'ënnerstëtzen oder d'Befestegung vu Waffen un esou Roboter z'erméiglechen. Mir sinn iwwerzeegt datt d'Virdeeler fir d'Mënschheet vun dësen Technologien de Risiko vu Mëssbrauch staark iwwerwannen, a mir sinn opgereegt iwwer eng helle Zukunft, an där Mënschen a Roboteren niewentenee schaffen fir e puer vun den Erausfuerderunge vun der Welt unzegoen" (wéi online gepost).

Dëse leschten Deel vum oppene Bréif huet e puer zousätzlech Elementer déi Irre opgeworf hunn.

D'Politiker ruffen ka gutt beroden oder schlecht beroden sinn, behaapten e puer. Dir kënnt Politiker kréien déi net an dëse Saache beherrscht sinn, déi dann déi klassesch Rush-zu-Uerteel maachen an Handwierksgesetzer a Reglementer maachen, déi de Fortschrëtt op AI Roboteren usurpéieren. Per de Punkt virdru gemaach, vläicht wäert d'Innovatioun, déi op AI Roboter Fortschrëtter no vir dréckt, gestéiert oder gestéiert ginn.

Besser sécher datt Dir wësst wat Dir freet, soen d'Kritiker.

Natierlech ass d'Géigenargument datt d'Erzielung kloer seet datt Politiker solle mat AI Robotikfirme schaffen fir erauszefannen wéi se viraussiichtlech sënnvoll sou Gesetzer a Reglementer maachen. De Konter zum Géigeargument ass datt d'Politiker kéinte gesi ginn wéi d'AI Robotik Hiersteller gesinn wa se hir Laun këmmeren. De Konter zum Konter vum Géigeargument ass datt et natierlech eng Noutwennegkeet ass mat deenen ze schaffen déi iwwer d'Technologie wëssen, oder soss wäert d'Resultat potenziell e Kilter sinn. etc.

Op enger vläicht quibbling Basis, e puer hunn Heartburn iwwer d'Linn haten déi jidderee rufft ähnlech Verspriechen ze maachen fir net befestegt Waff fir fortgeschratt Mobilitéit allgemeng Zweck Roboteren. D'Schlësselwuert do ass d'Wuert befestegt. Wann iergendeen en AI Roboter mécht deen d'Waffe integréiert oder nahtlos integréiert, da schéngt dat d'Formuléierung vun befestegt eppes. Dir kënnt et elo gesinn, een deen vehement argumentéiert datt d'Waff net befestegt ass, et ass komplett Deel vum AI Roboter. Kréien doriwwer eraus, ruffen se, mir sinn net am Kader vun deem Verspriechen, a si hätte souguer soss kënne soen, datt se wieren.

Dëst bréngt eng aner Plainte iwwer de Mangel u Stickness vum Verspriechen.

Kann eng Firma oder iwwerhaapt iergendeen, déi entscheet, dëst Verspriechen ze maachen, sech zu all Moment als net verpflicht ze erklären, datt se dat wëllen a fir wat fir engem Grond se dat wëllen?

Anscheinend esou.

Et gëtt vill Bandy ronderëm iwwer Verspriechen ze maachen a wéi eng Traktioun se implizéieren.

Konklusioun

Yikes, Dir kéint soen, dës Firmen, déi probéieren déi richteg Saach ze maachen, ginn getrommelt fir ze probéieren déi richteg Saach ze maachen.

Wat ass vun eiser Welt komm?

Jiddereen deen esou e Versprieche mécht, sollt de Virdeel vum Zweifel kréien, Dir kënnt passionéiert behalen. Si ginn an d'ëffentlech Sphär eraus fir e fett a vitale Bäitrag ze maachen. Wa mir ufänken se ze beschwéieren fir dat ze maachen, wäert et sécherlech d'Saache méi schlëmm maachen. Keen wëll esou e Verspriechen maachen. Firmen an anerer wäerten net emol probéieren. Si wäerte sech verstoppen an d'Gesellschaft net virauszegesinn iwwer wat déi léif danzen Roboter geféierlech kënne ginn.

Skeptiker proklaméieren datt de Wee fir d'Gesellschaft weise ze bréngen aner Handlungen enthält, wéi zum Beispill de fantastesche Akt erofzesetzen fir déi frolickend danzen AI Roboter ze weisen. Oder op d'mannst maachen et méi equilibréiert Akt. Zum Beispill, anstatt eleng beléifte Hausdéier-trei Hënn ze mimikéieren, illustréiert wéi déi danzende Roboter méi ähnlech kënne mat wilde entlooss rose Wëllef sinn, déi d'Mënschen an d'Schrëtt zerräissen kënnen mat enger Zweifel.

Dat wäert méi Opmierksamkeet kréien wéi Verspriechen, plädéieren se.

Verspriechen kënnen onbedéngt zimmlech e Conundrum sinn.

Wéi de Mahatma Gandhi eloquent gesot huet: "Egal wéi explizit d'Verspriechen, d'Leit wäerten den Text dréinen an verdréien fir hiren eegenen Zweck ze passen."

Vläicht fir hei op eng erheblech Notiz ofzeschléissen, sot den Thomas Jefferson dëst iwwer Verspriechen: "Mir verspriechen géigesäiteg eist Liewen, eis Verméigen an eis helleg Éier."

Wann et ëm AI Roboteren kënnt, hir Autonomie, hir Waffen, an dergläiche wäerte mir all schlussendlech an dësem zesummen sinn. Eist géigesäitegt Versprieche muss op d'mannst sinn datt mir dës Saache um Spëtzt halen, mir wäerte probéieren Weeër ze fannen fir dës Fortschrëtter ze këmmeren, an iergendwéi eise Wee fannen fir eis Éier, eis Verméigen an eist Liewen ze sécheren.

Kënne mir eis dat verspriechen?

Ech hoffen.