Wat ass dem Pentagon seng aktualiséiert Politik iwwer Killer Roboter?

De Pentagon huet en Update op seng Direktiv 3000.09, déi deckt wat se nennen Autonomie a Waffesystemer an anerer ruffen 'Killer Roboteren.' Aktuell Dronen wéi d'Loftwaff an d'CIA MQ-9 Reapers ginn duerch Fernsteierung bedriwwen: e Mënsch souz virun engem Video Écran identifizéiert Ziler um Buedem dausende vu Kilometer ewech, stellt se an der crosshairs a verëffentlecht eng Hellfire Rakéit oder aner Waff. Autonom Waffen sinn anescht: Si wielen hir eege Ziler ouni mënschlech Interventioun. Kloer Reegele si gebraucht fir wéini a wéi se kënne benotzt ginn, an déi nei Direktiv bréngt se e Schrëtt méi no.

Virun zéng Joer wéi déi éischt Versioun vum 3000.09 verëffentlecht gouf, hunn autonom Waffen ausgesinn wéi Science Fiction. Elo sinn se ganz real. D'UN huet dat behaapt Tierkesch geliwwert Dronen hunn Ziler autonom attackéiert a Libyen am Joer 2020 a Russland setzt elo loitéierend Munitioun an der Ukraine mat autonom Fäegkeet.

Vill Aktivisten, wéi de Kampagne fir Killer Roboter ze stoppen, wëllen e direkte Verbuet vun autonome Waffen, insistéieren datt all Fernwaff ënner bleift sënnvoll mënschlech Kontroll zu all Moment. D'UNO huet diskutéiert wéi dat Kontroll esou Waffen fir vill Joren.

Wéi déi nei Direktiv awer kloer mécht, hält de Pentagon sech un enger anerer Linn.

"Den DoD huet sech konsequent géint e Politikstandard vun 'sënnvoll mënschlech Kontroll', wann et ëm autonom Systemer an AI Systemer geet." Gregory Allen, Direkter vum Project on AI Governance bei der Center fir Strategesch an Internationale Studien, sot mir. "De bevorzugten DoD Begrëff vun der Konscht ass" entspriechend Niveaue vu mënschlecht Uerteel ", wat d'Tatsaach reflektéiert datt an e puer Fäll - autonom Iwwerwaachungsfliger an e puer Aarte vun autonomen Cyberwaffen, zum Beispill - de passenden Niveau vu mënschlecher Kontroll ka wéineg bis guer net sinn ".

Just wéi eng autonom Waffe wieren ënner wéi enge Ëmstänn erlaabt? Den Allen mengt datt déi viregt Versioun vun der Direktiv sou onkloer war datt et all Entwécklung an dësem Beräich decouragéiert huet.

"D'Verwirrung war sou verbreet - och ënner e puer DoD Senior Leader - datt d'Beamte refuséiert hunn e puer Systemer z'entwéckelen, déi net nëmmen duerch d'Politik erlaabt waren, awer och ausdrécklech vun der Seniorevaluatiounsfuerderung befreit sinn", seet den Allen.

Net eng eenzeg Waff gouf an den Iwwerpréiwungsprozess fir autonom Waffen, déi am ursprénglechen 3000.09 ausgeluecht goufen, an den zéng Joer zënter datt et publizéiert gouf.

Allen huet an Essay iwwer dëst fir CSIS d'lescht Joer, véier Beräicher beschreiwen, déi Aarbecht gebraucht hunn - formell autonom Waffesystemer definéieren, seet wat "AI-aktivéiert" fir d'Politik bedeit, wéi den Iwwerpréiwungsprozess d'Retraining Maschinn Léiermodeller handhabt, a klären wéi eng Zorte vu Waffen erfuerderlech sinn. gitt duerch den ustrengenden Iwwerpréiwungsprozess.

"Den DoD huet se all ëmgesat," seet den Allen.

Am Prinzip dann soll dëst suergen, wat den DoD Begrëff "staark a kontinuéierlech Engagement fir en transparenten globalen Leader ze sinn fir verantwortlech Politik iwwer militäresch Notzung vun autonome Systemer opzebauen."

Wéi och ëmmer, et ginn e puer Ergänzunge, déi als Schléifer kënne gesi ginn, sou wéi eng Befreiung vun der Seniorevaluatioun fir autonom Waffen déi Dronen verteidegen, déi net op Leit zielen ('antimaterialwaffen') an déi awer erlaabt sinn Rakéiten, aner Dronen ze zielen. a potenziell aner Systemer.

"D'Wuert 'Verteidegung' mécht eng Tonn Aarbecht," Zak Kallenborn, sot mir e Politiker an der Schar School of Policy and Government op der George Mason University. "Wann eng Dron op feindlechen Territoire operéiert, ka bal all Waff als 'Verdeedegung' vun der Plattform ausgesi ginn."

De Kallenborn bemierkt och datt wärend effektiv autonom Waffen wéi Landminen zënter méi wéi engem Joerhonnert am Gebrauch sinn, d'Landschaft sech séier ännert wéinst de Fortschrëtter an AI a besonnesch Maschinnléieren. Dës hunn Systemer ginn, déi ganz kapabel sinn, mä technesch brécheg - wa se versoen, fällt se spektakulär op Manéieren, wéi zum Beispill kee Mënsch géif eng Schildkröt fir e Gewier verwiesselen.

"Autonomie duerch AI verdéngt definitiv méi Suergen, well d'Brëtzlechkeet an d'Feele vun der Erklärbarkeet vun de momentan dominéierte Approche ginn", seet de Kallenborn.

Den Update ass net grouss. Awer et weist dem Pentagon säi weideren Engagement fir effektiv autonom Waffen z'entwéckelen an e Glawen, mat deem se kënne respektéieren international humanitär Gesetz - Zivilisten aus Militärpersonal z'ënnerscheeden, probéiert Zivilisten ze schueden ze vermeiden, an nëmmen proportional an néideg Kraaft benotzen.

Kampagnen gleewen datt AI net dat néidegt Verständnis besëtzt fir moralesch Uerteeler a Krichszäit ze maachen a riskéiert eng Welt ze kreéieren wou de Krich automatiséiert ass an d'Mënschen net méi a Kontroll sinn. Anerer gleewen datt d'US Militär wäert sinn vun Géigner mat autonome Waffen outmatched ausser AI ass op engem takteschen Niveau integréiert, an dat ze vill mënschlech Bedeelegung verlangsamt militäresch Roboteren.

D'Argument wäert méiglecherweis weidergoen, och wann autonom Waffen ufänken ze erschéngen, an d'Resultater wäerte genau gefollegt ginn. Egal wéi, et schéngt wéi d'Killerroboter kommen.