Dosende vu kënschtlechen Intelligenz (AI) Experten, dorënner d'CEOs vun OpenAI, Google DeepMind an Anthropic, hunn viru kuerzem eng offen Ausso ënnerschriwwen, déi vum Center for AI Safety (CAIS) publizéiert gouf.
Mir hunn just eng Ausso erausginn:
"D'Risiko vum Ausstierwen aus AI ze reduzéieren sollt eng global Prioritéit niewent anere gesellschaftleche Risiken wéi Pandemie an Nuklearkrich sinn."
Ënnerschreiwe sinn Hinton, Bengio, Altman, Hassabis, Song, etc.https://t.co/N9f6hs4bpa
(1 / 6)
— Dan Hendrycks (@DanHendrycks) Mee 30, 2023
D'Ausso enthält een eenzege Saz:
"D'Risiko vum Ausstierwen aus AI ze reduzéieren sollt eng global Prioritéit niewent anere gesellschaftleche Risiken wéi Pandemie an Nuklearkrich sinn."
Ënnert den Ënnerschrëften vum Dokument sinn e richtege "wien ass wien" vun AI Luuchten, dorënner de "Pätter" vun AI, Geoffrey Hinton; Universitéit vu Kalifornien, Berkeley Stuart Russell; an Lex Fridman vum Massachusetts Institute of Technology. De Museker Grimes ass och ënnerschriwwen, ënner der Kategorie "aner Notabele Figuren" opgezielt.
Verbonnen: Museker Grimes gewëllt "50% Royalties opzedeelen" mat AI generéiert Musek
Och wann d'Ausso onschëlleg op der Uewerfläch schéngen kann, ass den ënnerierdesche Message e bësse kontrovers an der AI Gemeinschaft.
Eng scheinbar wuessend Zuel vun Experten gleewen datt déi aktuell Technologien zwangsleefeg zum Entstoe oder d'Entwécklung vun engem AI System féieren kënnen oder wäerten zwangsleefeg féieren fir eng existenziell Bedrohung fir d'mënschlech Spezies ze stellen.
Hir Meenung ginn awer vun engem Kontingent vun Experten mat diametral dogéint Meenungen entgéint gestallt. Meta Chef AI Wëssenschaftler Yann LeCun, zum Beispill, huet op e puer Geleeënheeten bemierkt datt hien net onbedéngt gleeft datt AI onkontrolléierbar gëtt.
Supermënschlech AI ass néierens un der Spëtzt vun der Lëscht vun existenziellen Risiken.
Am groussen Deel well et nach net gëtt.Bis mir e Basisdesign fir souguer Hondsniveau AI hunn (loosst eleng mënschlecht Niveau), diskutéieren wéi et sécher ze maachen ass ze fréi. https://t.co/ClkZxfofV9
— Yann LeCun (@ylecun) Mee 30, 2023
Fir hien an anerer, déi net mat der "Ausstierwen" Rhetorik averstane sinn, wéi den Andrew Ng, Matgrënner vu Google Brain a fréiere Chefwëssenschaftler bei Baidu, ass AI net de Problem, et ass d'Äntwert.
Op der anerer Säit vum Argument, Experten wéi Hinton an Conjecture CEO Connor Leahy gleewen datt mënschlech Niveau AI inévitabel ass an, als solch, d'Zäit ass elo ze handelen.
D'Cheffe vun alle grousse AI Laboe hunn dëse Bréif ënnerschriwwen an explizit de Risiko vum Ausstierwen aus AGI unerkannt.
En onheemleche Schrëtt no vir, Gratulatioun un den Dan fir seng onheemlech Aarbecht fir dëst zesummenzestellen a Merci un all Ënnerschrëft fir hiren Deel fir eng besser Zukunft ze maachen! https://t.co/KDkqWvdJcH
— Connor Leahy (@NPCollapse) Mee 30, 2023
Et ass awer net kloer wéi eng Handlungen d'Ënnerschreiwe vun der Ausso fuerderen. D'CEOs an / oder Cheffen vun AI fir bal all gréisser AI Firma, souwéi renomméiert Wëssenschaftler aus der ganzer Akademie, gehéieren zu deenen, déi ënnerschriwwen hunn, wat et offensichtlech mécht datt d'Intent net d'Entwécklung vun dëse potenziell geféierleche Systemer ze stoppen ass.
Fréier dëse Mount huet den OpenAI CEO Sam Altman, ee vun den uewe genannten Ënnerschrëfte vun der Ausso, säin éischten Optrëtt virum Kongress wärend engem Senat Hearing gemaach fir AI Regulatioun ze diskutéieren. Säin Zeegnes huet Schlagzeilen gemaach nodeems hien d'Majoritéit dovun verbruecht huet Gesetzgeber ze fuerderen seng Industrie ze regléieren.
Altman d'Worldcoin, e Projet kombinéiert cryptocurrency a Beweis-vun-Persounlechkeet, huet och viru kuerzem d'Medien Ronne gemaach nodeems se $ 115 Milliounen am Serie C Finanzéierung opgehuewe, bréngt seng Gesamtfinanzéierung no dräi Ronnen op $ 240 Milliounen.
Quell: https://cointelegraph.com/news/ai-experts-sign-doc-comparing-risk-of-extinction-from-ai-to-pandemics-nuclear-war