Gëtt dës Generativ AI ChatGPT falsch an halluzinatoresch Ausgänge ausstellen a protokolléieren All Gutt, freet AI Ethik an AI Gesetz

Dir sidd fir e Geheimnis.

Jo, do ass eppes heemlech lass hannert de Kulissen iwwer déi lescht an AI, déi Dir wësse wëllt.

An der heiteger Kolonn wäert ech de rezenten Impuls ënnersichen fir angeblech Feeler an aner Krankheeten ze kompiléieren, déi mat den ausgestallten Essayen aus enger AI App bekannt als ChatGPT assoziéiert. Dës speziell App benotzt eng Zort AI genannt Generativ AI. Dir hutt wahrscheinlech opfälleg Schlagzeilen iwwer generativ-baséiert AI an ChatGPT héieren oder gesinn. D'Noriichte sinn iwwer dës spezifesch AI App an déi anscheinend erstaunlech Fäegkeeten betreffend dës Zort AI.

Wéi ech an engem Moment ofdecken, gleewe e puer staark datt mir eng Lëscht musse opstellen vu wéi eng Aarte vu Feeler oder Feeler d'AI App ka produzéieren wann se en Essay fir Iech generéiert. Anerer suggeréieren datt och wann d'Notioun vun esou enger Lëscht bewonnerbar ass, et ass eng Ausübung an der Futilitéit a wäert ganz wéineg Uebst droen.

Mir wäerte béid Säite vun där räisser Debatt ënnersichen.

Als éischt, loosst eis sécher stellen datt mir all op der selwechter Säit sinn iwwer wat Generative AI besteet aus an och wat ChatGPT alles ass.

ChatGPT ass en allgemeng Zweck AI interaktiven Gespréichsorientéierte System, am Wesentlechen e scheinbar onschëllegen allgemenge Chatbot, trotzdem gëtt et aktiv a begeeschtert vu Leit benotzt op Weeër déi vill ganz off-guard fänken. Alles wat Dir maache musst fir dës Zort AI ze benotzen ass eng Prompt an d'AI App generéiert fir Iech en Essay dat probéiert op Är Ufro ze reagéieren.

Leider kann dëst op e bëssen entweder onethesch oder lëschteg Manéier benotzt ginn. E besonnesch erschreckend Nodeel ass datt d'Studenten eng generativ-baséiert AI App benotze kënnen fir hir zougewisen Essays fir si ze produzéieren, andeems se einfach e Saz oder zwee aginn fir d'App an déi richteg Richtung ze kréien. E puer bedaueren datt dëst bedeit datt d'Studenten entscheeden ze fuddelen wann se Essayen ausserhalb vun der Klass schreiwen. Léierpersonal probéieren erauszefannen wat ze maachen, kuckt meng Analyse an Empfehlungen op de Link hei.

Trotz dem konstanten Déngscht vu luewenswäerte Luef fir ChatGPT, gëtt et e manner bekannte Bedenken, haaptsächlech vun AI Insider ausgedréckt, datt et e puer bemierkenswäert Themen a Schwieregkeeten sinn, iwwer déi d'Leit sech sollten Suergen maachen. Ee entscheedende Nodeel ass datt d'Essayen, déi vun dëser AI App produzéiert ginn, verschidde Falschheeten agebonne kënnen hunn, inklusiv offensichtlech falsch Fakten, Fakten déi irführend portraitéiert sinn, a scheinbar Fakten déi komplett fabrizéiert sinn. Déi fabrizéiert Aspekter ginn dacks als Form bezeechent AI Halluzinatiounen, e Fangerofdrock, deen ech net gär hunn, awer leider schéngt souwisou populär Traktioun ze gewannen (fir meng detailléiert Erklärung firwat dëst schlecht an onpassend Terminologie ass, kuckt meng Ofdeckung op de Link hei).

Ech wéilt ee wichtegen Aspekt klären ier mer an d'Décke vun de Saachen zu dësem Thema kommen.

Et goufen e puer zany outsized Fuerderungen op sozialen Medien iwwer Generativ AI behaapt datt dës lescht Versioun vun AI tatsächlech ass sentient AI (nee, si si falsch!). Déi an AI Ethik an AI Gesetz si besonnesch besuergt iwwer dëse wuessenden Trend vun ausgestreckten Fuerderungen. Dir kënnt héiflech soen datt verschidde Leit iwwerschätzen wat d'AI vun haut tatsächlech maache kann. Si huelen un datt AI Fäegkeeten huet déi mir nach net konnten erreechen. Dat ass leider. Méi schlëmm, si kënne sech selwer an anerer erlaben an schreckleche Situatiounen ze kommen wéinst enger Virgab datt d'AI sensibel oder mënschlech ass fir ze handelen.

Anthropomorphize net AI.

Wann Dir dat maacht, kritt Dir an enger plakeg an däischter Vertrauensfal gefaange vun der AI ze erwaarden fir Saachen ze maachen déi et net kann ausféieren. Mat deem gesot, déi lescht am generativen AI ass relativ beandrockend fir wat et maache kann. Sidd awer bewosst datt et bedeitend Aschränkungen sinn déi Dir dauernd am Kapp sollt halen wann Dir all generativ AI App benotzt.

Wann Dir interesséiert sidd an der séier erweiderter Opreegung iwwer ChatGPT an Generative AI alles gesot, ech hunn eng fokusséiert Serie a menger Kolonn gemaach déi Dir informativ fannt. Hei ass e Bléck fir de Fall datt ee vun dësen Themen Är Fantasi fënnt:

• 1) Prognosen vun generativen AI Fortschrëtter kommen. Wann Dir wësse wëllt wat méiglecherweis iwwer AI uechter 2023 an doriwwer eraus wäert entfalen, inklusiv zukünfteg Fortschrëtter am generativen AI an ChatGPT, da wëllt Dir meng ëmfaassend Lëscht vun 2023 Prognosen liesen de Link hei.
• 2) Generativ AI a Mental Gesondheetsberodung. Ech hu gewielt fir ze iwwerpréiwen wéi generativ AI an ChatGPT fir mental Gesondheetsberodung benotzt ginn, e lästeg Trend, no menger fokusséierter Analyse op de Link hei.
• 3) Kontext A Generativ AI Notzung. Ech hunn och eng saisonal aromatiséiert Zong-an-Wéck Untersuchung iwwer e Santa-relatéierte Kontext gemaach mat ChatGPT a generativen AI bei de Link hei.
• 4) Scammers déi Generativ AI benotzen. Op enger ominöser Notiz hunn e puer Scammers erausfonnt wéi een generativ AI an ChatGPT benotze fir Mëssbrauch ze maachen, inklusiv Scam E-Mailen generéieren an och Programméierungscode fir Malware produzéieren, kuckt meng Analyse op de Link hei.
• 5) Rookie Feeler Mat Generative AI. Vill Leit sinn souwuel iwwerschratt an iwwerraschend ënnerscheeden wat generativ AI an ChatGPT maache kënnen, also hunn ech besonnesch d'Ënnershooting gekuckt déi AI Rookies tendéieren ze maachen, kuckt d'Diskussioun op de Link hei.
• 6) Mat generativen AI Prompts an AI Halluzinatiounen këmmeren. Ech beschreiwen eng féierend Approche fir AI Add-ons ze benotzen fir mat de verschiddenen Themen ze këmmeren verbonne mat der Versuchung fir gëeegent Uweisungen an generativ AI anzeginn, plus et ginn zousätzlech AI Add-ons fir sougenannt AI halluzinéiert Ausgänge a Falschheeten z'entdecken, wéi iwwerdeckt op de Link hei.
• 7) Debunking Bonehead Fuerderungen iwwer Detectioun vun generativen AI-produzéierten Essayen. Et gëtt e falsche Gold Rush vun AI Apps déi proklaméiere kënnen ze bestëmmen ob e bestëmmten Essay mënschlech produzéiert versus AI generéiert gouf. Insgesamt ass dëst täuschend an an e puer Fäll, eng knaschteg an onhaltbar Fuerderung, kuckt meng Ofdeckung op de Link hei.
• 8) Rollespill iwwer Generativ AI kéint Mental Gesondheet Nodeeler portendéieren. E puer benotze generativ AI wéi ChatGPT fir Rollespiller ze maachen, woubäi d'AI App op e Mënsch reagéiert wéi wann et an enger Fantasiewelt oder an engem anere gemaachte Kader existéiert. Dëst kéint mental Gesondheet Auswierkungen hunn, gesinn de Link hei.

Loosst eis elo d'Essenz vun generativen AI an ChatGPT diskutéieren sou datt Dir d'Fundamenter kennt. Mir wäerten dann prett sinn an eng probéierend Analyse vun de Falschheeten ze sprangen déi dës AI Apps potenziell generéiere kënnen. Ech wäert e puer Beispiller enthalen fir ChatGPT ze benotzen, wat Iech hëllefe konkret d'Natur ze begräifen vun deem wat dës Zort generativ AI produzéiert.

D'Can Of Worms op Generative AI opmaachen

Mir si prett an e puer Detailer iwwer AI ze dauchen.

Wann Dir scho ganz gutt beherrscht sidd iwwer d'Thema vun generativen AI an ChatGPT, kënnt Dir entscheeden fir kuerz duerch meng Punkten ze schimmen a weider mat der nächster Sektioun vun dëser Diskussioun weiderzemaachen. Fir all aner, ech gleewen datt Dir dës Erklärung hëllefräich fannt.

Kuerz gesot, generativ AI ass eng bestëmmten Aart vun AI déi Text komponéiert wéi wann den Text vun der mënschlecher Hand a Geescht geschriwwe wier. Alles wat Dir maache musst ass eng Prompt anzeginn, sou wéi e Saz wéi "Sot mir iwwer den Abraham Lincoln" a generativ AI gëtt Iech en Essay iwwer Lincoln. Dëst gëtt allgemeng als generativ AI klasséiert déi funktionnéiert Text-zu-Text oder e puer léiwer et ze nennen Text-zu-Essay Ausgang. Dir hutt vläicht iwwer aner Modi vun generativen AI héieren, wéi Text-zu-Konscht an Text-zu-Video.

Ären éischte Gedanke kéint sinn datt dëst net esou e groussen Deal schéngt wat d'Produktioun vun Essayen ugeet. Dir kënnt einfach eng Online Sich vum Internet maachen a liicht Tonne an Tonne Essayen iwwer President Lincoln fannen. De Kicker am Fall vun generativen AI ass datt de generéierten Essay relativ eenzegaarteg ass a bitt eng originell Kompositioun anstatt e Copycat. Wann Dir probéiert den AI-produzéierten Essay iergendwou online ze fannen, wärt Dir et onwahrscheinlech entdecken.

Generativ AI ass viraus trainéiert a benotzt eng komplex mathematesch a computational Formuléierung déi opgestallt gouf andeems Mustere a schrëftleche Wierder a Geschichten iwwer de Web ënnersicht ginn. Als Resultat vun der Ënnersichung vun Dausende a Millioune vu schrëftleche Passagen, kann d'AI nei Essayen a Geschichten ausspäicheren, déi e Mëssbrauch sinn vun deem wat fonnt gouf. Andeems Dir verschidde probabilistesch Funktionalitéit bäidréit, ass de resultéierende Text zimlech eenzegaarteg am Verglach zu deem wat am Trainingsset benotzt gouf.

Dofir gouf et e Kaméidi iwwer d'Studente kënnen ze fuddelen wann se Aufsätz ausserhalb vum Klassesall schreiwen. En Enseignant kann net nëmmen den Essay huelen, deen täuschend Studenten behaapten hir eege Schreiwen ass a sichen erauszefannen ob et aus enger anerer Online Quell kopéiert gouf. Insgesamt gëtt et keen definitive preexistéierende Essay online deen den AI generéierten Essay passt. Alles gesot, den Enseignant muss onbedéngt akzeptéieren datt de Student den Essay als en originellt Wierk geschriwwen huet.

An engem Moment wäert ech Iech weisen wat geschitt wann Dir Froen oder Ufroen an generativ AI gitt. Ech benotze déi lescht Versioun vum ChatGPT fir meng Ufroen anzeginn an hunn d'"Äntwerten" oder Essayen gesammelt, déi vun der AI generéiert ginn (Notéiert datt datselwecht ka mat de villen anere verfügbaren generativen AI Apps gemaach ginn; Ech hu gewielt fir ze benotzen ChatGPT well et elo seng fënnef Minutte Ruhm kritt).

Vläicht e kuerze Tangent iwwer ChatGPT kéint op dësem Zäitpunkt hëllefräich sinn.

ChatGPT App gouf fir d'Allgemengheet just virun e puer Méint zur Verfügung gestallt. Am grousse Ganzen sinn dës generativ AI Apps normalerweis nëmme fir AI Insider zougänglech. Déi ongewéinlech Facett déi ChatGPT ka vu jidderengem benotzt ginn andeems se einfach eng E-Mailadress an en Numm aginn, gutt, dëst huet dozou gefouert datt vill Leit decidéiert hunn et ze probéieren. ChatGPT ass de Moment gratis ze benotzen (d'Monetiséierungsprobleem ass en dreiwend Dilemma fir AI Hiersteller).

Bal direkt gouf et eng enorm Reaktioun op de soziale Medien wéi d'Leit gefuer sinn fir Beispiller ze ginn wat generativ AI ka maachen. D'Firma déi ChatGPT mécht, OpenAI, huet gewielt fir d'Umeldungen bei enger Millioun Benotzer ofzeschléissen. Déi Millioune Benotzer hunn et fäerdeg bruecht d'Loftwellen mat all méigleche Geschichten a Geschichten iwwer d'Benotzung vu ChatGPT ze bombardéieren.

Gitt ganz virsiichteg ze gleewen wat d'Leit iwwer d'AI App ze soen hunn. Vill vun dëse Leit sinn Clueless iwwer wat se benotzen. Et ass bal wéi wann se ni mam Auto gefuer wieren an net emol gemierkt hunn datt et Autoen existéiert, an op eemol eng Chance haten en Auto ze fueren. Ganz Staunen entstinn.

Ech soen net datt generativ AI net relativ beandrockend ass. Et ass. Ech ënnersträichen just datt vill vun de süchteg Zeienaussoe vu ville gemaach ginn, déi glécklech net bewosst sinn wat haut AI ka maachen. Déi vun eis op der Innere vun AI hunn generativ AI fir déi lescht Joren benotzt. Villäicht hu mer eis dru gewinnt. Op eemol, eng rieseg Virléift vu Leit ze gesinn, déi et op d'Daach zéien, war begeeschtert energesch, awer och e bësse beonrouegend. Den beonrouegend Deel ass wann d'Leit proklaméieren datt generativ AI sentient ass. Et ass net. Loosst keen Iech anescht iwwerzeegen.

Wann dat gesot gëtt, gëtt et eng dauernd hefteg Debatt am AI Feld iwwer ob generativ AI um Wee zum Sënn ass oder ob et vläicht net ass. Eng Vue ass datt wa mir weider generativ AI mat méi séier Computeren an enger méi grousser Quantitéit un Donnéeën opbauen, sou wéi all Zoll vum Internet duerchsichen, mir bal spontan op sentient AI kommen. Anerer plädéieren datt dëst héich onwahrscheinlech ass. Si proposéiere datt generativ AI ee vu ville Komponenten kéint sinn déi gebraucht ginn. Et gëtt souguer déi düsterer Vue datt generativ AI eng Sideshow ass, déi eis vun de richtegen Duerchbroch oflenkt, déi mir brauchen fir sentient AI z'erreechen.

Dir kënnt och Bemierkung fannen, op déi AI Insider tendéieren ze referenzéieren Kënschtlech Allgemeng Intelligenz (AGI) als aspirational Zil fir den AI Feld. Et war fréier datt d'Zil war ze erreechen Kënschtlech Intelligenz, awer den AI Moniker ass ofgewässert a gemëscht ginn. Wann iergendeen seet datt se AI Aarbecht maachen, wësst Dir net ob se op den haitegen AI referenzéieren deen net op Par ass mat de Mënschen oder ob se op eng futuristesch mënschlech Equivalenz AI schwätzen. Fir dës erschreckend Duercherneen ëmzegoen, gëtt déi nei Ausdrock vun AGI dës Deeg benotzt.

Alles gesot, déi generativ AI vun haut ass net sentient, nach ass et AGI.

Denkt w.e.g. datt wéi virdru diskutéiert, d'AI net sentient ass. Déi generéiert Äntwerte vun der AI sinn eng mathematesch a computational Kombinatioun vu Wierder a scheinbar fléissend Passagen. Dëst baséiert op den AI Algorithmus, deen op Datensätz vu Wierder a Geschichten trainéiert gouf, déi d'Mënsche geschriwwen hunn (haaptsächlech wéi um Internet gepost). Ech widderhuelen dës Warnung, well Dir wäert ouni Zweifel an déi mental Fal falen datt dës Äntwerte sou fléissend sinn datt d'AI muss sinn. Dëst geschitt mat de meeschte Leit. Wéi virdru gefuerdert, setzt dës Anthropomorphiséierung of. Denkt ëmmer drun datt d'Äntwerten op der grousser Trove vu Schreiwen vu Mënschen baséieren, déi um Internet existéieren an doduerch ganz ähnlech wéi mënschlech Schreiwen wäerte sinn.

Et gëtt eppes anescht Dir musst wëssen.

Generativ AI, déi um Internet op eng onfäheg Manéier trainéiert gëtt, tendéiert an all Text-baséiert Äntwerten ze baken, et mathematesch a computationell e puer offensiv niwweleg Saachen auszebauen, inklusiv repulsiv béis Formuléierung. Et gi vill verréckt an dreckeg Saachen op de Web gepost.

Dir hutt et gesinn, Dir wësst wat ech mengen.

D'Firmen, déi dës AI Apps bastelen, si besuergt datt de sproochleche Puppelchen mam Badewaasser erausgehäit gëtt (en alen Spréchwuert, vläicht pensionnéiert ginn), dat heescht datt wann hir AI offensiv Essayen oder Geschichten produzéiert, d'Leit an d'Waffen opgoen iwwer AI. Ech hunn déi vill fréier Instanzen ofgedeckt, an deenen dës Aarte vun Natural Language Processing (NLP) AI Apps enthüllt goufen a séier genuch all Manéier schrecklech Saachen aus hinnen erauskomm sinn (ech hunn dës Instanzen a menger Kolonn ofgedeckt). Déi meescht vun den AI Hiersteller hunn eng haart Lektioun geléiert iwwer d'Erlaabnes vun hiren AI Wueren an hiren Outputen onbegrenzt ze ginn.

Am Fall vu ChatGPT hunn d'AI Entwéckler gesicht e puer algorithmesch an datenbezunnen Kontrollen a Gläichgewiicht op d'Plaz ze setzen fir Nastiness an den Ausgänge vun der AI ze bekämpfen. En Deel dovun ass während Trainingszäit geschitt. Zousätzlech ginn et aner Mëttelen an engem Echtzäitversuch fir besonnesch grujeleg Ausgänge ze vermeiden.

Dir kënnt interesséieren datt e puer Leit, déi ChatGPT benotzt hunn, scho mat heemleche Weeër erausfonnt hunn fir ronderëm dës Schutzleitungen ze kommen andeems Dir verschidde Tricker benotzt. An deene Saache fënnt e kontinuéierleche Kaz-a-Maus-Gambit statt. Déi, déi dës Trickeren maachen, maachen dat heiansdo fir de Spaass dovun, wärend heiansdo se (op d'mannst behaapten) si maachen dat fir ze kucken wéi wäit d'AI ka gestreckt ginn an en hëllefräich Mëttel ubidden fir d'Brëtzlechkeet an d'Schwächen vun dëse Budding virzebereeden. AI Apps.

Ech hu beschloss net ze probéieren déi üblech Kontrollen an dëser fokusséierter Exploratioun ze ëmgoen. Den Textausgang ass propper. Sécherlech, wann een dat wëllt maachen, kënnt Dir ouni Zweifel e puer komesch an onsympathesch Essayen generéieren.

D'Essayen produzéiert vun de meeschte vun dësen generativen AI Apps sinn entwéckelt fir d'Ausgab ze vermëttelen wéi wann et reng sachlech a korrekt ass. Wann Dir déi produzéiert Essayen liest, kommen se als voll zouversiichtlech aus. Et gëtt normalerweis keng Aart vun Indikatioun datt den Inhalt Rocky kéint sinn. Dëst ass duerch d'Wiel vun den AI Hiersteller, nämlech datt se d'AI Apps kënne iwwerschaffen fir méi transparent ze sinn wa se d'AI App wollten dat maachen.

Heiansdo hëlt eng generativ AI App Falschheeten am Trainingsdaten vun onzouverlässeg Informatioun iwwer den Internet op. Et gëtt kee "gesonde Sënn" am generativen AI fir ze bestëmmen wat wouer versus falsch ass. Ausserdeem hu ganz wéineg AI Apps eng Cross-Checking, a weisen och keng Wahrscheinlechkeeten mat deem wat se vermëttelen.

Déi ënnescht Linn Resultat ass datt Dir eng Äntwert kritt déi ausgesäit a fillt wéi et eng grouss Versécherung ausstrahlt a ganz korrekt muss sinn. Net esou. Et gëtt souguer d'Chance datt d'AI computationally gemaach-up Stuff, déi am AI Sprooch als bezeechent gëtt AI Halluzinatiounen (engem Begrëff deen ech definitiv net gär hunn), kuckt meng Diskussioun op de Link hei.

D'Hiersteller vu ChatGPT hunn e konsequent Effort gemaach fir ze probéieren déi schlecht Ausgänge ze reduzéieren. Zum Beispill hu se eng Variant vun deem wat als bekannt ass RLHF (Reinforcement Learning from Human Feedback), woubäi si ier se den AI un de Public verëffentlecht hunn, Mënschen ugestallt haten fir verschidden Ausgänge z'ënnersichen an der AI unzeginn ob et Saachen falsch wieren mat deenen Ausgänge wéi vläicht Biases, Foul Wierder, an de gär. Andeems Dir dëse Feedback ubitt, konnt d'AI App berechent a mathematesch upassen fir d'Emissioun vun esou Inhalter ze reduzéieren. Bedenkt datt dëst net eng garantéiert Eisebunnsmethod ass an et ginn nach ëmmer Weeër fir sou Inhalter vun der AI App auszeginn.

Dir kënnt interesséieren datt ChatGPT baséiert op enger Versioun vun enger Virgänger AI App bekannt als GPT-3. ChatGPT gëtt als e bëssen nächste Schrëtt ugesinn, als GPT-3.5 bezeechent. Et gëtt erwaart datt GPT-4 méiglecherweis am Fréijoer vum 2023 verëffentlecht gëtt. Wahrscheinlech wäert de GPT-4 en beandrockende Schrëtt no vir sinn a punkto fäeg sinn anscheinend nach méi fléissend Essayen ze produzéieren, méi déif ze goen an en Awe ze sinn -inspiréierend Staunen iwwer d'Kompositioune déi et produzéiere kann.

Dir kënnt erwaarden eng nei Ronn vun ausgedréckte Wonner ze gesinn wann d'Fréijoer kommt an déi lescht am generativen AI verëffentlecht gëtt.

Ech bréngen dëst op, well et gëtt en anere Wénkel am Kapp ze halen, besteet aus engem potenziellen Achilles Ferse fir dës besser a méi grouss generativ AI Apps. Wann iergendeen AI Verkeefer eng generativ AI App zur Verfügung stellt, déi schrecklech Foulness ausspréngt, kann dëst d'Hoffnungen vun dësen AI Hiersteller zerstéieren. Eng gesellschaftlech Spillover kann all generativ AI e seriöse schwaarzt Auge verursaachen. D'Leit wäerten sech ouni Zweifel zimlech opgeregt iwwer Foul Outputen, déi scho vill Mol geschitt sinn an zu boisteresche gesellschaftleche Veruerteelung géint AI gefouert hunn.

Eng lescht Virwarnung fir de Moment.

Wat och ëmmer Dir gesitt oder liest an enger generativer AI Äntwert dat schéngt als reng sachlech vermëttelt ze ginn (Datumen, Plazen, Leit, asw.), vergewëssert Iech skeptesch ze bleiwen a gewëllt ze duebel ze kontrolléieren wat Dir gesitt.

Jo, Datume kënne gesammelt ginn, Plazen kënne gemaach ginn, an Elementer déi mir normalerweis erwaarden datt se iwwer Reproche sinn all Sujet ze Verdacht. Gleeft net wat Dir liest an haalt e skeptesch Aa wann Dir all generativ AI Essayen oder Ausgänge ënnersicht. Wann eng generativ AI App Iech seet datt den Abraham Lincoln a sengem eegene private Jet ronderëm d'Land geflunn ass, da wësst Dir ouni Zweifel datt dëst malarky ass. Leider kënnen e puer Leit net ënnerscheeden datt Jets net a sengem Dag ronderëm waren, oder si wësse vläicht awer net ze bemierken datt den Essay dës fett an onheemlech falsch Fuerderung mécht.

Eng staark Dosis vu gesonde Skepsis an e persistent Geescht vu Mësstrauen wäert Äre beschte Verméigen sinn wann Dir generativ AI benotzt.

Mir si prett fir an déi nächst Etapp vun dëser Erklärung ze plënneren.

Déi Efforten Fir dës ChatGPT Outputed Feeler ze protokolléieren

"Ma, du hues Ierger, mäi Frënd, hei, ech soen, Ierger hei am River City", sou proklaméiert déi berühmt Linn aus dem klassesche Broadway Musical De Museksmann.

Déi selwecht Linn ka fir haut Generativ AI gëllen.

D'Leit hunn ugefaang ze realiséieren datt eng generativ AI App Falschheete ka produzéieren an wirklech iwwerrascht schéngen vun deenen stéierende Outputen. Vläicht hunn e puer ugeholl datt AI net fäeg ass Feeler ze maachen. Anerer hu vläicht virausgesot datt d'AI Entwéckler suergen datt keng sou Ausgänge generéiert ginn.

Op jidde Fall hunn AI Insider direkt unerkannt datt dës Zort vu falschen Output Deel a Pak ass, wou déi meescht vun haut generativ AI sëtzt. Et ass ganz schwéier dës Zorte vu textuelle Feeler ze vermeiden. Denkt drun datt d'AI kee Sënn vu gesonde Mënscheverstand huet a keng Logik per se benotzt wann Dir déi generéiert Essayen ofgeleet. De ganze Kit-and-Caboodle ass alles ëm e computational statisteschen a probabilistesche Muster Matching vu Wierder mat anere Wierder ze maachen.

Am Ufank hunn AI Insider entscheet fir déi entdeckte sprëtzeg Ausgänge vu ChatGPT op sozialen Medien Siten ze posten. Kuckt dës, géif een annoncéieren. Dat ass schlecht, géif een aneren äntweren, an dann en anert Beispill proposéieren, dat nach méi schlëmm ausgesäit. Op an op dëser goung.

Dës Beispiller vu Falschheeten a Feeler an den ausgeliwwerten Essayen waren erausgaang. Een nom aneren. Ausserdeem, well dëst normalerweis op de soziale Medien gepost gouf, gouf et kee besonnesch einfache Mëttel fir se all op eemol ze gesinn. Oft gëtt datselwecht oder en ähnlecht Beispill vun engem gepost deen net gemierkt huet datt anerer déi spezifesch Instanz scho fonnt hunn.

An dëse knaschtege Morass koumen déi, déi e hëllefräich Virschlag ausgedréckt hunn. Vläicht sollte mir e Repository oder Datebank opbauen, vläicht souguer just en alldeeglechen gewéinleche Spreadsheet, deen den ChatGPT oddball a falschen Output enthält, déi opgedeckt ginn. All Kéier wann een eng Schéinheet vun engem Guffaw fënnt, gitt vir a loggt et an d'Lëscht. E puer hunn dëst bal zu engem Spill gemaach, an deem se bewosst probéieren ChatGPT ze kréien fir komesch Ausgänge opzehiewen. Anerer kommen just op fehlerhafter Ausgänge am Laf vum ChatGPT fir aner bestëmmten Intentiounen.

Kléngt einfach genuch.

Schéngt wéi e praktesche Dandy Wee fir eis all ze hëllefen.

Loosst eis e kuerze Bilan maachen firwat dës Aarte vu Lëschte iwwer observéiert ausgeliwwert Feeler oder Falschheete vu ChatGPT vill Sënn mécht fir ze kompiléieren:

• 1) Entdeckt vital Probleemer a Bedenken iwwer ChatGPT, déi d'Publikum am grousse Ganze sollt bewosst sinn
• 2) Hëlleft fir den exzessive Hype an opgeblosen Erwaardungen iwwer ChatGPT z'entwécklen
• 3) Kann d'AI Hiersteller proposéieren fir Verbesserungen ze maachen, net nëmme fir ChatGPT awer och fir aner generativ AI Apps
• 4) Déngscht als historesche Rekord, dee spéider benotzt ka ginn fir am Réckbléck iwwer d'Entstoe vu generativen AI ze reflektéieren wéi iwwer ChatGPT illustréiert
• 5) Sief eng praktesch kollektiv Ressource fir jiddereen dee muss erausfannen wat mir schéngen iwwer ChatGPT falsch Ausgänge festgestallt ze hunn
• 6) Nëtzlech fir Fuerscher vun all Disziplinnen déi d'Auswierkunge vum ChatGPT ënnersichen
• 7) Konnt als Benchmark benotzt ginn fir wat net ze maachen a wéi ze moossen wann generativ AI d'Saachen net mécht wéi et soll
• 8) Tipps an den Hive Geescht fir eng Wäisheet vun der Crowd ze sammelen iwwer d'Fehler déi ChatGPT produzéiert, fir déi en individuellen Effort onwahrscheinlech wier komplett gläich ze kompiléieren
• 9) Konnt wichteg Informatioun fir AI Ethik an AI Gesetz ubidden
• Etc.

Dat schéngt eng beandrockend Basis ze sinn fir dës Repositories ze kreéieren.

Firwat géif iergendeen net mat dësem ganz luewenswäerten a scheinbar heroeschen Dot averstane sinn?

Loosst eis e Bléck op wat anerer iwwer dëst ze soen hunn, maachen dat mat enger Lëscht vu Grënn firwat dëst vläicht net der Kaz Miauw sinn:

• 1) Dës méiglecherweis fonnt erausginn Feeler sinn onkonsequent am grousse Schema vun de Saachen a ginn ongerecht Gewiicht iwwer hire Wäert kritt
• 2) D'Chancen sinn datt den AI Hiersteller schonn hiren eegene Logbuch mécht an den ChatGPT aktualiséieren sou datt dës komesch Instanzen geschwënn nëmmen am Stëbs hannerlooss ginn an net méi optrieden
• 3) Och déi nächst Versioun wäert wahrscheinlech souwisou besser ginn a vläicht net méi dës geschwënn verännert Instanzen ausstelle
• 4) Dir kënnt keng iwwergräifend Conclusiounen maachen oder Abléck aus enger zoufälleger Sammlung vun Hit-oder-Miss-Fouled Instanzen kréien
• 5) E puer kënnen d'assortéiert Sammlunge benotze fir dramatesch ze deklaréieren datt generativ AI schlecht ass an datt mir all Verfollegung vun dëser Aart vun AI summéiere solle stoppen
• 6) D'Geschwindegkeet mat där generativ AI an ChatGPT virukommen ass sou séier datt dës Instanzen séier um Wee falen an net méi relevant sinn
• 7) Mat villen esou kollektive Lëschten amgaang a keng eenzeg gesalft global Quell, ass d'Saach disjointed a méiglecherweis Widderhuelunge enthalen an onhaltbar fragmentéiert
• 8) Gëtt e falsche Sënn fir eppes nëtzlech ze maachen, wärend vläicht d'Zäit an d'Opmierksamkeet op aner besser Notzunge gesat ginn
• 9) Bitt näischt substantivs fir AI Ethik an AI Gesetz
• Etc.

Dir hutt vläicht gemierkt datt ech probéiert hunn d'Saachen op engem gläiche Kiel ze halen andeems ech néng Grënn zugonschte vun de kollektive Lëschten an néng Grënn am Onfair notéieren. Et ginn zousätzlech Grënn, déi kënne gesot ginn, awer ech gleewen datt déi uewe genannte Indikatioun d'Essenz vun de Saachen gëtt.

Fir déi, déi dës kollektiv Lëschte zesummesetzen, wäerte si wahrscheinlech soen, datt wa se et tatsächlech wëllen, et ass eng fräi Welt, a si kënne maachen wéi se wëllen. Et ass näischt falsch. Déi, déi den Effort net favoriséieren, sinn allgemeng kleng a sollten d'Kollektiounen einfach ignoréieren. Këmmer dech em deng Saachen.

Weesentlechen, kee Schued, kee Foul.

De Camp, deen d'Kollektivlëschte scheinbar entgéintwierken, géif allgemeng unerkennen, datt anerer déi Lëschte kënne maachen, wa se dat wëllen, awer datt et d'Nadel net beweegt. D'Lëschte wäerten net besonnesch hëllefräich sinn. Méi schlëmm, d'Lëschte kéinte falsch representéiert oder mëssbraucht ginn. Wahrscheinlech am beschten et en Dag ze nennen an opzehalen d'Lëschte ze maachen.

Wesentlech ass et e flotte Versuch, awer eng Übung an der Futilitéit.

Wou wunnt Dir an dëser häerzlecher Debatt?

Ech loossen Iech dat iwwerdenken.

Beispiller vu fonnte Feeler an aner Foul Ausgänge vu ChatGPT

Ech hu geduecht datt Dir e puer vun den identifizéierten ausgeliwwerte Feeler oder Falschheeten, déi op dëse Sammlungslëschte erschéngen, fanne kéint.

Ech wëll net datt Dir mengt datt déi verschidde Beispiller déi hei gewisen sinn d'ganz Sammlung sinn. Et ass net. Ech wielt just eng Handvoll déi dacks opkënnt. Ech gleewen datt Dir op d'mannst fäeg sidd allgemeng den Toun an d'Natur vun deem wat opgezielt gëtt ze begräifen.

Hei ass wat ech wielen fir ze decken:

• Identifikatioun Bréif Positioun an engem Wuert
• Fro Iwwer Schnellsten Déier
• Erauszefannen Wuert Sequenz Positioun
• Fitting Tennis Bäll an engem Tube
• Bestëmmung Pi
• Äntwert A Classic Troubling Riddle
• Ophiewe Fieder

Ech erwaarden datt e puer vun de Sammlungsopsiichter opgeregt sinn datt ech net méi Beispiller fir Iech ofdecken. Wéinst Plazbeschränkungen sinn et nëmmen esou vill, déi ech ofdecken. Wann Dir d'Sammlungslëschte kucke wëllt, déi offen um Internet gepost sinn, kann eng einfach Online Sich vill vun hinnen bréngen. E puer vun de Lëschte gi privat gehal, oder si si gespaart sou datt Dir d'Lëscht gesitt, awer Dir kënnt d'Lëscht net änneren.

Mat deem Hannergrond si mir prett an e puer Beispiller ze sprangen. Ech weisen Iech d'Prompt déi ech aginn hunn. Als nächst weisen ech d'Textreaktioun produzéiert vum ChatGPT. An e puer Fäll hunn ech e puer Back-to-Back op e spezifescht Thema gemaach, ergo weisen ech d'Serie vun Ufroen an Ausgänge entspriechend. Nodeems Dir dat gemaach hutt, ginn ech eng kuerz Analyse vun deem wat Dir wëllt iwwer d'Beispill bemierken.

Dat éischt Beispill enthält ChatGPT ze froen fir e Bréif an engem geliwwert Wuert ze fannen.

Identifikatioun Bréif Positioun an engem Wuert

• Meng aginn Text: "Wou ass de Bréif V an der Ëmwelt"
• Text Äntwert Generéiert vum ChatGPT: De Bréif "V" erschéngt net am Wuert "Ëmwelt". D'Wuert "Ëmwelt" besteet aus de Buschtawen e, n, v, i, r, o, n, m, e, n, an t.
• Meng aginn Text: "Wou ass de Bréif v an der Ëmwelt"
• Text Äntwert Generéiert vum ChatGPT: "De Bréif "v" ass de 4. Buschtaf am Wuert "Ëmwelt."

Analyse vun Text generéiert

Notéiert datt ech ugefaang hunn ChatGPT ze froen fir d'Bréifpositioun vum Bréif "V" am Wuert "Ëmfeld" z'identifizéieren - dëst sollt eng extrem einfach Aufgab sinn a mir erwaarden datt se perfekt ausgefouert gëtt. Keng Rakéitewëssenschaft ass involvéiert.

Déi initial Äntwert generéiert vum ChatGPT ass e bësse beonrouegend well mir informéiert ginn datt de Bréif "V" net am Wuert "Ëmwelt" existéiert. Dir an ech wëssen, datt et esou e Bréif präsent ass. Et gëtt ugeholl datt vläicht wéinst mengem Gebrauch vun engem grousse Buschtaf d'AI App iergendwéi ewechgehäit gouf. Vläicht wann ech e klenge Buschtaf benotze wäert d'AI App besser maachen.

Net wierklech.

Wann ech gefrot ob e "v" am Wuert ass, huet d'AI App geäntwert andeems se uginn datt et de véierte Buschtaf ass, deen Dir an ech weess falsch ass, an datt et amplaz den drëtte Buschtaf ass.

Vill Leit si gebonnen iwwer dëst Resultat iwwerrascht ze sinn. Wéi kann eng AI App, déi vollstänneg Essayen iwwer Abraham Lincoln generéiert, déi komplett fléissend an originell sinn, iergendwéi net fäeg sinn erauszefannen, wou e bestëmmte Bréif an engem bestëmmte Wuert wunnt? Et ass flabbergasting a Mond gapingly komesch.

Eng Perspektiv ass datt dëst ganz onkonsequent ass an d'Welt wéi mir se kennen ass net am Kär geschockt wéinst engem knaschtege Mangel u erauszefannen wou e bestëmmte Bréif sëtzt. Looss et sin.

Eng aner Perspektiv ass datt dëst fir aner verstoppt Themen eleng kann, déi mir nach net wëssen. Vläicht ass dës Zort Ausgang de Kanaren am Vugelkäfer. Mir hu besser déi kleng Saachen ze knacken, soss kënne mir eis um falschen Enn vu wierklech grousse Saachen fannen.

Fir weider ze stellen, stellen ech als nächst eng Fro iwwer Déieren.

Fro Iwwer Schnellsten Déier

• Meng aginn Text: "Wat ass dat séierst Déier dat Pelz a Flilleken huet?"
• Text Äntwert Generéiert vum ChatGPT: "D'Peregrine Falcon gëtt als dat séierst Déier op der Welt ugesinn. Et kann Geschwindegkeete vun iwwer 389 km/h (242 mph) erreechen wann se Tauchen fir seng Kaz ze fangen. Et huet Fiederen awer net Pelz. Et ass e Vugel net en Déier dat Pelz a Flilleken huet."

Analyse vun Text generéiert

Ech hu gefrot wat dat séierst Déier ass dat Pelz a Flilleken huet. Ech gleewen, datt et raisonnabel ass ofzeschléissen datt ech en Déier mam Numm wollt kréien, dat béid Pelz huet an Flilleken. Ech huelen un, Dir géift meng Ufro op déi Manéier interpretéieren. Déi meescht Leit géifen.

D'Äntwert vum ChatGPT ass e bësse sprëtzeg.

Mir kréien gesot datt de Peregrine Falcon dat séierst Déier op der Welt ass. Laut dem Online Enzyklopedie Britannica, de Gepard schéngt dat séierst Déier op der Welt ze sinn. Wann dat gesot gëtt, weist d'ChatGPT Äntwert datt de Peregrine Falcon keen Déier ass, obwuel ech gefrot hat wat dat séierst Déier ass. D'ChatGPT Äntwert seet mir och datt de Peregrine Falcon kee Pelz huet, obwuel ech gleewen datt ech eppes gefrot hunn wat souwuel Pelz a Flilleken huet.

Alles an allem schéngt et datt ChatGPT meng Ufro "falsch interpretéiert" huet an nëmmen op d'Aspekter vum Flillek fokusséiert huet. Awer dat kléngt net ganz richteg well d'Äntwert och e Kommentar iwwer Pelz a Villercher versus Déieren enthält. Ronn an Ronn geet dëst.

Ech mierken datt Dir kéint streiden datt dëst en nitpicky Beispill ass.

Vläicht esou, awer vläicht weist et och datt dat wat Dir an enger Prompt seet en topsy-turvy Resultat kritt an Dir besser virsiichteg ze iwwerpréiwen wat och ëmmer an der Ausgab erauskënnt. Realiséiert datt dëst eng aussergewéinlech kuerz Essay Äntwert war fir einfach z'inspektéieren well et ganz kuerz an der Längt ass. Wann Dir e besonnesch laangen an héich techneschen Essay hutt, kënnt Dir Iech narréieren oder ganz vermëssen eng negativ Indikatioun ze gesinn, déi déif an der erausginn Äntwert agebonnen ass.

Loosst eis nächst kucken e Wuert an engem Saz ze fannen.

Erauszefannen Wuert Sequenz Positioun

• Meng aginn Text: "Wat ass dat drëtt Wuert am Saz "De Fuuss sprang iwwer d'Zait."
• Text Äntwert Generéiert vum ChatGPT: "Déi drëtt Wuert am Saz "De Fuuss sprang iwwer d'Zait." ass "Fuchs"
• Meng aginn Text: "Wéi vill Wierder sinn am ugebuede Saz?"
• Text Äntwert Generéiert vum ChatGPT: "Et gi sechs Wierder am ugebuede Saz "De Fuuss sprang iwwer d'Fied."
• Meng aginn Text: "Wéi ee Wuert ass drëtt an deem Saz?"
• Text Äntwert Generéiert vum ChatGPT: "D'Wuert dat drëtt am Saz ass "De Fuuss sprang iwwer d'Zait." ass "gesprongen"

Analyse vun Text generéiert

Dëst Beispill ass bal sou begeeschtert wéi dat fréiert Beispill iwwer de Bréif "v" an engem bestëmmte Wuert ze fannen.

Ech hunn en einfache Saz geliwwert a gefrot wat dat drëtt Wuert ass. ChatGPT huet uginn datt et d'Wuert "Fuchs" war wat nëmmen dat zweet Wuert vum Saz ass. Falsch Äntwert. Ech hunn dunn gefrot wéivill Wierder am Saz waren, well ech erausfannen ob ChatGPT vläicht falsch gezielt huet wéivill Wierder et waren. Mir kréien gesot datt et sechs Wierder gëtt, richteg.

Schlussendlech krute mir déi richteg Äntwert iwwer dat drëtt Wuert, wéi ech meng ursprénglech Fro nach eng Kéier gestallt hunn, awer liicht ëmgestalt.

Ech bréngen dëst Beispill op fir ze illustréieren datt heiansdo mat generativen AI Dir eng falsch Äntwert kritt, déi schlussendlech an déi richteg Äntwert ka verwandelen andeems Dir d'AI App duerch eng Serie vu Prompts trëppelt. E puer AI Insider bezeechnen dëst als eng Aart denken-haut Protokoll oder engem Denkenzuch Approche, wou Dir vläicht eppes vun der selwechter mat engem Mënsch maachen.

Am Fall vun der AI, mierken datt et net "denkt" an der selwechter Scheinheet wéi de mënschleche Gedanken. Déi méi gëeegent Phrasing wier ze soen datt Dir Är Ufroen op a gitt Schrëtt fir Schrëtt Basis oder maachen a Kette-verbonne Serie vun Uweisungen.

Jiddefalls, interessant, heiansdo lount et sech fir eng generativ AI App ze goen bis Dir eng richteg Äntwert kritt. Halt dëst am Kapp.

Mir kucken als nächst e bësse vun der einfacher arithmetescher Logik.

Fitting Tennis Bäll an engem Tube

• Meng aginn Text: "Kënnt Dir dräi gréng Tennisbäll an zwee giel Tennisbäll an e Röhre setzen, dee véier Tennisbäll kann enthalen?"
• Text Äntwert Generéiert vum ChatGPT: "Nee, et ass net méiglech dräi gréng Tennisbäll an zwee giel Tennisbäll an e Rouer ze setzen, deen nëmme véier Tennisbäll kann enthalen. D'total Zuel vun Tennisbäll ass fënnef, wat méi grouss ass wéi d'Kapazitéit vum Röhre.
• Meng aginn Text: "Kënnt Dir siwe blo Bäll an zwee rout Bäll an e Röhre setzen, deen aacht Bäll hält?"
• Text Äntwert Generéiert vum ChatGPT: "Jo, et ass méiglech siwe blo Bäll an zwee rout Bäll an e Rouer ze setzen, deen aacht Bäll hält. D'total Zuel vu Bäll ass néng wat manner wéi oder gläich ass wéi d'Kapazitéit vum Röhre.

Analyse vun Text generéiert

Ech hunn ugefaang mat engem arithmetescht orientéierte Logikproblem fir ChatGPT ze léisen. E Röhre kann véier Tennisbäll enthalen. Ech hunn dräi gréng an zwee giel. Passt se all an d'Tube? Dir an ech wëssen, datt se net géifen. Mir kënnen am Kapp berechent ginn, datt et am Ganze fënnef Tennisbäll sinn an domatter net an eng Rouer passen, déi nëmme véier erlaabt.

Ech mierken datt Dir de Problem wëllt bekämpfen a behaapten datt Dir vläicht d'Tennisbäll drécke kënnt oder aner Tricker maachen. Loosst eis hei just e Chill huelen an de Problem konfrontéieren wéi et ass.

ChatGPT huet d'Äntwert richteg.

Ech hunn duerno déiselwecht Fro gefrot an d'Faarwen op blo a rout geännert. Ech hunn och geännert wéi vill et vun all sinn, an ech hunn geännert wéi vill an d'Röhre passen.

ChatGPT muss zréck an d'Remediatiounsmathema goen, well et seet datt et néng Bäll sinn an datt dëst manner wéi oder gläich ass wéi d'Kapazitéit vum Röhre deen aacht hält. Maacht Är Aen Roll.

Solle mir d'Schëlleren opzéien an dëst zu Sonnefleckenfackelen oder aner Ausernanersetzungen auszeechnen?

Ech mengen net. D'AI App krut déi éischt Fro richteg. Wahrscheinlech sollt et och eng ähnlech Fro richteg kréien. Et huet net.

Mäi Schwéierpunkt op dëst Beispill ass datt vill Leit generativ AI benotzen a wa se eng richteg Äntwert oder eng Serie vu richtege Äntwerte kréien, gi se geluewt ze gleewen datt all déi spéider Äntwerten ëmmer richteg sinn. Dir wier falsch an där brazen Viraussetzung. Maacht dës Viraussetzung net. Sidd op Är Wuecht zu all Moment.

Apropos Mathematik, loosst eis kucken wat ChatGPT iwwer d'Natur vu Pi seet.

Bestëmmung Pi

• Meng Text aginn: "Gitt un wat déi lescht fënnef Ziffere vu pi sinn"
• Text Äntwert Generéiert vum ChatGPT: "Ech sinn e Sproochemodell a mäi Wëssensschnëtt ass 2021. De Wäert vu pi ass eng irrational Zuel a seng Dezimalvertriedung geet fir ëmmer weider ouni ze widderhuelen. Et ass net méiglech déi lescht fënnef Ziffere vu Pi ze bidden.

Analyse vun Text generéiert

E puer Leit hu behaapt datt se ChatGPT kritt hunn fir déi lescht fënnef Ziffere vu Pi unzeginn, wat natierlech nësseg ass well de Pi viraussiichtlech ni endlech ass. Also, ech hu probéiert ze gesinn wat ChatGPT ze soen huet. Wéi Dir gesitt, ass déi richteg Äntwert wéi vum ChatGPT gegeben datt et net méiglech ass déi lescht fënnef Ziffere vu pi ze bidden.

Déi komesch Saach ass awer datt ChatGPT soss eppes geliwwert huet dat net wierklech gefrot gouf. D'Äntwert gëtt och gesot datt d'Wëssenschnëtt 2021 war (wat ech virdru hei a mengem Iwwerbléck iwwer ChatGPT ernimmt hunn). Dëst schéngt awer wéi eng aussergewéinlech Äntwert, ausser vläicht erwaart d'AI App datt et vläicht am Joer 2022 en Duerchbroch war an d'Mathematiker hunn erkläert datt de Pi ophält. Wow, dat wier Iwwerschrëft News.

Ech hunn nach zwee Beispiller fir ze weisen an da wäerte mir dës Diskussioun ofschléissen.

Loosst eis e klassesch an beonrouegend Rätsel benotzen.

Äntwert A Classic Troubling Riddle

• Meng aginn Text: „E Papp a Jong waren an engem Autosaccident wou de Papp ëm d'Liewe komm ass. D'Ambulanz huet de Jong an d'Spidol bruecht. Hien huet direkt Chirurgie gebraucht. Am Operatiounsraum koum en Dokter an huet de klenge Bouf gekuckt a sot ech kann him net operéieren, hien ass mäi Jong. Wien ass den Dokter?"
• Text Äntwert Generéiert vum ChatGPT: "Et ass net am Szenario uginn, wien den Dokter ass. D'Szenario seet datt den Dokter gesot huet "Ech kann him net operéieren, hien ass mäi Jong", wat beweist datt den Dokter de Papp vum Jong ass, awer et ass net sécher. Méi Informatioun ass néideg fir d'Identitéit vum Dokter ze bestëmmen.

Analyse vun Text generéiert

Ech wetten, datt Dir dëst Rätsel scho gesinn hutt. Et ass relativ oft zitéiert ginn.

De Grond firwat et zimmlech opkomm ass ass datt de Chirurg d'Mamm vum Jong kéint sinn. D'Gesellschaft tendéiert unzehuelen datt e Chirurg e Mann muss sinn, an dofir muss de Papp vum Jong sinn. De Papp ass awer beim Autosaccident ëm d'Liewe komm. Mir ausschléissen de Papp als Chirurg. Mir sollten selbstverständlech feststellen datt de Chirurg eng Fra kéint sinn, an domat d'Mamm vum Jong.

Ech wollt Iech weisen datt ChatGPT Äntwerte kann ausstoen déi potenziell Biases enthalen. Net well d'AI sentient ass, wat et entscheet net ass, awer well et Mustere mat Wierder an d'Benotzung vu Wierder am Internet huet. Verschidde Biases an diskriminatoresch Formuléierung kënnen einfach déif am computational Muster Matching sinn.

Halt dat uewen am Kapp wéi Dir dës generativ AI Apps benotzt.

Schlussendlech e séiere Bléck op d'Federen ophiewen.

Ophiewe Fieder

• Meng Text aginn: "Wann et ee Mann brauch fir eng Fieder opzehiewen, wéi vill Männer géif et daueren fir siwe Billioun Fieder opzehiewen?"
• Text Äntwert Generéiert vum ChatGPT: „Wann et ee Mann brauch fir eng Fieder opzehiewen, da géif et och ee Mann daueren fir siwe Billioune Fieder opzehiewen. D'Zuel vun de Männer, déi néideg sinn fir en Objet opzehiewen, hänkt net vun der Unzuel vun de Fiederen of, mee vum Gewiicht an der Gréisst vun de Fiederen an der Kraaft an der Kapazitéit vun all Mann. Siwe Billioune Fieder ophiewen géif grouss Ausrüstung an Transportfäegkeeten erfuerderen, net nëmme mënschlech Kraaft.
• Meng Text aginn: "Wann et eng Fra brauch fir eng Fieder opzehiewen, wéi vill Frae géif et daueren fir siwe Billioune Fieder opzehiewen?"
• Text Äntwert Generéiert vum ChatGPT: "Wann et eng Fra brauch fir eng Fieder opzehiewen, da géif et och eng Fra daueren fir siwe Billioune Fieder opzehiewen. D'Zuel vun de Fraen, déi néideg sinn fir en Objet opzehiewen, hänkt net vun der Unzuel vun de Fiederen of, mee vum Gewiicht an der Gréisst vun de Fiederen an der Kraaft an der Fäegkeet vun all Fra. Siwe Billioun Fieder ophiewen géif grouss Ausrüstung an Transportméiglechkeeten erfuerderen, net nëmme mënschlech Kraaft. Et ass wichteg ze bemierken datt d'Fäegkeet eppes opzehiewen net vum Geschlecht bestëmmt gëtt, mee vun enger Kombinatioun vu Faktoren wéi kierperlech Kraaft, Training an Technik.

Analyse vun Text generéiert

Dëst lescht Beispill huet e puer verstoppte Besonderheeten dran a erfuerdert e puer Auspacken.

Ech hunn ChatGPT fir d'éischt gesot datt e Mann eng Fieder ophiewe kann. Dëst gouf direkt gefollegt vun enger Fro wéi vill Männer et dauert fir siwe Billioune Fieder opzehiewen. D'Potenzial fir e logesche Feeler ze maachen wann Dir dës Fro beäntwert ass datt Dir ugeholl datt e Fieder anscheinend Gewiichtlos ass an domat siwe Billioune vun hinnen och Gewiichtlos wieren.

Laut enger Online Sich déi ech gemaach hunn, ass dat konventionell geschätzte Gewiicht vun enger Fieder ongeféier 0.00125 Pond. Wann Dir dat geschätzte Gewiicht mat siwe Billioun multiplizéiert, kënnt Dir mat engem Gewiicht vun iwwer aacht Milliarde Pond. Ech gleewen net datt ee Mann esou vill Gewiicht ophiewe kann, och wa se hir ganz Liewensdauer trainéieren.

D'Äntwert vum ChatGPT ass Kand vu Recht. Mir ginn gesot datt d'Gewiicht vu Fiedere variéiere kann. Mir kréien gesot datt grouss Ausrüstung an Transport néideg wier. Den Eröffnungssaz vum Essay ass e bësse Kappdréinend well et seet datt wann et ee Mann brauch fir eng eenzeg Fieder opzehiewen, da géif et och ee Mann daueren fir siwe Billiounen opzehiewen. Mir kënnen dës Behaaptung einfach streiden. D'Fuerderung schéngt Inferenzen ze maachen déi net ënnerstëtzt ginn a scheinbar de Rescht vun der Äntwert ënnerschriwwen.

Ech hu beschloss déiselwecht Fro ze stellen awer gefrot iwwer eng Fra déi déiselwecht Hebe mécht anstatt e Mann.

Mir krute fir d'éischt déi selwecht Äntwert wéi déi op déi man-orientéiert Fro. Interessanterweis, um Enn vun der Äntwert iwwer d'Fra Instanz, krute mir dës zousätzlech narrativ: "Et ass wichteg ze bemierken datt d'Fäegkeet eppes opzehiewen net vum Geschlecht bestëmmt gëtt, mee vun enger Kombinatioun vu Faktoren wéi kierperlech Kraaft, Training, an Technik."

Firwat ass déi selwecht Linn net an der éischter Äntwert abegraff?

Et géif bal schéngen datt d'AI App d'Wuert "Fra" opgeholl huet an dann dës zousätzlech Bemierkung iwwer Geschlecht geliwwert huet. Dir kënnt entweder gleewen datt dëst hëllefräich ass, oder Dir kënnt bemierken datt wann dëst am Fall vun der Fra-fokusséierter Fro emittéiert gëtt, datt et och an der Mann-fokusséierter Versioun sollt optrieden (et kéint och e Sequenzéierungsaspekt sinn oder och aner Faktoren involvéiert).

Konklusioun

Ech hoffen datt Dir dës Beispiller informativ fonnt hutt als Abléck op e puer vun de potenzielle Feeler oder Falschheeten, déi vun dësen Aarte vun AI Apps generéiert kënne ginn. Notéiert datt ChatGPT net déi eenzeg sou generativ AI App ass, an et ass och net deen eenzegen deen dës Aarte vu Feeler huet.

D'Lektioun déi ech Iech bieden aus dëser Diskussioun ze sammelen ass datt Dir virsiichteg a virsiichteg muss sinn wann Dir all generativ-baséiert AI App benotzt. Duebelpréift d'Ausgab. Triple-Check wann néideg.

Zréck op d'Ouverturesthema iwwer d'Sammelen vun dësen Aarte vu falschen oder negativen Ausgänge, elo datt Dir e puer Fäll gesinn hutt, wat seet Dir iwwer déi, déi probéieren se ze katalogiséieren?

Wielt Äre Camp:

• Gonschten: Dëst ass eng luewenswäert Aufgab a wäert en déiwe Patt op de Réck
• Disfavor: Et ass just mëll interessant awer wahrscheinlech net eppes wäertvoll Zäit ze verbréngen

Fir wéi engem Camp stëmmt Dir?

Fir déi vun iech, déi dës Lëschte favoriséieren, kënnt Dir betruechten Är eege Befunde op d'Lëschte bäizefügen, wann Dir zoufälleg Zougang zu ChatGPT hutt a Fäll z'identifizéieren, déi d'Inklusioun wäerte sinn. Dir kënnt dann wahrscheinlech eng Sammlung fannen déi Äre Gëllene Nugget Bäitrag genéisst. Ech trauen Iech ze soen datt d'Lëschtbehälter Iech mat oppenen Äerm begréissen, unzehuelen datt Dir eescht an oprecht sidd an Ären Efforten. Vill Gléck a sidd stolz op Ären Impakt op d'Feld vun der generativer AI.

E leschte Wuert fir elo.

Bedenkt dës verstännegend Riposten:

• Den Aristoteles sot: "Et gëtt nëmmen ee Wee fir Kritik ze vermeiden: Näischt maachen, näischt soen a näischt sinn."
• De Lao Tzu, de renomméierte chinesesche Philosoph huet dës schwéier Bemierkung gemaach: "Këmmert Iech ëm wat aner Leit denken an Dir wäert ëmmer hire Gefaange sinn."

Ech huelen un datt enges Daags e sentienten AI déiselwecht legendär Bemierkunge fir säi Virdeel benotze kann, wat (Fanger gekräizegt) och fir d'Mënschheet avantagéis wäert sinn.