Ko Elon Musk, soustanovitelj Appla Steve Wozniak in več kot 500 tehnoloških strokovnjakov podpišejo odprto pismo, v katerem pozivajo k takojšnji prekinitvi razvoja umetne inteligence (A.I.), veste, da je težava resnejša od primera gledanja preveč znanstvene fantastike. filmi. Medtem ko A.I. prevzem sveta je pogosto zavrnjen kot neverjeten dogodek, ki se zgodi le v fikciji, strahovi, izraženi v pismu, so bili skoraj na meji takega dogodka. Morda ni nujno tako dramatično kot prevzem Ultrona ali Skyneta, vendar obstajajo resnični pomisleki, da neomejeni AI. razvoj lahko povzroči A.I. postopoma nadomešča ljudi .
nanny of the maroons citati
Zdelo se je, da je še posebej spodbudilo pisanje in podpis pisma nedavni razvoj in zgodnja izdaja večmodalnega velikega jezikovnega modela OpenAI (MLLM), GPT-4. MLLM je A.I. orodje, ki lahko interpretira več načinov vnosa, kot so besedilo, slike, videi in zvok. Poleg tega lahko izvaja obdelavo naravnega jezika (NLP), kar pomeni, da lahko razume in ustvarja jezik na podoben način kot človek. GPT-4 je na voljo v omejeni obliki, imenovani ChatGPT Plus, ki je že sprožil različne polemike .
Polemike segajo od pomislekov glede študentov, ki uporabljajo ChatGPT za goljufanje, do odkrivanja pristranskosti v ChatGPT do škode, ki izhaja iz zagotavljanja napačnih odgovorov ChatGPT, do možnosti, da ChatGPT začne nadomeščati ljudi v določenih poklicih. Zdaj, ko OpenAI že napreduje z razvojem nadgradnje GPT-5, tehnični strokovnjaki oglašajo alarm.
Tehnični strokovnjaki (in Elon Musk) podpišejo odprto pismo, da ustavijo in ocenijo A.I. razvoj
Odprto pismo je objavil Inštitut Future of Life , neprofitna organizacija, namenjena zagotavljanju zaščite pred globalnimi katastrofami, vključno s hipotetično grožnjo AI. Pismo je od pisanja tega članka zbralo 1324 podpisov, vključno s stotinami tehničnih strokovnjakov in celo soustanovitelja OpenAI-ja, Muska. Poudarilo je dejstvo, da je A.I. razvoj postaja vse bolj nereguliran, z izdajo GPT-4 pa se ustvarja nevaren AI. dirka. Pismo je postavilo nekaj retoričnih vprašanj, ki so poudarila morebitne nevarnosti AI. Piše:
Sodobni sistemi umetne inteligence zdaj postajajo konkurenčni človeku pri splošnih nalogah, zato se moramo vprašati: Moral bi pustimo, da stroji preplavijo naše informacijske kanale s propagando in neresnico? Moral bi avtomatiziramo vsa opravila, vključno s tistimi, ki izpolnjujejo zahteve? Moral bi razvijemo nečloveške ume, ki bi nas lahko sčasoma številčno presegli, prelisičili, zastareli in nadomestili? Moral bi tvegamo izgubo nadzora nad našo civilizacijo?
V nadaljevanju je bilo poudarjeno, da je razvoj močnejšega AI. sistemi se ne bi smeli premakniti naprej, dokler ni gotovosti, da bodo koristni in da bodo »njihova tveganja obvladljiva«. Da bi zagotovili to, je pismo predlagalo šestmesečno prekinitev razvoja A.I. ki je naprednejši od GPT-4. Med premorom je pismo priporočilo izvajanje varnostnih protokolov, regulativnih organov, strožji revizijski postopek in ugotavljanje odgovornosti za škodo, ki jo je povzročil A.I.
držite svoje sovražnike bližje puščico
Pismo je zajelo prepričanja bolj gorečih skeptikov glede A.I. Nekateri podpisniki menijo, da je že GPT-4 zelo nevaren in kaže znake umetne splošne inteligence, to je zmožnosti učenja in interpretacije sveta na način, ki je enak človeškim sposobnostim. Manj previdni skeptiki pa ovrgel to idejo in izjavil, da GPT-4 niti približno ni enaka človeškemu umu. Medtem ko mnogi kritiki A.I. strinjajo o potrebi po regulaciji in priznavanju morebitnih tveganj, nekateri menijo, da so ideje, predstavljene v pismu, pretirane.
kako delujejo Muppetke iz Sesame Street
Konec koncev se številni tehnološki strokovnjaki strinjajo, da so nevarnosti A.I. so tako pomembni, da zahteva takojšen premor v razvoju in reformah v industriji. Videti je treba, ali je A.I. laboratoriji in neodvisni A.I. strokovnjaki pozivu prisluhnejo ali pa, kot je predlagalo pismo, vlada sploh posreduje in sproži premor.
(predstavljena slika: Warner Bros.)
