Što je tehnološka singularnost

2024 Autor: Malcolm Clapton | [email protected]. Zadnja promjena: 2023-12-17 03:58

Budućnost je bliža nego što se čini.

Što je tehnološka singularnost

Tehnološka singularnost je teorijski trenutak kada osoba gubi kontrolu nad tehnološkim napretkom, a to postaje nepovratno. Jednostavno rečeno, u bliskoj budućnosti tehnologije bi se mogle toliko razviti da će čovječanstvo jednostavno prestati pratiti ih i razumjeti ih.

Najčešće se razmatra stvaranje umjetne superinteligencije kao način za postizanje singularnosti, ali to nije jedini mogući način. Primjerice, u bliskoj budućnosti vjerojatno će se pojaviti strojevi (računala, roboti) koji će sve moći raditi bolje od ljudi i zbog toga će se dogoditi oštar, lavinski tehnološki skok.

Međutim, najčešće je takva nagađanja izgradio Tegmark M. Life 3.0. Biti čovjek u doba umjetne inteligencije. - M., 2019. ne o znanstvenim prognozama, već o mitovima u području umjetne inteligencije.

Nadalje, kako vjeruju pristaše koncepta tehnološke singularnosti, takve će se "intelektualne eksplozije" događati sve češće. To može dovesti do radikalnih promjena u društvu koje ne možemo ni predvidjeti ni kontrolirati.

Upravo posljedice singularnosti izazivaju mnoge strahove i služe kao osnova za rasprave o budućnosti čovječanstva. Te se posljedice procjenjuju na različite načine. Raymond Kurzweil, futurist za prepoznavanje govora i ključna osoba u Googleu, vjeruje da je napredak u tehnologiji odlična prilika da ljudi postanu bolji ljudi. Manje optimistični u svojim procjenama su Elon Musk, Bill Gates i pokojni Stephen Hawking. Po njihovom mišljenju, napredak može dovesti do uništenja čovječanstva.

Koji su preduvjeti za tehnološku singularnost

Zabrinutost o posljedicama tehnološkog napretka nije se pojavila niotkuda. Mnogi procesi u suvremenom društvu i znanosti potiču na takva razmišljanja.

Ubrzanje tehničkog i tehnološkog napretka

Digitalno doba započelo je izumom tranzistora 1947. godine i traje do danas. Davne 1965., jedan od osnivača Intela, spremajući se govoriti, otkrio je zanimljiv obrazac: svake dvije godine broj tranzistora u mikro krugovima se udvostručuje.

Od tada se malo toga promijenilo: računalstvo pokazuje konstantan eksponencijalni rast. Što tehnologija dalje napreduje, krivulja koja ilustrira tehnološki napredak postaje strmija. U roku od nekoliko desetljeća, njegov tempo može ići u beskonačnost.

Prema Harvey C. Big Data Challenges. Datamation by Datamation, još 2017. digitalni podaci premašili su našu sposobnost upravljanja njima. Štoviše, udvostručuje se svake dvije godine.

Jedan od sljedećih koraka u razvoju tehnologije, vjerojatno, može biti izum AGI (umjetna opća inteligencija). Ovaj pojam se odnosi na AI koji uči komunicirati, razmišljati i ponašati se kao čovjek ili još bolje. Odnosno, AGI, u teoriji, može zamijeniti ljude u svemu.

Razvoj umjetne inteligencije

Računala zasad ne mogu apsolutno sve bolje od nas, iako su u rješavanju mnogih problema već puno pametnija od čovjeka (ili barem brža od njega).

Čak i prije 4-5 godina, prognoza singularnosti Raya Kurzweila dogodit će se do 2045. Futurizam Raymonda Kurzweila da će do 2045. umjetna inteligencija u svemu nadmašiti ljudsku inteligenciju smatran je vrlo hrabrim (unatoč činjenici da je od 90-ih njegovih 86% smatralo ostvariti).

Danas se razdoblje između 2025. i 2035., ili čak i ranije, već naziva hipotetičkim datumom za pojavu AGI.

Pandaya J. Zabrinjavajuća putanja tehnološke singularnosti može odigrati posebnu ulogu u tome. Forbes će igrati izgradnju neuromorfnih čipova - procesora za neuronske mreže koji repliciraju način na koji naš mozak obrađuje informacije. Dosadašnja istraživanja u ovom području još su daleko od dobivanja stvarno funkcionalnog modela, ali već postoje nedvojbeni uspjesi. Evo što AI danas može učiniti:

• naučiti;
• pobijediti ljude u strateškim igrama (program AlphaGo 2015., u samo 9 sati treninga, stekao je DeepMind i Google: bitka za kontrolu umjetne inteligencije. The Economist sposobnost igranja šaha bolje od čovjeka);
• Pomozite egzoskeletu kontroliranom mozgom koji paraliziranom pacijentu omogućuje hodanje. Ljudi s znanstvenicima s ozljedama leđne moždine ponovno se dižu na noge;
• prepoznati lica;
• voziti auto;
• slikati Je li umjetna inteligencija sljedeći medij umjetnosti? CHRISTIE'S i srodni tekstovi;
• stvoriti sustav umjetne inteligencije stvoren u UNC-u - Chapel Hill dizajnira lijekove od nule. UNC - CHAPEL HILL lijekovi;
• vodeća kineska državna novinska agencija Xinhua debitirala je kao 'AI voditelja' za čitanje vijesti. Mashable vijesti i još mnogo toga.

Godine 2014. Google je kupio DeepMind i Google: bitku za kontrolu umjetne inteligencije za 600 milijuna dolara. The Economist by AlphaGo je britanska tvrtka DeepMind čiji je cilj bio izumiti AGI. Ideje Britanaca pomogle su Googleu stvoriti učinkovite algoritme za dijagnozu očnih bolesti i rano otkrivanje Parkinsonove i Alzheimerove bolesti.

Najvjerojatnije, vrijedi čekati pojavu AGI u doglednoj budućnosti. Međutim, početak tehnološke singularnosti nije izravno povezan s tim.

Pojava neuronskih sučelja

Već sada možemo govoriti o Internetu kao obliku "globalnog mozga" - fenomenu zahvaljujući kojem ljudi iz cijelog svijeta mogu gotovo kontinuirano komunicirati jedni s drugima putem tehničkog posrednika.

Postoje uređaji koji su bliži gadgetima iz znanstvenofantastičnih filmova. Već preko 300 tisuća ljudi koristi Koliko smo blizu sučelju mozga i računala Elona Muska? CNN Health kohlearni implantati (slušne proteze koje djeluju izravno na slušni živac) i uzorci bioničkih očiju testiraju se na ljudima. Iako ti uređaji još uvijek ne mogu u potpunosti vratiti vid ili sluh, kvaliteta njihovog rada se poboljšava.

Također su Elon Musk i Brian Johnson objavili Koliko smo blizu sučelju mozga i računala Elona Muska? CNN Health o stvaranju startupa za razvoj sučelja čovjek-računalo (Neuralink i Kernel). Naravno, prerano je govoriti da ćemo uskoro pametnim telefonom moći upravljati snagom misli: svi su takvi uređaji još uvijek presporo i nesavršeni. Ipak, svi su razlozi vjerovati da je uspjeh u ovoj industriji samo iza ugla.

Koji su razlozi tehničkog napretka?

AI i roboti će preuzeti složen intelektualni i fizički posao

Razvoj umjetne inteligencije i robotike u konačnici može dovesti do činjenice da će strojevi naučiti raditi sve bez ili uz minimalnu ljudsku intervenciju. U tom slučaju napredak će se nastaviti ubrzavati, sve više i više poboljšavajući život i život ljudi.

Ljudi već koriste računala za znanstveno istraživanje i poboljšanje tehnologije. Zahvaljujući tome (na primjer, genetsko istraživanje ili razvoj uređaja koji poboljšavaju sposobnosti ljudskog mozga), sami ljudi postaju pametniji, a strojevi - brži. Tako se ubrzava razvoj ne samo računala, već i čovjeka.

Ljudi će u sebi otkriti nove sposobnosti

Spajanje osobe s tehnologijom događa se ne samo na fizičkoj (korištenje proteza, modifikacije), već i na informacijskoj razini (korištenje gadgeta). Pametni telefon s mobilnim internetom u džepu prvi je korak ka tome da postanete kiborg.

Postoji čak i pokret transhumanizma. Britannica, zagovornik aktivnog poboljšanja ljudskog tijela kroz tehnološki napredak. Transhumanisti vjeruju da je modifikacija tijela jedini način da idemo ukorak s vremenom, a ne stavimo sudbinu čovječanstva na raspolaganje strojevima.

Međutim, do sada je pojava ljudskih biorobota još uvijek u domeni fantazije.

Nove tehnologije otvaraju put potencijalnoj besmrtnosti

Čini se da je uklanjanje ograničenja DNK puno elegantnije rješenje u ovom području. Genetic and Bioengineering Pandaya J. Zabrinjavajuća putanja tehnološke singularnosti. Forbes, kao i nootropici, mogu učiniti ljude pametnijima. Uz pomoć umjetno uzgojenih organa ili nanomstrojeva ljudi se mogu riješiti starenja i postići besmrtnost.

Pitanje je samo koliko brzo će osoba naučiti (i naučit će) koristiti te mogućnosti, hoće li ih društvo i vlada odobravati. Proći će godine da se genetski modificirani ljudi rode i obrazuju, čak i ako se ignoriraju društveni čimbenici koji usporavaju usvajanje takve tehnologije. Drugi oblici superinteligencije (AI) mogu se pojaviti mnogo brže.

Što kažu protivnici nekontroliranog razvoja tehnologije

Umjetna inteligencija može uništiti čovječanstvo

Razvoj AGI-a vjerojatno će nadmašiti razvoj ljudskog mozga i tehnologije koja će nas osnažiti. Umjetna inteligencija sposobna je nadmašiti ljudsku i u pesimističkom scenariju lako može izmaknuti kontroli.

Doktor sa Sveučilišta Oxford Nick Bostrom smatra Bostroma N. Superinteligence: Paths, Dangers, Strategies. - Oxford University Press, 2014. da postoji razlog za zabrinutost. Prema njegovom mišljenju, koliko god intelekt bio razvijen, to ne utječe na to hoće li postupci njegovog vlasnika biti zli ili dobri. Stoga, koliko god AI bio pametan, nismo imuni na činjenicu da će učiniti nešto loše.

Važan Tegmark M. Život 3.0. Biti čovjek u doba umjetne inteligencije. - M., 2019., kako bi AGI mogao razumjeti, prihvatiti ciljeve čovječanstva i pridržavati ih se. Ako sebi postavi druge prioritete, poput samoodržanja, hvatanja resursa ili zadovoljavanja znatiželje, tada će nastati sukobi u odnosu ljudi i strojeva.

Modernizacija ljudskog tijela može dovesti do daljnjeg raslojavanja društva

Modifikacija ljudskog tijela ne može samo stvoriti "Human 2.0", već i pogoršati društvene sukobe. Oni koji imaju pristup takvim tehnologijama očito će imati superiornost nad onima koji nemaju te mogućnosti.

Pojavljuju se značajna etička i pravna pitanja: je li moguće jednoj osobi dati intelektualnu i/ili fizičku prednost u odnosu na drugu i kako zaštititi “biomehaničke ljude” od hakera.

Jednom u pogrešnim rukama, tehnologija može biti smrtonosno oružje

Ne zaboravite da je osoba sama po sebi velika opasnost. Vojska već koristi dronove i programabilne strojeve kao oružje, a društvene mreže preplavljene su lopovima. Vrlo je vjerojatno da će ljudi početi zlorabiti i nove tehnologije.

Ali čak i prije toga jednostavno riskiramo da ne preživimo, budući da je i postojeće oružje opasno. Max Tegmark, astrofizičar i profesor na Massachusetts Institute of Technology, izračunao je Tegmark M. Life 3.0 koristeći formule statističke vjerojatnosti. Biti čovjek u doba umjetne inteligencije. - M., 2019. opasnost od svjetskog nuklearnog rata koji vodi do međusobnog uništenja. Zaključio je da ako je vjerojatnost 0,001 u jednoj godini, tada će u intervalu od 10 000 godina doći do nuklearnog kolapsa s vjerojatnošću od 99,95%. Čak i dobro uspostavljen sustav zadržavanja dobro istraženog oružja može propasti. I postavlja se pitanje: možemo li kontrolirati složenije tehnologije kako ne bi došle u pogrešne ruke?

Kakva nas budućnost može čekati

Istodobno, Max Tegmark kritički ocjenjuje Tegmark M. Life 3.0. Biti čovjek u doba umjetne inteligencije. - M., 2019. vjerojatnost pesimističkog scenarija. Smatra da su mogućnosti samousavršavanja ograničene fizičkim zakonima. Prava singularnost, kao beskonačno ubrzani napredak, prema Tegmarku, nemoguća je, iako se taj proces može približiti beskonačnosti.

Stoga profesor tvrdi da će skok tehnologije biti praćen brzim postizanjem cjelokupne ili gotovo cjelokupne cjelovitosti znanja o svijetu, a ne njihovim beskrajnim gomilanjem.

Prema drugom stajalištu, ništa, uključujući i napredak, ne može se ubrzavati u nedogled – prije ili kasnije će se usporiti.

Međutim, pouzdano možemo reći da čovječanstvo još nije prešlo točku usporavanja.

Ne dijele svi znanstvenici općenito teoriju tehnološke singularnosti. Neki ljudi primjećuju da do sada u prirodi nisu otkriveni fenomeni koji se razvijaju beskonačno i beskonačno brzo. Istodobno, istraživači skreću pozornost na činjenicu da se znatan broj prognoza u ovom području ne temelji na objektivnim podacima, već na željama samih prediktora.

Tako, na primjer, AI može ostati isključivo utilitaran i ne obdaren osobnošću. Algoritmi istog DeepMinda još ne mogu DeepMind i Google: bitka za kontrolu umjetne inteligencije. Economist pronalazi rješenje ako nešto krene po zlu i unaprijed definirani uvjeti se promijene.

Zasad nas AI prestiže samo na račun računalne snage. Ali ono što ljudi mogu svladati u nekoliko minuta, program troši tisuće sati, u usporedbi s ljudskim iskustvom.

Na primjer, da bi AlphaGo naučio igrati Space Invaders, mora napraviti tisuće pokušaja. U konačnici, program će, naravno, igrati bolje od osobe, ali će svladati proces mnogo brže.

Stoga se niti jedna od prognoza ne može smatrati 100% vjerojatnom. Ali to nije razlog da se potpuno odustane od ideje tehnološke singularnosti.

U velikoj mjeri, provedba određenih scenarija sudbine čovječanstva ovisit će o smjeru tehnološkog razvoja, u čijim će rukama biti i kako će se regulirati. Također, veliku će ulogu igrati koliko će tehnologija postati sofisticirana. Ne zaboravite na društvene, geopolitičke i ekonomske čimbenike koji mogu utjecati na napredak. Također je teško govoriti o točnim datumima nastanka tehnološke singularnosti.

Hoće li osoba nastaviti postojati ako nije potrebna za mnoge vrste aktivnosti (na primjer, znanost)? Hoće li osoba promijenjena DNK-intervencijama ili neurosučeljima ostati osoba? Na ova pitanja nemamo odgovore. Možda se osoba već nepovratno promijenila pojavom računala i digitalnih tehnologija.

Ali jedno je apsolutno sigurno: evolucijski proces je prirodan i nezaustavljiv. Ne možemo ga usporiti. Na kraju, možda će nas strojevi naučiti da se ne ubijamo i ne ponižavamo jedni druge i da im trebamo vjerovati?

Stoga, kako savjetuje Tegmark M. Život 3.0. Biti čovjek u doba umjetne inteligencije. - M., 2019 Max Tegmark, ne razmišljaj o budućnosti koja te plaši, već o onoj koju bi volio.