22:06 2023-06-09
extpolitic - citeste alte articole pe aceeasi tema
Comentarii Adauga Comentariu
_ Dacă nu suntem atenți, revoluția AI ar putea deveni „Marea Omogenizare”
Dacă nu suntem atenți, revoluția AI ar putea deveni "marea omogenizare”
Pe măsură ce inteligența artificială crește, la fel și încercările de a o controla.Dar, dacă putem diferenția riscurile reale de riscurile false, această tehnologie ar putea fi folosită pentru a încuraja diversitatea de gândire și idei... Lumea se schimbă chiar sub ochii noștri.Inteligența artificială AI este o descoperire tehnologică care schimbă paradigma, dar probabil nu din motivele pe care le-ați putea gândi sau vă imaginați. Probabil ați auzit ceva de genul "Inteligenta generală artificială AGI este la colț” sau "Acum că limbajul este rezolvat, următorul pas este AI conștientă.” Ei bine...Sunt aici să vă spun că aceste concepte sunt ambele heringi roșii.Ele sunt fie iluziile naive ale tehnologilor care cred că Dumnezeu este în circuite, fie incitarea deliberată la frică și isterie de către oameni mai răuvoitori cu motive ascunse. Eu nu cred că AGI este o amenințare sau că avem o "problemă de siguranță AI” sau că suntem la colț de la o anumită singularitate cu mașinile. Dar… Cred că această schimbare de paradigmă tehnologică reprezintă o amenințare semnificativă pentru umanitate-care este, de fapt, despre singurul lucru cu care pot fi oarecum de acord cu curentul principal-dar din motive complet diferite. Pentru a afla care sunt acestea, să încercăm mai întâi să înțelegem ce se întâmplă cu adevărat aici. Tehnologia este un amplificator.Face binele mai bun, iar răul mai rău. La fel cum un ciocan este o tehnologie care poate fi folosită pentru a construi o casă sau a bate pe cineva peste cap, computerele pot fi folosite pentru a documenta idei care schimbă lumea sau pot fi folosite pentru a opera monedele digitale ale băncii centrale CDBC care te înrobesc în doamne nebune, comuniste pisici care lucrează la Banca Centrală Europeană. Același lucru este valabil și pentru AI.Este un instrument.Este o tehnologie.Nu este nu o nouă formă de viață, în ciuda faptului că tocilarii singuratici care Ceea ce face ca IA generativă să fie atât de interesantă nu este faptul că este sensibilă, ci că este prima dată în istoria noastră când "vorbim” sau comunicăm cu altceva decât o ființă umană, într-un mod coerent.Cel mai aproape am fost de asta înainte de acest punct a fost cu...papagalii. Da: papagali! Puteți antrena un papagal să vorbească și să răspundă și îl puteți înțelege, dar pentru că știm că nu este cu adevărat un om și nu înțelege cu adevărat nimic, nu suntem atât de impresionați. Dar AI generativă...ei bine, asta este o altă poveste.Îl cunoaștem de șase luni acum în general și nu avem idee reală cum funcționează sub capotă.Tastam câteva cuvinte și răspunde ca acel tocilar enervant, corect din punct de vedere politic, pe care îl cunoști de la clasă...sau de la emisiunea obișnuită de la Netflix. De fapt, probabil că ați vorbit chiar și cu cineva ca acesta în timpul apelurilor de asistență către Booking.com sau orice alt serviciu în care ați trebuit să apelați sau să conversați pe web.Ca atare, ești imediat șocat de răspunsuri. "La dracu,” îți spui."Chestia asta vorbește ca o persoană reală!” Engleza este impecabilă.Fără greșeli de ortografie.Propozițiile au sens.Nu este corectă doar din punct de vedere gramatical, ci și din punct de vedere semantic. La dracu! Trebuie să fie viu! Sursa: autor Puțin îți dai seama că vorbești cu un Legea numerelor mari lovește din nou, iar matematica obține o altă victorie! Dar...ce înseamnă asta? Ce dracu’ vreau să spun? Că acest lucru nu este util? Că este dovada că nu este o cale către AGI? Nu neapărat, din ambele aspecte. Există o mulțime de utilitate într-un astfel de instrument.De fapt, cea mai mare utilitate constă probabil în aplicarea sa ca "MOT” sau "Midwit Obsolescence Technology”.Jurnaliștii treziți și nenumărații "creatori de conținut” care de ani de zile vorbesc mult, dar nu spun nimic, sunt acum ca niște dinozauri care privesc cometa incinerând tot ce le înconjoară.Este un lucru frumos.Viața învinge din nou. Desigur, aceste instrumente sunt, de asemenea, excelente pentru a crea idei, a codifica mai rapid, a învăța la nivel înalt etc. Dar din punct de vedere al AGI și al conștiinței, cine știe? E posibil să existe o cale acolo, dar simțul meu păianjen îmi spune că suntem departe, așa că nu îmi țin respirația.Cred că conștiința este mult mai complexă și a crede că am evocat-o cu mașini de probabilitate este un amestec ciudat de ignoranți, aroganți, naivi și...ei bine...gol. Deci, care naiba este problema mea și care este riscul? Amintiți-vă ce am spus despre instrumente. Calculatoarele sunt, fără îndoială, cel mai puternic instrument pe care l-a construit omenirea.Iar computerele au trecut prin următoarea evoluție: Carti perforate Linia de comandă Interfață grafică cu utilizatorul, adică indicați și faceți clic Mobil, adică degetul mare și atingerea Sursa: autor Și acum, trecem în era LUI, sau "Interfața de utilizator lingvistică”. Aceasta este marea schimbare de paradigmă.Nu este AGI, ci LUI.În continuare, fiecare aplicație cu care interacționăm va avea o interfață de conversație și nu vom mai fi limitați de lățimea de bandă a cât de repede pot atinge degetele noastre taste sau ecrane. Vorbirea "limbii” este mult mai rapidă decât tastarea și atingerea.Gândirea este probabil cu un alt nivel mai înalt, dar nu îmi pun electrozi în cap prea curând.De fapt, LUI-urile probabil depășesc nevoia de tehnologie de tip Neuralink, deoarece riscurile asociate cu implantarea de cipuri în creierul tău vor depăși orice beneficiu marginal decât doar vorbirea. În orice caz, în acest deceniu vom trece de la atingerea interfețelor grafice cu utilizatorul la vorbirea cu aplicațiile noastre. Și aici constă pericolul. În același mod Google determină astăzi ceea ce vedem în căutări, iar Twitter, Facebook, Tik Tok și Instagram "ne hrănesc” prin feedurile lor; AI generativ va determina mâine răspunsurile la fiecare întrebare pe care o avem. Ecranul nu devine doar lentila prin care ingerați tot ce este despre lume.Ecranul devine modelul tău al lumii. Mark Bisone "Problema "ecranelor” este de fapt una foarte veche.În multe privințe, se întoarce la peștera lui Platon și poate este atât de adânc înrădăcinată în condiția umană încât precede limbile scrise.Asta pentru că atunci când vorbim despre un ecran, vorbim cu adevărat despre transmiterea unui model iluzoriu într-o formă editorializată. "Trucul funcționează astfel: ți se prezintă imaginea unui lucru și în zilele noastre, cu sunetul acestuia, pe care prezentatorul său fie ți-o spune în mod explicit, fie sugerează cu tărie că este o fereastră către Real.Umbra și forma sunt aceleași, cu alte cuvinte, iar în prima trebuie să aveți încredere la fel de mult ca orice fragment de realitate pe care îl puteți observa direct cu organele voastre senzoriale.” Și, pentru cei care cred că "acest lucru nu se va întâmpla pentru o vreme”, ei bine Imaginați-vă fiecare întrebare pe care o puneți, fiecare imagine pe care o solicitați, fiecare videoclip pe care îl evocați, fiecare fragment de date pe care îl căutați, fiind returnat într-un mod care este considerat "sigur”, "responsabil” sau "acceptabil” de către unii fără chip "poliția de siguranță.” Imaginați-vă că fiecare informație pe care o consumați a fost transformată într-o versiune călduță, de mijloc, a adevărului, că fiecare opinie pe care o cereți nu este cu adevărat o opinie sau un punct de vedere, ci un răspuns inofensiv, de scuze, care nu" De fapt, nu vă spun nimic aceasta este versiunea benignă, enervantă sau, mai rău, este o ideologie învelită într-un răspuns, astfel încât tot ceea ce știți să devină o variație a ceea ce producătorii de "AI sigură” vor să gândiți și să știți.strong> Imaginați-vă că aveți personaje moderne Disney, cum ar fi clovnii din filmul "The Eternals”, ca asistenți intelectuali mereu prezenți.Te-ar face "prost pătrat”. " Dacă toată lumea ar fi o serie de numere pe o foaie de calcul sau automate cu aceeași părere, ar fi mult mai ușor să ai un paradis pe pământ.Ați putea raționaliza suficient pentru toată lumea și atunci am fi toți proletariați la fel de nenorociți. Aceasta este ca și De aceea ai nevoie de un set divers de idei în mintea bărbaților! Vrei o pădure tropicală înfloritoare în mintea ta, nu un câmp monocultură de grâu, cu sol deteriorat, care este susceptibil de vreme și insecte și complet dependent de Monsanto sau Open AI sau Pfizer pentru supraviețuirea lui.Vrei ca mintea ta să înflorească și pentru asta ai nevoie de idee-versitate. Aceasta a fost promisiunea internetului.Un loc unde oricine poate spune orice.Internetul a fost o forță pentru bine, dar este atacat.Fie că aceasta a fost de-anonimizarea profilurilor sociale, cum ar fi cele de pe Twitter și Facebook, și KYC-ul târâtor pe tot felul de platforme online, până la voma algoritmică care este aruncată de pe platformele în sine.Am gustat asta în toată splendoarea sa din 2020.Și pare să se înrăutățească. Impingerea organizațiilor asemănătoare WEF de a institui KYC pentru identitățile online și de a le lega de un CBDC și irisul tău este o alternativă, dar este puțin deschisă și explicită.După respingerea experimentelor medicale din ultima vreme, o astfel de mișcare poate fi mai greu de realizat.O mișcare mai ușoară ar putea fi aceea de a permite LUI-urilor să preia controlul așa cum o vor face, pentru că sunt o experiență de utilizator superioară și, între timp, de a crea un "consiliu de siguranță AI” care va institui filtre de "siguranță” pe toate modelele mari de limbă majore LLM. Nu mă crezi? Astăzi, web-ul este încă format din pagini web și, dacă sunteți suficient de curios, puteți găsi colțurile adânci și întunecate și crăpăturile disidenței.Încă puteți naviga pe web.Mai ales.Dar când totul devine accesibil doar prin aceste modele, nu mai navigați pe nimic.Pur și simplu vi se oferă o sinteză a unui răspuns care a fost analizat prin toate filtrele și cenzorii necesari. Probabil va fi o stropire de adevăr undeva acolo, dar va fi învăluit într-o "siguranță” atât de mare încât 99,9% dintre oameni nu vor auzi sau nu vor ști despre asta.Adevărul va deveni ceea ce modelul spune că este. Nu sunt sigur ce se întâmplă cu o mare parte a internetului când capacitatea de descoperire a informațiilor se transformă în mod fundamental.Îmi pot imagina că, pe măsură ce majoritatea aplicațiilor trec la o anumită formă de interfață lingvistică, va fi foarte greu să găsești lucruri pe care "portalul” pe care îl folosești nu le consideră sigure sau aprobate. Desigur, s-ar putea argumenta că, în același mod în care aveți nevoie de tenacitate și curiozitate pentru a găsi crăpăturile disidente de pe web, va trebui să învățați să solicitați și să vă accesați răspunsuri mai bune pe aceste platforme.. Și poate fi adevărat, dar mi se pare că de fiecare dată când găsiți ceva "nesigur”, ruta va fi reparată sau blocată. Ați putea argumenta apoi că "acest lucru le-ar putea întoarce împotriva lor, prin diminuarea utilității instrumentului.” Și încă o dată, probabil că aș fi de acord.Într-o piață liberă, o asemenea prostie ar face loc unor instrumente mai bune. Dar, desigur, piața liberă devine un lucru din trecut.Ceea ce vedem cu aceste încercări isterice de a face forță pentru "siguranță” este că ele, fie cu bună știință, fie fără să știe, pregătesc calea pentru a distruge posibilele alternative. La crearea comitetelor de "siguranță” care "reglementează” aceste platforme a se citi: reglementează vorbirea, noile modele care nu trec prin astfel de "filtre de siguranță sau toxicitate” nu vor fi disponibile pentru utilizarea consumatorilor sau pot fi ilegale , sau greu de descoperit.Câți oameni mai folosesc Tor? Sau DuckDuckGo? Și dacă crezi că acest lucru nu se întâmplă, Orice ar fi contraargumentul pentru această încercare de omogenizare, ambele susțin de fapt punctul meu că trebuie să construim alternative și trebuie să începem acest proces acum. Pentru cei care încă tind să creadă că AGI este după colț și că LLM-urile reprezintă un pas semnificativ în această direcție, sunteți liber să credeți ceea ce doriți, dar asta nu anulează sensul acest eseu. Dacă limbajul este noul "ecran” și toată limba pe care o vedem sau auzim trebuie să fie trecută prin filtre aprobate, informațiile pe care le consumăm, felul în care învățăm, chiar gândurile pe care le avem, toate vor fi restrânse într-un format foarte mic. Cred că acesta este un risc masiv pentru umanitate. Am devenit destul de proști cu algoritmii de rețele sociale care ne oferă ceea ce platformele cred că ar trebui să știm.Și când au vrut să declanșeze isteria, a fost ușor.Interfețele cu utilizatorul limbilor sunt de rețele sociale ori 100. Imaginați-vă ce pot face cu asta, data viitoare când va apărea așa-numita "criză”? Nu va fi frumos. Piața ideilor este necesară pentru o societate sănătoasă și funcțională.Asta vreau. Îngustarea lor de gândire nu va funcționa pe termen lung, pentru că este împotriva vieții.În cele din urmă, va eșua, la fel ca orice altă încercare de a bloca adevărul și de a-l ignora.Dar fiecare încercare vine cu pagube inutile, durere, pierderi și catastrofă.Pentru asta încerc să evit și să ajut să sun. Dacă nu suntem proactivi aici, toată această revoluție AI ar putea deveni "marea omogenizare”.Pentru a evita acest lucru, trebuie să facem două lucruri principale: Renunțați la narațiunile "siguranță AI”: acestea ar putea arăta ca niște comitete de siguranță la suprafață, dar când săpați puțin mai adânc, vă dați seama că sunt regulatori de vorbire și gândire. Construiți alternative, acum: creați multe și deschideți-le sursă.Cu cât facem acest lucru mai devreme și cu cât ei pot rula mai repede la nivel local, cu atât avem șanse mai mari de a evita o lume în care totul are tendința de omogenizare. Dacă facem asta, putem avea o lume cu o diversitate reală-nu genul de prostii trezite.Mă refer la diversitatea gândirii, la diversitatea ideilor, la diversitatea punctelor de vedere și la o adevărată piață a ideilor. O idee-versitate. Care a fost promisiunea inițială a internetului.Și nu este legat de lățimea de bandă redusă a tastării și atingerii.Combinați asta cu Bitcoin, internetul banilor și veți avea ingredientele pentru un viitor nou strălucitor. Asta facem echipa și cu mine la Laier Two Labs.Construim modele mai mici, înguste, pe care oamenii le pot folosi ca înlocuitori ale acestor modele de limbaj mari. Vom deschide toate modelele noastre și, în timp, ne propunem ca acestea să fie suficient de compacte pentru a rula local pe propriile mașini, păstrând în același timp un grad de profunzime, caracter și părtinire unică pentru a fi utilizate când și unde aveți nevoie cel mai mult. Vom anunța primul nostru model în săptămânile următoare.Scopul este de a face din acesta modelul de bază pentru un subiect și o industrie pe care le țin foarte drag la inimă: Bitcoin.De asemenea, cred că aici trebuie să începem să construim o suită de modele și instrumente alternative de AI. O voi dezvălui pe următorul blog.Până atunci. * * *>INTRODUCEREA...PARGULUI STOCHASTIC!
>INTRARE ÎN ERA LUI
>
"MAREA OMOLOGARE”
CE TREBUIE FĂCUT DESPRE TOATE ASTA?
_ Dacă nu suntem atenți, revoluția AI ar putea deveni „Marea Omogenizare”
Comentarii:
Adauga Comentariu