Al llarg dels últims mesos, la intel·ligència artificial (IA) ha entrat en la conversa mundial arrel de l’adopció generalitzada d’eines d’IA generativa –com els xatbots i els programes de generació automàtica d’imatges– i la consegüent preocupació suscitada en relació amb els hipotètics riscos existencials que planteja.
Havent treballat en IA durant dècades, aquest augment de popularitat i el sensacionalisme que l’ha seguit ens han agafat per sorpresa. Últimament no és estrany llegir titulars com: Pot la intel·ligència artificial acabar amb la civilització humana? La percepció pública en aquest assumpte sembla desproporcionadament dominada per la por a amenaces totalment especulatives.
Com a membres del Laboratori Europeu per a l’Aprenentatge i els Sistemes Intel·ligents (ELLIS), una organització d’investigació centrada en l’aprenentatge automàtic, creiem que ens correspon posar aquests riscos en perspectiva, especialment en el context de les organitzacions governamentals que contemplen accions reguladores amb aportacions de les empreses tecnològiques.
Què és la IA?
La IA és una disciplina dins de la informàtica o l'enginyeria que va prendre forma en la dècada del 1950. Aspira a construir sistemes computacionals intel·ligents que emulen la intel·ligència humana, ja diversa i complexa per si mateixa.
Els sistemes d’IA acostumen a dividir-se en tres nivells de competència:
- La IA específica o dèbil, que engloba sistemes d’IA capaços de dur a terme tasques específiques o resoldre problemes concrets, amb un nivell de rendiment avui dia superior al dels humans. Tots els sistemes d’IA actuals són IA específica: els xatbots com chatGPT, els assistents de veu com Siri i Alexa, els sistemes de reconeixement d’imatges i els algoritmes de recomanació.
- La IA general o forta, que mostra un nivell d’intel·ligència similar al dels éssers humans, inclosa la capacitat de comprendre, aprendre i aplicar coneixements en una àmplia gamma de tasques. Incorpora conceptes com la consciència. La IA general és en gran manera hipotètica i no s’ha assolit fins a la data.
- Súper IA, que es refereix a sistemes d’IA amb una intel·ligència superior a la humana en totes les tasques. Per definició, som incapaços d’entendre aquest tipus d’intel·ligència de la mateixa manera que una formiga no és capaç d’entendre la nostra. La súper IA és un concepte encara més especulatiu que la IA general.
La Intel·ligència Artificial és una disciplina transversal que pot aplicar-se a qualsevol camp, des de l’educació al transport, la sanitat, el dret o la manufactura. Per tant, està canviant profundament tots els aspectes de la societat. Inclús en la seva forma d’«IA específica», té un important potencial per generar un creixement econòmic sostenible i ajudar-nos a afrontar els reptes més urgents del segle XXI, com el canvi climàtic, les pandèmies i la desigualtat.
Reptes que plantegen els sistemes d’IA actuals
L’adopció durant l’última dècada de sistemes de presa de decisions basats en IA en una àmplia gamma d’àrees –des de les xarxes socials fins al mercat laboral– també planteja considerables riscos i reptes socials que és necessari comprendre i abordar.
L’escala i velocitat sense precedents amb què els models preentrenats d’IA generativa (GPT) han estat adoptats per centenars de milions de persones a tot el món està sotmetent als nostres sistemes socials i reguladors a una tensió cada cop més gran.
És evident que la Intel·ligència Artificial planteja reptes crucials que haurien de ser la nostra prioritat, incloent-hi:
- - La manipulació del comportament humà per algoritmes d’IA amb conseqüències socials potencialment devastadores en la difusió d’informació falsa, la formació d’opinions públiques i els resultats dels processos democràtics.
- - Els biaixos i la discriminació algorítmics que no només perpetuen sinó que exacerben els estereotips, els patrons de discriminació o inclús l'opressió.
- - La manca de transparència tant en els models com en els seus usos.
- - La violació de la privacitat i l’ús de quantitats massives de dades d’entrenament sense consentiment ni compensació per als seus creadors.
- - L’explotació dels treballadors que anoten, entrenen i corregeixen els sistemes d’IA, molts d’ells ubicats a països en desenvolupament amb salaris miserables.
- - L’enorme petjada de carboni dels grans centres de dades i xarxes neuronals que es necessiten per construir aquests sistemes d’IA.
- - La falta de veracitat dels sistemes d’IA generativa que inventen continguts creïbles (imatges, textos, àudios, vídeos…) sense correspondència amb el món real.
- - La fragilitat d’aquests grans models que poden cometre errors i ser enganyats.
- - La profunda transformació del mercat laboral amb el consegüent desplaçament d’ocupacions i professions.
- - La concentració de poder en mans d’un oligopoli dels qui controlen avui els sistemes d’IA.
És realment la IA un risc existencial per a la humanitat?
Per desgràcia, en comptes de centrar-se en aquests riscos tangibles, la conversació pública –sobretot les cartes obertes recents– s’han centrat principalment en un hipotètic risc existencial de la IA.
Un risc existencial és un esdeveniment o escenari potencial que representa una amenaça per a l’existència continuada de la humanitat, amb conseqüències que podrien danyar o destruir irreversiblement la civilització humana i, per tant, provocar l'extinció de la nostra espècie. Un esdeveniment catastròfic global (per exemple, l'impacte d'un asteroide o una pandèmia), la destrucció d'un planeta habitable (degut, per exemple, al canvi climàtic, la desforestació o l'esgotament de recursos crítics com l'aigua i l'aire net) o una guerra nuclear mundial són exemples de riscos existencials.
No hi ha dubte que la nostra existència no està exempta de riscos i que l'evolució futura és difícil de predir. Davant d’aquesta incertesa, hem de prioritzar els nostres esforços. La remota possibilitat d'una súper intel·ligència incontrolada ha de considerar-se en el seu context, i això inclou el context de 3 600 milions de persones en el món que són altament vulnerables a causa del canvi climàtic; els aproximadament 1 000 milions de persones que viuen amb menys d'1 dòlar al dia; o els 2 000 milions de persones afectades per la guerra, els conflictes i la fragilitat. Es tracta d'éssers humans reals les vides dels quals corren greu perill avui dia, sense que cap súper IA intervingui.
Centrar-se en un hipotètic risc existencial desvia la nostra atenció dels greus reptes documentats que la IA planteja en l'actualitat i contribueix a generar un pànic innecessari en la població.
Matisar aquestes qüestions, i dissenyar solucions concretes i coordinades que permetin actuar per afrontar els reptes actuals reals de la IA, incloent-hi la regulació, és fonamental. Abordar aquests reptes requereix la col·laboració i participació dels sectors més afectats de la societat, juntament amb els necessaris coneixements tècnics i de governança. És hora d'actuar amb ambició, saviesa i en cooperació.
Els autors d’aquest article són membres del Consell del Laboratori Europeu d’Aprenentatge i Sistemes Intel·ligents (ELLIS).
Aquesta notícia és una traducció de l’article publicat originalment en castellà al portal TheConversation.com.