Pensament crític

Entenent la veritat

DeepFakes: què és la veritat?

A l'inici de l'any 2021 una campanya publicitària d'una empresa de cervesa va aconseguir ressuscitar a la mateixa Lola Flores. La intel·ligència artificial usada va obtindre un resultat tan realista que durant setmanes milers d'usuaris de xarxes socials es van preguntar en quin moment va pronunciar La Faraona paraules com “empowerment” o com havien aconseguit sincronitzar aqueixes expressions tan actuals en un vídeo antic.

Però no, el vídeo mai es va gravar. Lola Flores mai va prestar la seua imatge ni la seua veu per a l'espot, ni molt menys, va donar el seu consentiment. Es tractava d'una seqüència artificial, feta amb el permís de la seua família a partir de més de 5.000 imatges de l'artista superposades en una altra actriu i que, després de llargues hores de producció, va aconseguir un resultat final capaç de suscitar fascinació i controvèrsia, a parts iguals.

L'ús d'algorismes i intel·ligència artificial han propiciat l'aparició dels deepfakes, manipulacions que són capaces de tergiversar el passat, els fets o suplantar persones, és a dir, permeten crear realitat i a més, amb aplicacions d'empreses com MyHeritage, cada vegada són més accessibles. Però on està el límit en l'ús d'aquestes tècniques? Existeix alguna regulació que pose límit o preveja els possibles abusos? L'anyenc debat sobre tecnologia i ètica torna a la palestra.


Què entenem per deepfake?

Comencem parlant de la tecnologia deepfake o, com prefereix la Fundeu, de vídeos “ultrafalsos”. El terme anglés prové de la unió de les paraules “fake”, falsificació, i “deep learning”, aprenentatge profund, i s'empra per a referir-se a continguts creats a partir d'imatges o àudios ja existents i que han sigut manipulats mitjançant algorismes d'aprenentatge no supervisats. El resultat final és un vídeo o un àudio més o menys realista, encara que netament artificial.

Ara bé, la tecnologia sempre és neutra i no té connotacions negatives, sinó que aquestes dependran de l'ús que li donem i aquesta tecnologia ens ofereix un potencial gens menyspreable i permet aconseguir altes cotes de creativitat tal com succeeix en la indústria cinematogràfica.

No obstant això, un ús més discutit es produeix quan no s'explicita que s'està utilitzant aquesta tecnologia. És el que es denomina risc mitjà i encara que no siga intencionat, pot portar a confusió.

Aquest supòsit ja apareix contemplat en la proposta de regulació europea sobre Inteligenca Artificial, obligant les empreses a especificar si alguna cosa s'ha creat usant aquesta tecnologia, exactament igual que quan parles amb un chatboot.

Aquesta proposta, no obstant això, no contempla aquells casos més preocupants en els quals la manipulació sí que tanca una intencionalitat, deixant més terreny lliure a alguns dels ciberdelictes que més preocupen els juristes.


Els riscos associats a l'ús de la tecnologia deepfake

El realisme aconseguit amb aquesta tècnica és de tal magnitud que pot resultar impossible saber si es tracta d'un contingut falsejat. Aquesta tècnica pot emprar-se, per exemple, per a propagar notícies falses o posar en boca de polítics (com Obama) o empresaris (com Zuckerberg) paraules que mai van pronunciar. Sense comptar amb el seu ús original, també estan els vídeos eròtics falsos o “pornovenjança”: l'actriu Scarlett Johansson va ser víctima en protagonitzar el seu rostre, de manera no intencionada, un enregistrament de contingut eròtic.

D'altra banda, crear realitats falsejades amb aquesta tecnologia és a la mà de qualsevol ja que existeixen aplicacions gratuïtes, cada vegada més populars, que permeten editar continguts de manera senzilla. És el cas del programari Deep Nostalgia, una app que permet animar fotografies antigues, amb la promesa de “ressuscitar” a persones del nostre passat.

Aquest programari són senzills i accessibles i aquests són els dos elements que produeixen la ràpida expansió d'una tecnologia. Sense comptar que agraden molt, fan gràcia. Si a més ens decantem per un programari de pagament, el resultat pot ser extremadament realista.

Una altra de les qüestions a debat és la possibilitat de quedar registrat en les immenses base de dades d'aquestes aplicacions: Deep Nostalgia, per exemple, ens anima a bussejar en la col·lecció internacional de MyHeritage de 14 mil milions de registres històrics: “comence amb el nom d'un avantpassat i veja el que les nostres col·leccions poden revelar sobre la seua història familiar”. Encara que els nostres continguts només siguen usats per a fer funcionar l'aplicació, el seu emmagatzematge i classificació és més que qüestionable.

En aquest context, i encara que ara estem en els inicis, pot arribar un moment en què estiguem envoltats de vídeos i no sapiem si són reals pel que si no els regulem, dins de dos anys serà impossible saber el que és realitat i el que no.

Regular els deepfakes?

A més, la regulació vindria a cobrir un buit legal, com, per exemple, que puguem usar les imatges de gent morta sense el seu consentiment. Per a la campanya de Cruzcampo, l'empresa va comptar amb l'assessorament de les seues filles que van ser les que a més van donar el seu consentiment. Però com podem estar segurs que Lola Flores estaria d'acord? És ètic usar a algú mort amb finalitats publicitaris?D'ací a poc potser haurem de realitzar un escrit abans de morir en el que habilitem o deneguem l'ús de la nostra veu i la nostra imatge quan ja no estiguem.

Es planteja a més la necessitat d'implementar tècniques, utilitzant les eines d'intel·ligència artificial per a detectar si els vídeos són reals o no, tal com ja es fa amb les faules informatives. No obstant això, els sistemes de detecció actuals encara no estan tan perfeccionats com per a bloquejar els deepfakes de manera immediata. I què dir de l'alfabetització digital? Es torna complicat ensenyar als usuaris a distingir el que és real del que no, quan resulta treballós fins i tot per als científics forenses.


Quins problemes legals plantegen les deepfakes

Els juristes especialitzats en ciberdelictes alerten de les importants amenaces que aquesta tecnologia implica: vulneracions a l'honor, la identitat i la pròpia imatge (especialment en el cas de les denominades ‘pornovenjances’) i, com no, el perill de desinformació.

Cal destacar que aquests atacs no sols afecten persones físiques: Són comuns els ataques via deepfake contra companyies des de la 'estafa del CEO’, que permet defraudar o desviar grans quantitats dineràries suplantant la identitat d'un alt directiu a través d'una videocall. El ventall de ciberdelictes associats a l'ús pervers de les deepfakes és ampli i es diversifica ràpidament.


D'altra banda, el perfeccionament d'aquesta tecnologia i la qualitat de les recreacions amplien l'espectre de la desinformació més enllà de les mal anomenades “notícies falses”. Es pot falsejar la història, fets i declaracions antigues i, fins i tot, segons un estudi recent de la Universitat de Washington, es pot generar una "geografia falsa profunda" mitjançant imatges de satèl·lit tergiversades i mapes falsos.

A Espanya encara no existeix una legislació específica que regule el fenomen dels deepfakes. La Carta de Drets Digitals, reconeix el dret a la identitat en l'entorn digital, d'acord amb l'ordenament jurídic nacional i europeu. En aquest sentit, indica de manera expressa que la identitat no podrà ser alterada, controlada o manipulada per tercers contra la voluntat de la persona, havent-se de preveure les garanties i controls necessaris que permeten preservar aquest dret en l'entorn digital.

A més, el Codi Penal actual ja recull els atemptats més greus contra els drets de les persones en aquest àmbit: En el seu article 401, el Codi Penal prohibeix la suplantació d'identitat o usurpació de l'estat civil, aplicant penes de presó que poden anar de sis mesos a tres anys apunta. D'igual forma, en l'àmbit civil, destaca la Llei orgànica 1/1982, de 5 de maig, de protecció civil del dret a l'honor, a la intimitat personal i familiar i a la pròpia imatge.

La regulació ja existent podria desenvolupar-se al nostre país a partir de la nova proposta europea entorn de la Intel·ligència Artificial, que pretén reforçar la transparència en l'ús de la tecnologia, precisament a causa dels especials riscos de manipulació que plantegen.

D'aquesta manera les entitats usuàries d'un sistema d'intel·ligència artificial que genera o manipula contingut d'imatge, àudio o vídeo que s'assembla apreciablement a persones, objectes, llocs o altres entitats o esdeveniments existents, i que a una persona li semblaria falsament autèntic o veraç ('deepfakes'), haurà de revelar i declarar que el contingut ha sigut generat o manipulat artificialment.

Igualment, atés que els deepfake poden usar-se per a difondre faules a gran escala qualsevol normativa destinada a posar límit a la desinformació, també contemplarà aquesta tecnologia, tal com succeeix amb les recents directives europees per al Codi de Bones Pràctiques enfront de la desinformació.


També s'hauria d'actuar des de des de l'autoregulació, de manera que la indústria o sector que corresponga propose mecanismes o mitjans raonables per a lluitar contra els efectes perversos associats a aquestes tècniques, com així ocorre ja, per exemple, en termes de lluita contra la desinformació associada.


No tota suplantació d'identitat és delicte

La proposta europea entorn de la Intel·ligència Artificialregulará les condicions a seguir per als fabricants i productors d'eines de IA. En concret, tot producte creat a partir d'aquesta tecnologia haurà d'indicar clarament en quins moments es fet ús d'aquesta, garantint així que no s'enganya l'usuari i posant en valor el principi de transparència. El projecte només pretén cobrir aquest aspecte, però si ens centrem en la suplantació d'identitat, l'assumpte té més vèrtexs.

A Espanya, ja disposem d'eines legals que ens permetrien protegir-nos d'usos il·legítims, ja siga per via civil o penal. No obstant això no tota suplantació d'identitat és delicte: el punt de partida és que no es criminalitza que una persona es faça passar per una altra, sinó que ha d'haver-hi un ànim fraudulent, de perjudicar a algú.Per exemple les xarxes socials, en les quals hem vist proliferar perfils falsos que usen noms d'altres persona, sense que això constituïsca un delicte per si mateix.

A partir d'ací i en funció de per a què es realitzen aquestes suplantacions d'identitat i si aquestes incorren en un fet delictiu, tenim diverses eines legals. Si aqueixa suplantació d'identitat, per exemple, es realitza per a sostraure les dades bancàries d'una persona, entraria directament en joc el Codi Penal.


En el cas de les “pornovenjances” es poden perseguir per via penal o civil, en funció de si ho considerem un delicte de calúmnies i injúries o una intromissió al dret a l'honor o a la pròpia imatge. I ací, de nou, hi ha matisos: quan ens referim a imatges reals, en les quals una persona concreta està protagonitzant un vídeo i no entra en joc la manipulació tecnològica, la seua difusió ja constituiria un delicte perseguible per via penal.


Ara bé, quan parlem de deepfakes, el més probable és que la manipulació incloga imatges no reals, al costat d'unes altres que sí que corresponen amb una persona real. En aquest cas l'ús d'imatges reals pot generar una indemnització i, si és especialment denigrant, pot comportar un delicte per calúmnies i injúries. L'expert assenyala com a exemple l'Estat de Virgínia, als Estats Units, on ja s'ha legislat per a protegir davant aquest tipus concret de vendetas.

L'ús polític.

Quant al seu ús en l'àmbit polític, si bé encara no hi ha una resposta unívoca, sí que es té en compte la necessitat de garantir que aquestes manipulacions no adulteren els processos electorals, ni manipulen l'opinió de la població. Ara com ara, només està regulat a Texas. I, en part, es deu a la dificultat per a dilucidar si un contingut manipulat persegueix la voluntat d'enganyar i causar danys o, si per contra, es tractar d'un contingut paròdic, i en aquest cas s'empararia sota el dret a la llibertat d'expressió. Aquest cas enllaçaria amb l'ús d'aquesta tecnologia amb finalitats expressives: fins i tot quan utilitzem les imatges de persones públiques i comporte un discurs crític, estaríem en el terreny de la llibertat de creació artística.

Les herències digitals?

Finalment, quant a les persones mortes sempre mantenen els drets de personalitat i són els hereus els que tenen la capacitat de disposar de la imatge si no es preveu gens especial. Si bé el concepte de “herència digital” és una cosa bastant nova al qual es fa referència en la Llei orgànica 3/2018, de 5 de desembre, de Protecció de Dades Personals i garantia dels drets digitals, la Llei orgànica 1/1982 de 5 de maig, de protecció civil del dret a l'honor, a la intimitat personal i familiar i a la pròpia imatge ja indicava les pautes a seguir en el cas de l'ús de la imatge després de la defunció

Pensament crític o memorització? Així és l'educació que ve

Abril 2021.

Està plenament acceptat que ens trobem en una societat de la informació (diuen també que del coneixement, afirmació dubtosa si es refereix al conjunt de la població). Rebem notícies de tota mena des de molt diversos mitjans, més o menys tradicionals: premsa, ràdio, televisió, internet o xarxes socials. Això deriva en la possibilitat d'accedir a qualsevol mena de saber en pocs minuts o, fins i tot, segons. Tots tenim ueixa experiència.

Resulta obvi que qualsevol circumstància important que modifique la realitat social hauria de tindre repercussió directa i immediata en els plantejaments del sistema educatiu i, per parlar més concretament, en el quefer diari dins de les aules.


Està l'educació estancada?

L'educació institucional, sistèmica, sembla haver-se estancat en principis clàssics, ja superats, que en el seu moment van justificar la seua aparició. Certament, quan tot el saber de la Humanitat es resumia en el Trivium i el Quadrivium (com a exemple simplista, clar), la persona podia aspirar a dominar-ho. Hui no és així. Com afirma la investigadora Beatriz Pizarro, “el volum de notícies i informació que manejava un home del segle XVI en tota la seua vida era inferior al que qualsevol home actual pot llegir en una edició de The New York Times del diumenge”.


És a dir, amb un simple clic és possible disposar de tres milions de respostes a la nostra pregunta en vint segons. Sobra informació, potser. El problema es presenta a continuació: què fem amb tanta resposta?, és fiable tota aqueixa informació?, quin respon als meus interessos? Moltes més preguntes que el cercador d'internet no ens contestarà.

Cal plantejar-se, llavors, quina és la formació que realment necessiten les joves generacions per a manejar-se de manera autònoma en aquesta societat per a accedir en igualtat d'oportunitats als diferents àmbits en els quals es desembolicarà la seua vida, per a poder participar com a ciutadà sense menyscapte de les seues llibertats.

Evidentment, no serà correcte continuar amb un sistema que permeta obtindre títols a força de memoritzar informacions que no es comprenen i que no capaciten per a aquesta vida actual. És necessari transformar el model i equilibrar el paper que han de jugar les diferents competències imprescindibles en la formació integral de la persona i, en conseqüència, organitzar el disseny curricular entorn de les estratègies metodològiques i procediments d'avaluació que resulten coherents per a aconseguir aqueix domini de les competències i objectius que afavorisquen l'autonomia personal i la capacitat de continuar aprenent al llarg de la vida.

En el títol se cita el pensament crític perquè és l'oposat a la memorització sense sentit. La possibilitat de qüestionar/li l'utilitat d'uns certs coneixements naix de la capacitat de pensar autònomament.

No cal limitar-se a repetir sense comprendre. Això deriva en un oblit immediat quan compleix la comesa per al qual es va memoritzar: reflectir-ho en un examen i obtindre una qualificació. És un procés inútil, que suposa una pèrdua irrecuperable de temps i de vida que, per descomptat, no garanteix cap formació adequada ni actituds positives cap a l'aprenentatge permanent.


Cultivar el pensament crític, divergent i creatiu és la base de l'avanç en la creació d'estructures mentals que ens facen créixer com a persones. És comptar amb la seguretat que serem capaces de discernir entre les múltiples informacions (o infoxicacions) rebudes des de diversos mitjans i de no deixar-nos manipular (en la mesura del possible) per aquestes.

I això no és difícil treballar-ho a l'aula (molts docents ho saben i ho practiquen). Tenim a la nostra disposició tant la premsa com internet o cadenes de televisió, eines que ens ofereixen la mateixa notícia amb enfocaments fins i tot contraris.

Els xiquets i adolescents distingeixen perfectament aqueixes varietats de matisos i d'enfrontaments, en el seu cas. I poden argumentar en favor o en contra, debatre els punts de vista rebuts. Conclusió: fomentar el pensament crític és una tasca assequible, des de ja, per a portar-la a la quotidianitat del quefer educatiu.


L'alumnat com a protagonista

Això sí, cal aparcar la repetició literal del que diu el llibre o el mestre. Cal emprendre una tasca renovadora en la qual l'alumnat siga més protagonista, per a això es compta amb estratègies ja conegudes i implantades, cada dia més, en els nostres centres: mètode de projectes, aprenentatge basat en problemes, en reptes o en tasques, assemblees, aprenentatge basat en jocs, debats, mapes mentals o conceptuals, treball cooperatiu, diàlegs simultanis i un llarg etcètera que estimula a implementar noves maneres de fer que, sense deixar de dominar determinats coneixements necessaris i excel·lents, afavoreixen l'aprenentatge autònom i, per tant, el desenvolupament del pensament propi i la competència per a defensar-lo.


Tot això, acompanyat d'una avaluació que valore els aprenentatges aconseguits ja que, en aquest cas, no resulta possible fer-lo mitjançant un examen tradicional. Cooperar, debatre, respectar al company, argumentar, opinar o buscar informació no són tasques avaluables en dues hores cada tres mesos. Cal valorar-les dia a dia, mentre es duen a terme les actuacions proposades i realitzades a l'aula.


Cal passar d'un procediment puntual i escrit a altres variats que oferisquen informació sobre com s'aprén, què s'aprén o com es col·labora: observació, entrevista, sociometría, fotoveu, etc., plasmant les dades obtingudes en anecdotaris, llistes de control, escales de valoració i fotografies. Això tampoc és difícil ni precisa de nova legislació. Està tot contemplat en l'autonomia pedagògica que posseeixen els centres, per la qual cosa es pot aplicar ja.


Si metodologia i avaluació són coherents i, a més, persegueixen aconseguir aqueixa autonomia de pensament que reclamem, ho aconseguirem. En els temps que corren no és una ocurrència, sinó una necessitat imperiosa formar (formar-nos) persones íntegres, autònomes, amb pensament propi i capacitat de defensar-ho, evitant així la manipulació evident que es posa de manifest tots els dies en el nostre context vital.


En espera d'un nou disseny curricular

Les notícies que ens van arribant des del Ministeri d'Educació i Formació Professional sembla que responen a aquestes exigències socials i curriculars.

Tant de bo es plantege un currículum més centrat en competències necessàries per a viure en societat (a la fi, en coneixements aplicats, no purament memorístics), que afavorisca el treball interdisciplinari i cooperatiu, la col·laboració activa entre el professorat del centre i la promoció de plantejaments que fomenten, realment, la transformació educativa que s'espera des de molts sectors professionals.

Si la norma legal ajuda a nous enfocaments, no hi ha cap mena de dubte que l'impuls que precisa l'educació actual podrà ser un fet que transformarà la vida i permetrà avançar amb una certa confiança en un context incert com el que tenim en aquests temps.