Comencem la segona hora de la Rambla al magazine de matins de ràdio d'Esbern i ho fem com
sempre amb l'entrevista del dia, que també podeu seguir pel canal de YouTube de l'emissora.
El convidat d'avui és el Sant Justenc Jordi Levy, investigador científic a l'Institut
d'Investigació en Intel·ligència Artificial del CSIC, ubicat a Cerdanyola del Vallès.
El 21 de febrer estarà a l'ateneu fent una segona xerrada sobre l'impacte que provocarà
la intel·ligència artificial en les nostres vides, ara i en un futur pròxim.
El saludem. Bon dia Jordi.
Hola, bon dia.
Bé, comencem parlant una mica de la intel·ligència artificial,
perquè la seva aplicació ens pot sonar com una realitat força recent, però sens dubte no és així.
Precisament a l'Institut d'Investigació d'Intel·ligència Artificial es va crear 30 anys,
fa 30 anys, el 1994.
Per què, Jordi, ara estem més interessats o vés a parlar més sobre els reptes de futur,
sobre les oportunitats d'introduir-la en diferents àmbits, què és que ha canviat alguna cosa?
Primer, l'Institut es va crear abans. Abans del 94? Ostres!
Sí, estic a l'Institut des del 89, abans era un grup sense entitat pròpia,
però era un grup també dins del CSIC, es va crear als 85, si no m'equivoco.
Ah, a Blanes, pot ser? Sí, a Blanes.
Estava ok.
Per què es parla tant abans?
Bueno, en realitat es parla d'un sector de la intel·ligència artificial, que són les xarxes neuronals,
que ara ha arribat un punt en què es confon amb el tot, amb tota la intel·ligència artificial,
però és només una branca, un aspecte de la intel·ligència artificial i un aspecte bastant antic.
La tecnologia de les xarxes neuronals és una tecnologia dels anys 80.
Si mirem internament com funciona és una cosa relativament senzilla.
És simplement ajustar uns models amb unes dades,
a nivell d'una sola neurona funciona com una regressió lineal,
que és una cosa que estudiem al Batxillerat.
Per què ara es parla tant?
Perquè, sent una tecnologia molt antiga, l'escalat d'aquesta tecnologia és una cosa bastant recent.
Arrel de tindre màquines més potents, se permet crear models bastant molt més grans.
Amb això és que ajustem paràmetres per ajustar un model amb unes dades,
podem ajustar amb uns quants paràmetres o amb un ordinador milers de paràmetres,
ara estem parlant de milions de milions de paràmetres.
Ha sigut aquest escalat que, a partir de la tecnologia,
s'ha permès desenvolupar unes tècniques que a nivell teòric ja existien als anys 80.
I quins són els sectors els que més s'apliquen a la intel·ligència artificial?
Cada dia ens sorprèn una mica més.
En realitat, estem parlant d'una tecnologia.
La tecnologia és crear un model a partir d'unes dades.
Per crear aquest model necessitem ordinadors grans,
i necessitem sobretot dades.
L'altre factor que ha permès desenvolupar aquesta tecnologia,
o que ara es parla tant, és el desenvolupament d'internet.
Internet, que era una cosa que no existia als anys 80,
ens permet tindre moltes dades.
Quan nosaltres diem que el xat GPT s'ha entrenat amb textes,
s'ha entrenat amb tots els textes de la literatura clàssica.
Això als anys 80 no es podia fer perquè no estaven disponibles electrònicament.
Un dels sectors seria l'educació, parlant ara amb el xat GPT,
on s'aplica sobretot la intel·ligència artificial.
Sí, ens podria, en quant a aplicacions, en molts àmbits.
Nosaltres sempre pensem que al xat GPT li pots dir que escriu un text
per un alumne de Batxillerat, però una altra cosa que fa molt bé el xat GPT
i la gent no ho té en compte és programar, per exemple.
Tu li pots dir que programa una aplicació que faci això,
i també ho fa, i a més ho fa bastant millor que els textes humans,
perquè ho fa amb un llenguatge pensat per les màquines, no per als humans.
Per tant, la repercussió és molt més...
En aquest cas estem parlant de repercussió que afecta tota una professió.
Jordi, parla'ns també una mica de l'Institut d'Investigació,
en intel·ligència artificial.
Tu exactament en quin departament estàs,
quines línies d'investigació, quins camps segueixes,
perquè la intel·ligència artificial és un concepte molt ampli.
Sí, és molt ampli i engloba diferents tècniques.
En el nostre institut hi ha tres departaments.
Jo estic amb el de lògic i raonament,
que seria potser el departament més teòric,
o sigui, enxadiem per comptes de preguntes sobre les aplicacions,
però seria el departament que treballem
amb els aspectes que justament estarien menys desenvolupats
amb les ceses neuronals, que seria el tema del raonament.
Les ceses neuronals el que fan és reproduir patrons molt marcats,
molt automatitzables,
i el que farien pitjor seria la part aquesta de raonar
les capacitats cognitives superiors dels humans.
Precisament el mes de gener, Jordi, vas estar a l'Ateneu
fent una primera tertúlia, xerrada,
sobre les diferències o els avantatges i desavantatges
que hi havia entre la intel·ligència artificial i la intel·ligència humana.
De fet, vas ser parlant de les tecnologies d'intel·ligència artificial,
perquè d'intel·ligència humana, de neurociència, no en sé.
És difícil comparar.
I normalment les comparacions que es fan entre la humana i l'artificial
no són només per fer-se una idea
o com a mètodes d'explicació de com funcionen,
no perquè estigui una inspirada en l'altra o viceversa.
O sigui, hi ha poques semblances, realment.
I ens pots dir, per exemple, fruit d'aquella tertúlia,
una mica les idees principals amb les que es va quedar el públic
o no sé si després hi va haver algun torn de preguntes o preocupacions
que la gent o inquietuds...
En aquella primera xerrada ho vaig enfocar més en les parts més tècniques,
o sigui, intentava explicar internament si miressis amb lupa
a confusió en aquests models que hi ha dintre,
perquè ens poguéssim fer una opinió pròpia cadascun.
I les preguntes, òbviament, van anar més cap a l'altra banda,
el que espero que sigui la segona xerrada,
que és els futurs impactes que pot tindre tota aquesta tecnologia.
O sigui, no només conèixer-la, que seria la primera xerrada,
sinó això és què ens espera o què es pot aconseguir amb això.
Que aquí ja és molt difícil, fins i tot per,
a la gent que treballa a Malària, fer-nos una idea.
Tens moltes sorpreses.
Podem saber com funciona,
què és capaç de fer, però els possibles impactes és difícil de dir.
Queda una mica obert.
És com si ara, si fa 40-50 anys,
algú que sapgués com funciona un ordinador li preguntessis
i això és quin impacte tindrà?
Inimaginable, realment.
Un sector molt inquiet amb la intel·ligència artificial,
ho hem comentat, és el món educatiu.
Professors, mestres...
Està bé que els docents preparin activitats,
avaluïn i ensenyin alumnes a fer servir la intel·ligència artificial?
Per exemple, l'ús de xat GPT...
No sé si hi ha alguna forma en què els professors poden controlar o no,
si els alumnes fan servir aquesta seia.
Jo, com a professor, m'he trobat
corregint pràctiques d'alumnes amb el grau d'intel·ligència artificial
que es fa a l'autònoma.
Sóc professor que utilitza xat GPT per programar les seves pràctiques.
Per què em dius?
Afortunadament són fàcils de detectar.
Amb aplicacions?
No, no, perquè tenen certs viatges.
Un programa fet en xat GPT
si té certa experiència es nota.
Igual que per un professor de primària
si ve un text escrit en xat GPT
el sap distingir del d'un alumne.
Té certes característiques diferents.
Què s'ha de fer amb aquestes tècniques?
Jo diria que el mateix amb una calculadora.
És imprescindible que els alumnes aprenguin a sumar i a restar a mà.
Un cop ho saben fer a mà,
poden fer servir la calculadora.
És imprescindible que aprenguin a escriure, a redactar, a estructurar un text.
Una vegada el sapiguin fer, ja poden utilitzar xat GPT.
Igual que jo si li dic als meus estudiants
que primer han de saber programar
i després han d'utilitzar autopilot o xat GPT
que són les eines que s'utilitzen
per generar els programes automàticament.
Si no saps fer-ho a mà,
difícilment utilitzant aquestes eines ho sabràs fer bé.
Per tant, s'han d'anar a introduir en el moment adequat.
Igual que la calculadora.
No ens ha de fer més por ni menys por.
Quins problemes ens pot ajudar a solucionar la intel·ligència artificial?
En els aspectes,
o no la intel·ligència artificial,
sinó les xarxes neuronals,
el que poden fer,
si pensem que són models que necessites moltes dades per entrenar-los
i que el que fan és crear un model, ajustar uns paràmetres,
han de ser tasques on tinguis, primer, moltes dades
que siguin molt repetitives.
Per tant, hauríem de pensar en tasques
d'aquelles que un humà podria fer de forma automàtica
sense pensar-hi gaire.
Per exemple,
jo què sé,
una queixena al supermercat,
quan veu els productes que van pensant per aquella cinta,
els pot identificar fàcilment sense pensar.
Pot estar parlant i identificant aquests productes.
Aquestes serien les coses que realment saben fer bé.
Per tant, són tasques repetitives
que amb un ordinador,
amb la informàtica convencional fins fa pocs anys,
no sabíem resoldre
i que ara és el punt en què podem resoldre.
En coses inimaginables,
per exemple, estic pensant fins i tot jugar al tenis,
en què un reacciona, li dona a la pilota
i no pensa gaire,
té mil·lèsimes de segon per reaccionar.
Aquests tipus de coses.
Per exemple,
és normal que la ciutadania tinguin por
o desconfiança davant la intel·ligència artificial
per això que has dit,
situacions o casos en què s'automatitzen alguns processos
que les màquines puguin arribar
a reemplaçar algunes professions
o perquè s'ha vist de tot amb la intel·ligència artificial
des que imiten veus de locutors de ràdio
o això que dius, per exemple,
del tema dels caixers de supermercat
o en altres llocs de feina.
Sí, òbviament.
Quan parlem que són models
en què podem adaptar una funció,
aquesta funció pot ser la funció
que no tradueix uns números amb uns altres,
com pensem quan parlem de funcions en matemàtiques,
sinó que tradueix un text amb un altre.
Això també és una funció.
En molts àmbits.
L'impacte social que pot tenir
en substitució de feines és òbvi.
L'impacte més ètic
amb tot això que es parla
de si realment tenen consciència,
si realment haurem de parlar
en algun moment de les implicacions
de parar una d'aquestes màquines
o coses més complexes,
això és més difícil de predir
i crec que en aquests aspectes
estem molt més lluny.
El tipus de coses que realment ara podem dir
que sabem resoldre
són encara bastant automatitzables,
ens recometes,
i per tant bastant automàtiques per un humà.
Sabem que potser no és
de la teva àrea d'investigació, Jordi,
tot el tema de l'ètica,
de lleis i de més
que s'estiguin proposant
a la Unió Europea i de més,
però sí que s'està gestant
com alguna mena de paràmetre
o de normativa
en tot aquest camp
de la intel·ligència artificial.
Jo me'n recordo quan vaig començar
a estudiar informàtica
que el primer professor
de programació en deia
els ordinadors reprodueixen
amb exactitud els teus errors.
I és una mica el que passa
amb aquestes xarxes neuronals.
El primer punt seria,
si estem parlant de la més simple
d'entrenar aquests models,
hem de parlar de quines dades
entrenem aquests models.
Si aquestes dades estan esviaixades
doncs els models que obtindrem
seran esviaixats.
En aquest sentit,
per exemple,
dels casos prototípics
si s'han entrenat
amb dades de persones blanques
doncs les persones negres
estan menys representades
i cometran més errors.
Si s'ha entrenat un sistema
per concedir crèdits
reproduirà els mateixos viajos
que tenen les persones
quan això ho feien les persones
per fer aquestes avaluacions.
Per tant,
cal regular quines dades s'utilitzen
per fer aquests entrenaments.
A nivell
de les implicacions més potents
que s'utilitzen ara
doncs, òbviament,
s'hauran de regular moltes coses.
Fins fa poc
a Sant Francisco s'utilitzaven
i hi havia cotxes conduïts
sense ningú,
anaven sols,
en fase d'experimentació.
Ara també es parla
si chat GPT s'havien reanat
utilitzant informació
que no era d'ús públic
o que estava regulada.
òbviament
això se'ns ha agafat
una mica per sorpresa
i hi ha aspectes
que s'han de regular.
Un d'ells per exemple
és el
possible ús d'aquestes dades.
Si aquestes dades s'han concedit
només per fer utilitzades
per humans
o també utilitzades per màquines
o també per entrenar aquestes màquines
tot això fins ara
no era un debat
que es tenia, ara s'ha de regular.
La intel·ligència artificial
pot suplantar la identitat
d'algú
o quan es creen
imatges,
la intel·ligència artificial
pot crear imatges.
Sí, òbviament, pot crear imatges
pot crear veus de persones
on existeixen, pot imitar la veu
de persona si s'ha entrenat amb suficients
dades sobre la veu d'aquella persona.
Tot això és possible
gràcies a que es treballen
amb dades, no?
Sí, òbviament.
Si no tenen les dades de la veu d'una persona
no la pot reimitar
o si tenen poques dades.
S'ha de dir també que necessiten
quantitats ingents de dades
segurament una persona humana
amb una bona veu,
un bon humorista
escoltant-te una estona
s'haurà d'imitar la teva veu.
En el cas d'aquests models
són bastant més ineficients
i necessiterien
hores i hores
de la teva locució
per poder imitar la teva veu.
Encara estem un pas
enrere del que serien capaços
de fer els humans.
Quines?
No sé si has comentat
que ets professor del Grau
d'Intell·ligència Artificial.
No sé si en aquests últims anys
hi ha hagut un creixement
o una demanda d'aquests estudis
de gent que s'interessa
per estudiar tots aquests processos
i aquestes xarxes.
No sé si ho heu notat a la Universitat.
Sí, hi ha una certa demanda.
De fet, aquest grau es va crear
fa un parell d'anys,
una a l'UPC i una a l'Autònoma
i només tenim un grup
a l'UPC i un grup
d'uns 50 persones a l'Autònoma.
Per tant, hi ha una certa demanda
i fa molts anys que existeix
el Master d'Intell·ligència Artificial
a l'UPC
que té bastants alumnes.
I institucions
o administracions us demanen
opinió, us demanen consell,
us demanen participació
o col·laboració amb alguns processos?
Sí, òbviament, cada vegada
té més interès.
Hem passat a l'hivern
de l'Intell·ligència Artificial
on en els anys 60
es prometien grans avanços
que no van arribar
i per tant vam passar
en una etapa de sequera
al que es coneix com a l'hivern
de l'Intell·ligència Artificial
en què hi havia una certa decepció
que sense fer
grans avanços teòrics
però tenint els mitjans disponibles
hem aconseguit coses
com estem veient ara.
Quines professions
implica l'Intell·ligència Artificial?
Hi ha molta gent del món de la informàtica
o d'altres camps
també de l'enginyeria?
Quines professions?
Per exemple,
la gent que va fer
o que fa el Master
de quines carreres?
Normalment és gent informàtica.
O sigui,
potser hi ha gent
que m'ho critica
i sobretot m'estic ficant
en un terreny una mica delicat
perquè és un grau d'aïllament
al que dono classes
i no és un grau d'informàtica
però jo ho descriuria com un subconjunt
o uns estudis molt relacionats
amb la informàtica, òbviament.
I Jordi, ja per acabar
tornarem a escoltar
el dia 21 de febrer a l'Ateneu de Sant Just
per parlar no tant d'aquest aspecte
potser tan teòric
o com funcionen internament
sinó quines coses són capaces de fer.
Sí, sí, a nivell de futur
una mica les conseqüències
i això que ja ens has dit
que és difícil
de predir.
Sí, és el que torno a dir.
Com si amb un informàtic fa 50 anys
li haguessis dit
i quin impacte té entre això
hi havia informàtics que deien
que hi havia més de 3-4 ordinadors en el món
i ara tothom portem una a la butxaca
qui volia de dir.
Això és molt difícil de dir.
És difícil.
Doncs Jordi, ens quedem
amb la informació que ens has donat avui
a aquesta estoneta que has estat a Ràdio Desvern
i res més, la gent interessada
que et vingui a escoltar
a l'Ateneu de Sant Just.
Encantat i us espero allà.
Molt bé, fins la propera.
Gràcies, adeu.
Fins aquí el programa d'avui.