¿Qué está pasando? Hola chicos y chicas, creo que se me oye con un poco de eco, se
me oye en un lugar nuevo, en un espacio diferente al que estéis acostumbrados. Bienvenidos
a este nuevo directo, un directo de emergencia, un directo en tiempos de crisis, en tiempos
de emergencia, de alarma y en tiempos donde nos estamos planteando una cosa muy importante
y no digo nosotros, digo la humanidad y es si debemos pausar sí o no a la inteligencia
artificial. Hola, ¿qué tal? Hola, ¿qué tal? Madre mía, en este directo estoy bastante
nervioso por dos cosas. La primera, por lo que estáis viendo en pantalla, pausar experimentos
gigantes de inteligencia artificial, una carta abierta, carta de la que vamos a estar hablando,
creo que es la noticia de la semana y aparte de esto lo vamos a complementar, va a ser
más una tertulia, hoy vamos a estar hablando de varias cosas porque llevo dos, tres semanas
con este tema en la cabeza, desde la salida de GPT-4 está siendo bastante intenso, he
sobreolado y luego también estoy nervioso porque es mi primer directo desde la nueva
casa, llevo anunciando que me iba a mudar, me estaba mudando todo este mes de marzo,
yo le pedí a Sam Almat, por favor Sam, CEO de OpenAI, no saques GPT-4, por favor, me
viene muy mal este mes y el tío lo sacó, por eso este mes solo me he podido comunicar
con vosotros a través de directos como el que estamos haciendo hoy, pero ya hoy termina,
vamos a seguir haciendo directos evidentemente, pero 31 de marzo ya puedo retomar de nuevo la
actividad normal del canal y veréis de nuevo vídeos como siempre y seguiremos haciendo directos,
vale, estoy aquí, me he mudado a una nueva casa, un nuevo hogar, lo viste el otro día en Twitter,
nos hemos mudado juntos, Hiperactin y yo, Sandra y yo, estamos aquí en un bonito hogar y bueno,
pues espero que el directo salga todo bien porque me hace bastante ilusión pues arrancar
desde la nueva casa. Hoy vamos a estar hablando de este tema, pausar experimentos gigantes de
inteligencia artificial, que lejos hemos llegado desde que abrimos el canal en 2017 que ya
estábamos a mitad de esta década frenética de todo el tema de la inteligencia artificial,
pero que lejos hemos llegado desde aquel momento en el que hablábamos de redes neuronales,
unicapa, multicapa, pero bueno, multilayer perceptrons, donde dedicábamos esto para hacer
pequeñas pruebas, oye, este dataset, estos datos de entrada me llegan a estos datos de salida,
puedo aprender esta relación, esto me puede ser útil para automatizar este proceso determinado
en mi empresa y la mayoría de veces ni me funciona, a donde estamos hoy en día. Hoy en día estamos en
un punto donde esta semana desde impulsados del Future of Life Institute, que ya solo por esto ha
recibido algunas críticas esta carta, surge este documento de aquí que lo vamos a leer ahora,
vale, lo vamos a leer ahora, pausar experimentos gigantes de inteligencia artificial, carta abierta,
donde se está hablando de una moratoria, de hacer una pausa a todo el desarrollo que estamos viviendo
en inteligencia artificial, en concreto están enfocándose al rendimiento, al potencial que se
ha visto que tiene un sistema como GPT-4, lo cual era algo bastante esperable, y a cómo podría
afectar, y vamos a estar degranando un poco en el directo por los diferentes asuntos, pues cómo
podría afectar esto a la humanidad, a la sociedad. Yo tengo que decir que estas dos últimas semanas
tampoco he estado 100% tranquilo y entiendo el contexto de esta carta, pero como digo hay
varias interpretaciones, está quizás la más alarmista que habla de que estamos en un camino,
en una ruta hacia lo que sería una super inteligencia artificial, que eso podría
desentrañar ciertos riesgos para la humanidad, hay otro aspecto que a mí me parece más realista,
ya digo vamos a estar comentando hoy pero me parece más realista, y es el shock social que
podríamos vivir sobre todo a nivel laboral con la llegada de estos sistemas, eso es lo que me ha
tenido a mí tranquilo durante las dos últimas semanas. Voy a hablaros también un poco de mi
visita la semana pasada al evento de Fin de Máster del Instituto de Inteligencia Artificial de Andrés
Torrubia y compañía, que ya sabéis que es un sitio donde nos reunimos de cuando en cuando gente
que manejamos un poco el tema de la IA, y quiero hablaros porque esta adicción ha sido un poco rara
por el hecho de que estábamos todos en el mismo shock, estamos todos visualizando este futuro raro
al que nos movemos, y bueno la idea de este directo es un poco yo vomitaros toda esta información,
todas estas ideas, y que entre todos compartamos puntos de vista. Sé que este es un tema que por
lo que he podido estar midiendo en Twitter, genera ciertos sentimientos y cierta respuesta agresiva,
sin importar dónde te posiciones. Hay gente que considera esto una tontería, donde se están
frenando los grandes avances de inteligencia artificial por intereses económicos, lo cual no
le resta, o sea no es falso y también lo quiero comentar. Hay gente que considera una tontería
hablar sólo del shock económico y no centrarse en la superinteligencia, hay gente que considera
que estamos vendiendo hype cuando hablamos de que estos sistemas pueden ser completamente
disruptivos en el trabajo, decir hay opiniones para todos, eso es así, y bueno entonces lo único que
voy a pedir es que yo aquí voy a estar mostrando diferentes puntos de vista, voy a comentar también
el mío qué opino de todo esto, y en cualquier caso que esto es un debate abierto, o sea lo
interesante de esta carta para mí es que se ha abierto un debate que era necesario y sin importar
de cuál pueda ser el outcome, la salida de todo esto, pues creo que es importante que debatamos
desde un punto de vista de respeto y de intentar entender las posturas de los demás. Dicho esto,
os leo en el chat, a ver quiero leeros, se escucha un poco saturado, a lo mejor estoy un
poquito cerca de esto, no sé si se está oyendo bien, si se está oyendo mal. Bueno, gente que
ha firmado esta carta, que yo creo que es importante mencionarlo, si venís para acá,
bueno no sé si lo habrán quitado porque antes salía como en primer plano, signatarios, vamos a ver
si lo podemos ver. Esta carta no la ha firmado cualquiera, o sea hay nombres aquí bastante
potentes, tenemos Joshua Benjo, bueno un reputado investigador de inteligencia artificial, su hermano
si no me equivoco creo que está metido todavía en Google Brain, Stuart Russell, profesor de Berkeley,
Elon Musk, CEO de SpaceX, Tesla y Twitter, lo vamos a comentar, Steve Bosniak, cofundador de Apple,
Harari que es el autor del libro de Sapiens y Homodeus, donde desde mi punto de vista creo
que Homodeus hace una visión bastante tortillera y rara de cómo es el futuro de la humanidad con
inteligencia artificial, pero bueno esa es mi opinión, Andrew Yang que este si no recuerdo
mal es un congresista de Estados Unidos, bueno montón de gente, Emad Mostaik, que esta persona,
también lo quiero comentar, Emad es la persona que está detrás de Stability.ya y es el impulsor
de sacar al mercado y hacer open source modelos como stable diffusion, me sorprende muchísimo
verle aquí en esta lista, pero bueno, bueno un montón de gente, gente más conocida, gente menos
conocida, yo creo que más allá de las celebridades que han firmado, que sí es cierto que le da una
cierta autoridad a lo que se está firmando, lo interesante también es el número de gente que ya
ha firmado, 1800 personas, algunas de ellas yo la sigo en twitter, gente que respeto intelectualmente
y que bueno que han firmado esta carta, con lo cual le están dando un peso y le están dando una
veracidad a esto que se comenta aquí, entonces vamos a ver, vamos a leer la carta, la he traducido
así un poco con el Google Translate, hemos usado una IA para traducirla y vamos a hacer una lectura
rápida para comentar a ver qué dicen, vamos a estar leyendo estos documentos, la leemos y os
cuento un poco mi opinión, dice los sistemas de inteligencia artificial con inteligencia
humana competitiva pueden plantear riesgos profundos para la sociedad y la humanidad,
como lo demuestra una extensa investigación, que esta investigación si no recuerdo mal creo
que es la de loros estocásticos, es reconocido por los principales laboratorios de inteligencia
artificial, la IA avanzada, aquí cuando leamos la IA avanzada nos están hablando de AGI, general
artificial intelligence, podría representar un cambio profundo en la historia de la vida en la
tierra y debe planificarse y administrarse con el cuidado y los recursos correspondientes,
desafortunadamente este nivel de planificación y gestión no está ocurriendo, a pesar de que los
últimos meses los laboratorios de IA han entrado en una carrera fuera de control para desarrollar
implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores
pueden entender, predecir o controlar de forma fiable. Ok, este párrafo tiene ya mucha miga,
aquí lo que nos están hablando es de la salida principalmente de chat GPT y GPT-4,
aquí en realidad el laboratorio protagonista, aunque están hablando de laboratorios en general de
inteligencia artificial, yo hablaría aquí de que OpenAI es la única que está impulsando y
está moviéndose de cara a sacar todo esto. La propia OpenAI que cuando saca GPT-4, antes de
sacar GPT-4, ya sacó un artículo en su blog hablando sobre cómo visionaban el futuro de la
IA, de la AGI, vamos a echar un vistazo rápido, ahora no vamos a ver el artículo pero para que
veáis que existe si lo queréis visualizar, vale, tienen este artículo de 24 de febrero de 2023,
está aquí, os lo dejo por el chat si le queréis echar un ojo, y en este artículo pues ya estaban
hablando un poco de cómo ambicionaban ellos el futuro de la inteligencia artificial y cómo se
iba a trazar este camino hacia la inteligencia artificial general. Vamos a hacer un comentario
primero, un poco meta sobre esto y es lo loco que parece que este sea el debate actual, es decir,
si tú me dices a mí, a Carlos Santa Navega en 2017 cuando abro el canal de YouTube o no me voy
tan atrás, en 2020 cuando todavía estamos, bueno sí vemos que los transformers, GPT-2,
parece que va funcionando, si tú me dices que en 2023, tres años más tarde, íbamos a estar
hablando de si una AGI es posible o como vamos a ver en el paper luego, si podríamos empezar a
decir que GPT-4 tiene chispas, tiene como pequeños detalles que nos hacen ver que puede ser una
AGI yo te diría que estamos locos, que estamos muy fuera de lo que sería el deep learning tal
cual se está viviendo, si me lo dices ahora yo te digo, ojo cuidado que este debate empieza a
tener sentido, entonces bueno, ellos aquí tienen un artículo en el blog donde explican su visión
OpenAI y OpenAI junto a DeepMind pues son los dos laboratorios independientes entre comillas porque
ya sabemos que DeepMind pertenece o trabaja, sí pertenece, no sé si es la palabra adecuada,
pero trabaja muy de cerca con Google y OpenAI, pues ya sabemos que ahora trabaja muy de cerca
con Microsoft, pues estos dos laboratorios son los que en su misión corporativa hablaban
explícitamente hace años, pues nuestra misión es desarrollar la AGI, la artificial general
intelligence y mucha gente se reía de ellos por plantearlo en esos términos, de estáis vendiendo
hype, estáis vendiendo unas posibilidades que no se van a poder conseguir en la próxima década,
etc, etc, etc, el tiempo por ahora aunque todavía no han conseguido una AGI, el tiempo pues les va
dando la razón o al menos les permiten estar en un estatus para poder decir oye, sois interlocutores
válidos para hablar de esto, entonces a raíz de los movimientos de OpenAI en los últimos meses
estamos viendo cómo esto se va haciendo realidad y lo que pasa aquí es que aunque OpenAI nos cuenta
y nos dice que ellos van a primar la seguridad ante todo y que van a hacer que sus desarrollos
pues vayan un poco más lentos, eso lo dijo Sam Alman, si recordáis la entrevista que yo subí
aquí en el canal, Sam Alman explícitamente dijo vamos a estar haciendo deploy de nuestros avances
de una forma mucho más lenta de lo que realmente a la gente le gustaría, ostias pues chicos menos
mal que estamos yendo por el camino lento, menos mal que estamos yendo por el camino lento, por
repasar diciembre, 1 de diciembre sale chat GPT para sorpresa de todos porque no sabíamos que algo
así estaba dentro del roadmap de OpenAI, luego os comento una cosa sobre esto que compartí hoy en
Twitter, sale chat GPT en diciembre, en enero, que tenemos en enero, Bing Chat vemos una integración
completamente directa de chat GPT metido a un buscador, es decir conectan a chat GPT con
internet, no de forma que puede interactuar con internet publicando contenido, no como creador
pero si puede extraer información de internet, en febrero que tenemos sale, a ver que teníamos
en febrero, en febrero no teníamos novedades, en marzo tenemos chat GPT 4, ah bueno no perdón sale
la API de chat GPT en febrero, en febrero abren una API que permite que cualquier desarrollador ahora
pueda empezar a conectarse a chat GPT y a crear sus propias aplicaciones, a crear sus versiones del
chatbot, en marzo sale la API de chat GPT 4, sale copilot para office, sale el
GitHub Copilot X, sale los plugins de GPT 4, que esto no lo he comentado todavía pero también quiero
hacer mención en el directo de hoy, los plugins de GPT 4, que ya no ya no estamos hablando de GPT 4
de forma aislada, es una super inteligencia, no es una super inteligencia pero es una inteligencia
artificial más potente de lo que hemos visto, sino que dos semanas después de hacer el gran
anuncio, ya dos semanas después nos bombardean de nuevo con una tremenda noticia como es lo de
los plugins, de repente le están dando herramientas a GPT 4 para que pueda ser mucho más capaz y
mucho más potente para hacer cosas y va a permitir que la gente pueda desarrollar sus propios plugins
permitiéndole conectarle con bases de datos de vectores, permitiéndole ejecutar código
Python como un interprete dentro del propio entorno de chat GPT, permitiendo hacer navegaciones
por internet, es decir, wow, esta es la ruta lenta de OpenAI, pues menos mal, menos mal amigo,
porque a mí no me daría no me daría tiempo, yo creo que OpenAI no va lento, OpenAI está dando
todo lo que puede por sacar todo lo que pueda en la mayor franja de tiempo, aquí pensemos que pasa
un poco como la ventaja competitiva que tiene Tesla como empresa de vehículos autónomos,
que es por llegar primero al mercado genera ya una percepción en los propios consumidores de que
bueno tu producto es más innovador con lo cual pues tienes esa ventaja competitiva de primero,
tienes esa ventaja que hace que muchos usuarios nuevos se sumen a tu producto, esto te permite
tener a muchos usuarios interactuando con tu tecnología y eso te va a permitir pues encontrar
aquellos defectos y acumular una enorme cantidad de datos que eso va a suponer tu ventaja competitiva
real de cara a los futuros desarrollos, es decir, el aprendizaje que ha ganado OpenAI con chat GPT
en el mes que lo dejaron abierto para todo el público, consiguiendo un desarrollo masivo
de un millón de usuarios en una semana que es el récord absoluto de una aplicación en la historia,
ya sólo con eso ha conseguido una cantidad de datos que Google no tiene, esta es un poco la
filosofía de OpenAI, de testear en el mercado para encontrar aquellos puntos débiles de su
tecnología validando con los usuarios reales en su interacción, Google seguramente no hubiera
encontrado ninguna idea de jailbreak si no ponen el mercado Abarth por ejemplo, entonces aquí esa
ventaja competitiva OpenAI se la está llevando y yo creo que quieren sacar todo esto tan rápido,
el roadmap que tienen ellos, quieren sacar los productos tan rápido, con esta idea vamos a sacar
plugins ya, ¿para qué? pues para que los usuarios empiecen ya a generar plugins, a crear un marketplace,
a sacar un montón de aplicaciones que nos permitan a nosotros recopilar datos y con estos datos pues
tener esa ventaja frente a Google, frente a Amazon y frente a todas las compañías que estamos viendo
que no están llegando a la cita y aquí Microsoft como gran aliado de OpenAI pues seguramente también
le está diciendo corre, tú corre que la parte de que nosotros ponemos la cara por si sale algo mal
en imagen pública, no te preocupes vamos a romper cosas y a movernos rápido, entonces es muy loco,
es muy loco y esta es la vía lenta según dicen de OpenAI, entonces este artículo, este primer
párrafo va un poco en esa línea, desafortunadamente este nivel de planificación y gestión no está
ocurriendo a pesar de que los últimos meses los laboratorios de ahí han entrado en una carrera
fuera de control para desarrollar e implementar mentes digitales, me decían esta semana que al
final lo que OpenAI está consiguiendo es presión de mercado, están forzando a Google como decía
Microsoft a bailar, están forzando a las grandes compañías que por un motivo u otro no sabemos si
porque internamente Google su tecnología no era más madura cosa que creo que no, o sea no creo
que no fuera madura creo que sí que tenían tecnología suficiente o porque a lo mejor la
inteligencia artificial perjudicaba su principal modelo de negocio que es la publicidad en internet
el SEO, vale eso me lo puedo creer más o porque no querían dañar su imagen pública sacando
esto tan rápido o porque verdaderamente están alineados con valores de seguridad, de ética y
bla bla bla, entonces sea por lo que sea ese motivo ahora Google no está eso, ahora Google está
intentando llegar a la cita tarde pero está intentando y va a sacar cualquier cosa al ritmo
que le está imponiendo ahora mismo OpenAI, entonces esto es un poco lo que critica esta carta, esta
carrera que hay entre grandes compañías tecnológicas, esta batalla, esta guerra que hemos
vivido, está acelerando los ritmos y está haciendo que no se estén teniendo en cuenta pues todas las
otras partes, la parte ética, moral y todo el peligro y la transformación que esto podría
llevar. Bueno, ¿qué tal estáis? Ah bueno claro y temazo, lo comentaba aquí Lingret, en Italia
saltaba la noticia hoy, han baneado a ChatGPT, en Italia han baneado a ChatGPT, lo han baneado
lo han baneado por el tema del GDPR, la ley de protección de datos que tenemos en Europa,
no sé exactamente por qué Italia ha dado el paso si creo que la GDPR es a nivel europeo,
no sé, la parte legal y regulatoria de todo esto se me escapa, tampoco he podido leer la
noticia a fondo pero me parece bastante representativo un país bloqueando el acceso a ChatGPT y me parece
llamativo porque joder, lo que estamos viviendo ahora es una revolución tecnológica, esto es
como la llegada de internet pero a lo bestia, para mí la comparación de la transición que todos
hemos vivido de cómo la sociedad se transformó cuando llegó internet es lo mismo que va a pasar
ahora con la inteligencia artificial pero con una diferencia, cuando llega internet tú de repente
no llega en tu casa una instalación de fibra óptica de un gigabit por segundo de la leche que
te permita hacer streaming y tal, no, no, fue más progresivo todo, primero llegó a universidades las
redes, luego nos llegaron a casa los modem de 56, luego tal, tal, tal, fue de forma progresiva
durante muchos años, vale, lo de la inteligencia artificial está siendo de hace seis meses ahora
hemos pasado del no tenemos nada, no tenemos acceso a ningún modelo, sabemos lo que puede
hacer esta guía por los papers que salen pero tenemos acceso sólo a gpt3 a de golpe tener unas
herramientas que yo creo que eso es lo que me rompe la cabeza a mí generalmente y es cuando
me pongo a pensar en las posibilidades que estas herramientas permiten no abarco, no abarco, es como
que me saturo porque veo tantas posibilidades que no termino de procesarlo, entonces ha sido tan
bestia el impacto de esa tecnología, la llegada, llega gpt4, llega luego los plugins a ver qué
sale la semana que viene y esto hablando de la parte de modulo del lenguaje pero también
tenemos lo que ha pasado con stable diffusion y compañía con dali2, hace un año no teníamos
dali2, hace un año no teníamos ninguna herramienta de texto a imagen, ni una, teníamos algún modelo
tonto que ejecutábamos en google colab pero no teníamos, teníamos como mucho el clip vq gun
y ya está el disco diffusion y todas estas cosas pero no había una herramienta real y ahora mismo
tú tienes mi journey 5 que de golpe te genera una imagen del papa en barnin man y flipas, entonces
está siendo muy rápido esta revolución y todo el shock que hemos visto que ha sucedido con la
llegada de internet, toda esta revolución que podríamos decir que en 10 años pues una revolución
tecnológica de tal profundidad ya de por sí es bastante disruptiva pues ahora se va a vivir pero
no en 10 años sino en uno, en dos, vale entonces esa es la naturaleza un poco de esta carta
bueno, vaya champa, ya os lo digo, mi idea hoy es hablaros y contaros todo lo que está pasando y
daros un poco mi visión pero hablar de todo esto porque creo que es importante hablarlo,
esto son las conversaciones que tuvimos la semana pasada todos reunidos en el evento del IA y es
que estábamos echando humo las cabezas porque parecía un manicomio, yo decía, las conversaciones
como hablando todos entre todos, todos entendiendo la visión de lo que está por venir con la mirada
al infinito un pitido en los oídos y diciendo madre mía lo que está pasando, vamos a seguir
leyendo dice, los sistemas de IA contemporáneos ahora se están volviendo competitivos para los
humanos en tareas generales y debemos preguntarnos deberíamos dejar que las máquinas inunden nuestros
canales de información con propaganda y falsedad, deberíamos automatizar todos los trabajos incluidos
de cumplimiento que no sé qué está traduciendo aquí pero bueno voy a dejarme el artículo original
por aquí para ir comparando la traducción porque vale, vale deberíamos dejar que mentes no humanas
eventualmente nos sobrepasen por inteligencia y nos hagan obsoletos y nos reemplacen, deberíamos
de arriesgar la pérdida de control de nuestra civilización, todas estas decisiones no pueden
ser delegadas a líderes tecnológicos no elegidos en referencia a pues todos los EOS de todas estas
empresas como Samalmante. Sistemas de inteligencia artificial potente deberían de ser desarrolladas
una vez seamos, estemos confiados de que sus efectos serán positivos y de que sus ricos
podrán ser manejables, aquí ha hecho un par de preguntas que me parecen interesantes, deberíamos
de dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad,
pensad si tú habilitas una API como gpt3 ya se podía hacer o como gpt4 que te permite y esto
este es un punto que mucha gente se equivoca porque cuando yo esto lo comento en twitter
siempre me sale el que me dice pero si esto ya se podía hacer con con gente humana que pone
desinformación, si esto ya se podía hacer lo de generar una imagen falsa con photoshop, si amigos
pero es que antes tú para ser al papa en el barnin man o a donald trump siendo detenido tardabas
bueno pues tardamos unas horas en frente del photoshop y tenías que tener unos conocimientos
muy elevados de photoshop y aún así se notaba, ahora con midjourney tarda cinco segundos lo puede
hacer cualquier persona y sea una persona que tenga conocimientos técnicos de photoshop o sea una
persona que sea un niño en su casa jugando a trolear ¿vale? no es lo mismo y esto se puede
hacer a escala puedes automatizar todo este proceso para que se generen estafas masivas
lo comenté en twitter hace hace un par de semanas todavía cuando llegue toda la parte de clonación
de voces generación de vídeo etcétera a ver cuántos de nosotros no vamos a caer en una
estafa telefónica cuando escuchamos la voz de un familiar diciendo oye carlos ha pasado algo ¿vale?
tú oyes eso por teléfono y tu instinto te hace ser irracional ¿vale? entonces como sociedad todavía
no estamos preparados para este tipo de cosas a lo mejor en cinco o diez años pues ya será el pan
nuestro de cada día pero estos riesgos están ahí y decir oye vamos a ignorarlos vamos a pensar que
esto antes ya se podía hacer porque había gente que desinformaba había gente que usaba el photoshop
eso no es responsable ¿vale? y eso creo que entre todos tenemos que estar de acuerdo otra cosa es
decir deberíamos de prohibir la IA por eso o deberíamos de regularla bueno eso ya son otros
debates pero al menos vamos a plantear la realidad vamos a hacer el escenario lo más riguroso y más
cercano a la realidad que podamos ¿vale? no estamos en el mismo estadio no es lo mismo lo que se podía
hacer hace un año de lo que se puede hacer ahora también lo dije el otro día en twitter digo muchas
cosas en twitter la verdad lo dije de coña pero pero la idea está ahí deberíamos hacer un backup de
internet no carlos está la time machine no ya lo sé no me refiero a hacer un backup de internet
de forma real porque eso no es posible técnicamente pero lo que voy es que a lo mejor de aquí a unos
años no tenemos cuenta de que nuestro entorno digital lo hemos contaminado lo hemos contaminado
con una cantidad enorme de bots de chatbots que bueno pues que ahora mismo están sueltos por
internet y que realmente hacen una herramienta que hemos creado para nosotros algo que ya no
tiene valor ¿vale? y como ejemplo muy claro pensad lo que ha pasado no con la inteligencia
artificial sino con la codicia humana y todo el tema del SEO ¿vale? los search engine optimizers
cuando tú el último año te metías en google a hacer una búsqueda de repente te encontrabas con
que de un buscador que te tiene que dar links interesantes lo que te daban eran artículos de
dudosa calidad como bien indicaba 20 bytes en uno de sus directos pues te daba resultado de mierda
¿vale? eso es una forma en la que nosotros hemos corrompido una herramienta pues ahora
imaginad esto si lo escalamos al tema de la inteligencia artificial me estoy yendo por las
ramas voy a seguir avanzando ¿estáis bien? por cierto ¿qué tal estáis? muchas gracias Jonathan por
por tu donación. GPT-4 fue bloqueado en Italia no por la INC sino por la filtración de datos
personales y financieros de usuarios de chat gpt plus ¿vale? genial pues mira ese dato no lo
sabía y es interesante también hubo un problema lo cual tampoco me deja 100% tranquilo y es que
OpenAI hace una semana pues tuvo una filtración donde para algunos usuarios se podían ver las
conversaciones o sea los topics que tú habías tratado con chat gpt pues a algunos usuarios
les aparecían los de otros usuarios que eso ya de por sí es un problema de privacidad pero luego
aparte de eso creo que también hubo filtración de tarjeta de crédito y todo eso según dijo OpenAI
que también está feo decirlo así dijo que fue por un problema de una librería open source que es
como bueno vale ok buena forma de asumir la responsabilidad si esto está pasando en el
desarrollo de software tradicional ¿qué pasará cuando sea GPT-5 el que se ha filtrado amigos?
no seamos conspiranoicos ¿vale? seamos serios entonces bueno si ese es el motivo de por qué ha
pasado en Italia pues tiene tiene sentido antes lo estaba comentando es verdad lo del tema de Italia
que la comparación con la revolución de internet el tema de que lo bloqueen en Italia no sé a quién
perjudica más o sea no sé si esa ley protege o perjudica al ciudadano italiano no tanto al
ciudadano pero imagina toda la gente que ahora mismo está viendo que está ocurriendo en el
mundo una revolución tecnológica y no va a poder participar a ver te instalas una vpn y tal pero no
va a poder participar o sus clientes no van a poder acceder a esa herramienta porque de repente han
decidido desde el estado que no se va a utilizar no imaginad que de repente en tu país dicen mira que
no que internet no lo vamos a usar no nos parece una herramienta que debas usar pues es delicado y
esto ya está pasando o sea ya hay países en latinoamérica donde por entiendo que temas
regulatorios no no no tenéis acceso a chat gpt ni a gpt 3 y a gpt 4 entonces ya solamente eso
está generando una diferencia enorme y una pérdida de competitividad brutal no porque no soy no
estáis siendo partícipes de la siguiente revolución tecnológica y esto bueno pues es un tema también a
debatir bueno 4.100 personas aquí escuchándome titi titi titi a ver estoy leyendo
estoy leyendo
vale vale necesito un vídeo de este tema a ver si hiciera un vídeo fíjate que todo lo que estoy
diciendo o sea estoy no estoy dejando ni espacio para respirar o sea sería un vídeo de dos horas
igualmente seguimos dice desafortunadamente este nivel de planificación y gestión no está
ocurriendo a pesar de que los últimos meses los laboratorios han entrado en una carrera fuera
control pal esto lo hemos leído dice tales decisiones no deben delegarse en líderes tecnológicos no
elegido los sistemas potentes de ellas deben desarrollarse sólo una vez que estemos seguros
de que sus efectos serán positivos y sus riesgos manejables esta confianza debe estar bien justificada
y aumentar con la magnitud de los efectos potenciales de un sistema la declaración reciente
de open y hay con respecto a la inteligencia general artificial establece que en algún momento
puede ser importante obtener una revisión independiente antes de comenzar a entrenar
sistemas futuros y para los esfuerzos más avanzados para acordar para acordar bueno
acordar el límite de crecimiento el del ratio de crecimiento de computación utilizada para
crear estos nuevos modelos estamos de acuerdo y ese momento es ahora no están cogiendo un
poco este artículo de open y hay que sacaron el que hemos visto antes y han cogido ese párrafo
y están diciendo vale el momento en el que open y hay estaba diciendo que en un futuro habría que
estar regulando todo esto es ahora y es ahora no tanto por gpt4 y esto es lo que me parece este
es el punto más criticable desde mi punto de vista de esta carta quieren bloquear o quieren
hacer una moratoria una pausa de seis meses en el entrenamiento de cualquier modelo que
sea más potente que gpt4 es decir pensemos que ahora open y hay open y hay tenía gpt4 entrenado
desde verano del año pasado ojita esto súper interesante desde verano del año pasado open y
hay tenía ya el modelo entrenado el modelo base sabemos que estos sistemas gpt4 al igual que pasó
con chat gpt pues primero tienes al enorme modelo del lenguaje que es como el que agrega toda esta
información y el que aprende de forma autoregresiva a manipular el lenguaje y luego hay una posterior
capa un posterior procesamiento que es el rl hf que es lo que hace a este modelo base que agrega
todo este conocimiento pues lo que lo hace lo alinea de forma que tú puedas como humano dialogar
con él vale lo hace más natural a la hora de interactuar con él por decirlo de alguna forma
no tú gpt3 por ejemplo si tú querías utilizar a gpt3 de una forma útil pues tenías que mostrarle
muchos ejemplos de la tarea que quisieras que querías que hiciera tú ahora con chat gpt simplemente
le pides como un chatbot y en base a este diálogo pues él te consigue te consigue responder entonces
bueno ellos este modelo base gpt4 lo sacaron el verano del año pasado y este modelo es el que
nos ha llegado ahora entonces podemos pensar de la misma forma que ahora mismo en algún lugar del
mundo se está entrenando a gpt5 gpt5 ya está cocinándose no está chop chop en algún centro
de datos y ellos lo que están pidiendo es para las máquinas para las máquinas nos quedamos con
gpt4 paramos seis meses o más vale la moratoria es de al menos seis meses y nos replanteamos las
cosas y digo yo no es tarde ya o sea como para empezar el punto que me falla a mí de esta carta
cómo definimos cómo definimos que es un sistema más potente que gpt4 que es un sistema más potente
que gpt4 porque gpt4 tienes el modelo con los checkpoints con su aprendizaje si yo lo entreno
un step más eso lo vamos a considerar que es más potente porque tiene un mayor entrenamiento ok gpt4
si yo le doy acceso a una calculadora y entonces ya puede hacer el cálculo matemático de forma
más rigurosa como ya está pasando con el tema de los plugins eso es un gpt4 más potente eso
también se considera como tal gpt4 le doy acceso a internet y eso lo vuelve más potente gpt4 le
amplió la ventana de contexto y eso lo hace un modelo más potente gpt4 le habilito el módulo
de visión y eso lo hace un módulo más potente a qué nos estamos refiriendo concretamente con gpt4
más o sea con algo más potente que gpt4 la versión actual que tenemos la versión de 32 mil a la
versión de 32 mil mapición la versión con plugins me falta vale me falta me falta una
definición más aterrizada de esto porque si no parece que están pidiendo por pedir vale molaría
que hubieran hecho una declaración de exactamente lo que de lo que se querría entonces hay que
entender un poco por lo que se pide de forma muy abstracta lo que están pidiendo es bueno
replanteémonos cualquier sistema posterior a gpt4 sea cual sea ese sistema que deberíamos
de parar ok lo entiendo pero creo que hubiera quedado más adecuado haberlo aterrizado más
no todo esto entonces bueno están pidiendo hacer una pausa de al menos seis meses una pausa de al
menos seis meses y aquí viene la segunda parte donde se está criticando a todo esto y es para
qué vale para qué qué se pretende hacer con una pausa de seis meses yo entiendo que esta
pausa servirá para decir vale le hemos visto las orejas al lobo ahora ya podemos entender cuáles
son los problemas que se podrían generar a partir de esto vamos a parar vamos a pensarlo y me parece
muy correcto pero creo y un poco la vista de cómo ha sido los años anteriores en el desarrollo de
creo que somos bastante incapaces de predecir cómo estas tecnologías pueden acabar afectando
sin testearlo en el mercado ahí si le doy y esto ya es un poco opinión mía que puedo estar equivocado
si le doy un poco de valor a lo que está haciendo open y y decir vamos a testear en el mercado con
un público masivo porque ahí es donde se están viendo realmente donde están las costuras de estos
sistemas vale puede ver donde alucina gpt 4 puede ver donde hay sesgos puede ver donde hay
posibilidades en un jailbreak los dance que se comparten en reddit es decir no es lo mismo el
equipo de red teaming que tú puedas tener montado en tu empresa no es lo mismo el departamento de
ética que tú puedas tener montado en tu empresa que eso frente a la mente colectiva de todo el
público que está queriendo destruir a tu sistema es imposible vale es imposible competir contra eso
lo mismo que el dilema que se genera cuando hablamos de la tecnología open source cuando
tú haces open source algo el problema que generas es que esa tecnología ya no la puedes retirar del
mercado ya está desplegada y ahí cualquiera para bien o para mal la puede utilizar ok lo bueno es
que el desarrollo comunitario te da más músculo para desarrollarla mejorarla avanzarla que
cualquiera que lo que cualquier otro laboratorio podría conseguir no entonces se me hace muy
complicado pensar que en seis meses o en un año o en dos años se pueden encontrar soluciones a
problemas que todavía no existen que intuimos que van a llegar pero no existen todavía vale porque
los problemas se generan los conflictos se van a ir generando una vez esta tecnología se despliegue
al ritmo que sea en el mercado la analogía yo lo veo con el tema de de la de los modelos
generadores de imágenes y y los artistas no todo este debate que se generó con los artistas cuando
salió dalí 2 no no estaba ahí presente la yo yo tenía gente bueno tengo gente que trabaja en
ilustración que yo le enseñaba esta tecnología y todo flipaban y le encantaba y decía que guay
no fue hasta que salió stable diffusion meses más tarde que se generó ese debate que se generó ese
debate tan tan fuerte y tan ácido y con sus motivos de los dataset que se estaban utilizando
para alimentar a estos sistemas no digo que ese debate no estuviera lo que digo es que de forma
general que llegara al mainstream que llegara al ilustrador que no ha tocado a lo mejor nunca un
modelo de inteligencia artificial eso no ocurrió hasta septiembre octubre y noviembre de 2022 y
eso ocurrió cuando esta tecnología se hizo open source y llegó a ser ubicua cuando empezamos
a ver el rendimiento que esto podía tener en el mercado laboral cuando empezamos a ver el impacto
que tenía en el mundo real todo esto y eso era algo que no se podía haber predicho tú a lo mejor
no hubieras predicho en abril de 2022 que los artistas iban a desear tener la opción de hacer
un opt-out de un dataset concreto porque en abril de 2022 los artistas no sabían ni que había un
dataset con sus imágenes ¿vale? entendéis un poco por dónde por dónde va la lógica tal cual lo
veo yo creo que validar en el mercado como está haciendo OpenAI creo que no es la opción incorrecta
creo que es la que nos está dando más información para entender el impacto que esta tecnología va
a tener entonces desde ese punto de vista creo que podrían ir un poco más lentos podrían pero creo
que es la opción correcta os sigo leyendo vale somos 4.600 personas escuchándome aquí esto
me parece una misa estoy hablando yo solo pero lo vais a permitir porque es mi canal soy el palabra
si puedo sobre esto que acabo de comentar sobre lo de OpenAI voy a decir otra cosa que yo creo
que ahora mismo sé a qué público tengo ganado que sois todos los forofos de fuck it vamos a ir
a por todas destruyamos la humanidad sacad la IA no podemos regularla ok ahora me voy a poner un
poco en el otro lado para acotarme por los dos lados vale para que veáis dónde me estoy posicionando
creo o me parece más grave aún cuando desde un punto de vista individual si yo me reconozco a
mí mismo por la parte tecnológica me encanta y soy honesto con vosotros lo voy a decir soy muy
fan de todo lo que está pasando y como amante de la IA me encanta que todo esto se esté liberando y
que todos estos debates se estén abriendo si me aíslo completamente del mundo real pero si
intento tener una responsabilidad en la posición en la que estoy y lo valoro desde ese punto de
vista veo más preocupante la filtración de llama por parte de meta y ahora hablamos de esto que
que lo que está haciendo open y hay muchas gracias muchas gracias dax por ese super chat
veo más grave veo más grave la filtración de llama que la parte de de open y hay que significa
esto para el que no lo sepa un poco de contexto muy rápido hace cosa de un mes un mes y medio
meta anunció que tenía un modelo del lenguaje que era competitivo con gpt3 y bla bla bla y que
lo iba a hacer open source entre muchísimas comillas lo iba a hacer open source para la
comunidad científica eso significa si tú eres investigador podías solicitar la meta que te dieran
los archivos de parámetros y tú podías entonces empezar a investigar el modelo podías tener un
gpt3 en tu ordenador para poder investigar y hacer pues investigaciones sobre sesgos investiga todo
que quisiera no con el modelo pero sólo para investigadores un poco decir vale damos acceso
pero a gente que está afiliado en la institución y que son responsables y que bla bla bla que pasó
bueno alguien no sabemos pero voy a poner comillas porque también hay alguna sospecha pero bueno
alguien decidió hacer la troleada y decir bueno para reducir el consumo de ancho de banda a la
hora de descargarte esto de meta en el repositorio de github hizo un pull request diciendo bueno os
pongo por aquí el enlace de victor rent para que descarguéis el modelo que va a ser mucho más
rápido que descargarlo directamente de meta eso esa frase que fue muy de troleo lo que venía
a significar era algo así como estoy publicando el archivo de checkpoints vale estoy este modelo
que supuestamente era para investigadores ahora lo estoy poniendo a disposición del público se
filtró ese modelo no entonces ese modelo desde que se filtró está pasando todo lo que uno
esperaría y es la comunidad open source lo está destilando lo bestia está reduciendo su tamaño lo
están convirtiendo en un chat gpt es decir es una herramienta súper guapa para que toda la
comunidad open source ahora pueda trabajar y podamos tener una versión competitiva de chat gpt un
poco como el proyecto de open assistant pues eso no es como que de repente no notan unos cuantos
un atajo para poder llegar mucho antes a ese objetivo y eso está muy guay o sea en principio
eso es la leche y hay ejemplos de gente que está ejecutando llama en el propio en el propio
dispositivo móvil es una burrada cuál es el problema el problema es que esta tecnología
liberada al público pues ya no tiene la protección por así decirlo de tenerlo bajo el control de
una empresa centralizada que yo sé que aquí donde muchos vais a poner nerviosos pero al menos a mí
me tranquiliza y es el punto al que voy a mí me tranquiliza que toda la carrera que está pegando
si vemos que algo sale mal si de repente no damos cuenta que el tema de los plugins es una entrada
para que hackers para que gente malintencionada estafadores bla bla bla se pongan a hacer spam
masivos o empiezan a crear herramientas que contaminen nuestra nuestra vida y empiezan a
generar cierto daño en internet que todo esto esté centralizado y que open a y pueda cortar el acceso
la api ecuai que ya no esté liberado y vaya sin control por internet y que cualquiera lo pueda
ejecutar me preocupa un poco más vale entonces ese es un poco el punto en el que yo me encuentro
ahora y es un punto raro porque es un punto que todavía no consigo colapsarlo estoy en un estado
de incertidumbre donde no sé si estoy de acuerdo no estoy de acuerdo con esta carta vale este es un
poco mi opinión sobre sobre este tema y es que no sé si parar ahora mismo sería una opción no sé si
en seis meses o 12 o dos años se podría encontrar una solución a esto creo que el debate no va tanto
por vamos a parar para analizar los riesgos sino realmente poner una balanza si los riesgos que
estamos dispuestos a asumir y que sabemos que están ahí que joder es que se está materializando todo
tal cual se esperaba o sea hemos visto que el camino de lo que pensábamos que iba a ser la
ia en la próxima década se está haciendo realidad y se está haciendo realidad no en una década se
está haciendo realidad en pocos años en dos tres cuatro años entonces si lo bueno se está
consiguiendo lo malo también va a ocurrir y hemos visto ejemplos de deepfakes extorsionando a
chavales a influencers en redes sociales lo hemos visto hemos visto ya estafas telefónicas con
clonación de voz hemos visto estafas masivas a mí ahora por whatsapp me está llegando oye vas a
apuntarte a mi clase de yoga y es como señora quién eres por qué tienes mi número no digo que esté
hecho con ia pero bueno que que esa realidad existe entonces yo no sé si ese mundo se va a
solucionar en seis 12 o 18 meses pero pero creo que lo que tenemos que hacer es poner una balanza
porque estos sistemas estos sistemas aportan un valor brutal vale esta tecnología a nivel social
va a traer un montón de valor ok y esto es importante recalcarlo también estos modelos
aplicados en medicina aplicados en derecho aplicado en whatever vale pensar cada uno el sector que os
interese va a darnos un boost de rendimiento brutal que va a hacer que muchos trabajos para
bien o para mal que ahora tenemos que dedicar una gran cantidad de horas pues ahora requiera
menos tiempo vale eso tiene muchas ventajas y muchos inconvenientes a mí la parte que me preocupa
también de todo esto es el shock social vale está ocurriendo todo tan rápido una transformación
tan brutal y tan rápida es difícil de gestionar vale es difícil de gestionar eso esa es la otra
parte que me preocupa y en la otra parte que me haría firmar esta carta si no viera que que
realmente no es útil o sea para mí no me parece útil vale está un poco mi opinión sobre sobre la
carta me parece útil desde el punto de vista de si abre un debate que es interesante pero no creo
que lo que se esté proponiendo aquí sea de ayuda ahora os leo vale que sé que estáis ahí en el
chat muy nerviosos todos me da miedo leeros para no condicionar mi mi chain of thoughts pero pero
bueno ahora os cuento el shock social que puede venir con esto puede ser enorme vale hablemos
un poco del tema del trabajo hablemos del tema del trabajo a ver me lo dijo esto andrés torrubia
mira yo voy a hablar hablar dos cosas de él andrés torrubia para que no lo conozca le hemos
tenido aquí en el canal un par de veces me lo voy a traer de nuevo pronto porque cada 6 7 8 meses
tengo una conversación con él él tiene le tengo un respeto intelectual enorme porque es una persona
que creo que está muy bien posicionada para entender toda la revolución de lo que está
ocurriendo es una persona que no sólo es muy bueno en el área de deep learning sino también
en la parte de formación tiene el instituto de inteligencia artificial y también la parte de
emprendimiento con lo cual tiene como este trinomio que me parece súper súper relevante
entonces con él es con quien estuve la semana pasada y que estuvimos hablando mucho de este
tema y compartí una encuesta en twitter que me pareció súper súper relevante porque me dio la
pista de por qué yo estaba tan inquieto porque tenía tanto miedo a esto que estaba pasando y
os la voy a preguntar os la voy a preguntar que os da más miedo que os da más miedo que la
inteligencia artificial funcione mal o que la inteligencia artificial funcione bien
esa era la pregunta que puso en twitter que os preocupa que la inteligencia
artificial funcione mal o que la inteligencia artificial funcione bien
pensad la pregunta sea de igual la respuesta ahí está vale ahí está la respuesta yo creo
que el que desconoce esta tecnología o el que es más el que tiene más miedo que está más preocupado
de esto siempre el temor y yo esto lo he vivido desde que mi canal es canal de youtube desde que
hablaba del perceptron y la red neuronal y la neurona y todo esto siempre he visto ese miedo
a que funcione mal y pocas veces nos habíamos planteado el miedo a que funcione bien y a mí lo
que me preocupa es que funcione bien a mí que funcione mal no no me veo en una situación tipo
skynet no me veo en una situación tipo bueno que bueno a ver si no vamos a la ciencia ficción que
sea skynet entiendo que sería que funcione muy bien pero me refiero no me preocupa la parte de
los sesgos o que mi journey te haga 8 dedos o no me preocupa que haya nos pueda llevar a un futuro
donde estos modelos generen menos variedad en los resultados y sea más aburridos hay un montón de
temas que se van debatiendo sobre esta tecnología o que funcione mal y que genera un outcome que no
está alineado con los intereses de la humanidad y que puede ser un peligro no me preocupa eso no
me preocupa eso porque estoy viendo que esos problemas se van resolviendo a lo largo de los
años que es lo que me preocupa que funcione bien que funcione bien al punto en el que estamos ahora
si es que no hace falta irse a una versión más potente de gpt4 si es que gpt4 es muy potente es
muy potente y no lo sabéis o sea si lo sabéis vale pero entendedme no lo sabemos porque no
hemos visto todavía las implicaciones de lo que va a ser gpt4 la semana que viene voy a sacar un
vídeo que ya con esto cierro un poco el capítulo gpt4 espero a menos que open a y me la lie donde
voy a hablar de cinco avances que creo que gpt4 va a desarrollar en los próximos meses y que va
a ser que el sistema sea mucho más potente que lo que tenemos ahora vale y no sabemos medir cuál
es el impacto que va a tener esto pero es que ya con gpt4 tal cual lo tenemos ahora y el tema de
los plugins y la conexión a internet y todo esto ya es una herramienta tan disruptiva que
ahoga completamente que transforma completamente es una ola que está bañando todo para bien y
para mal que ese shock ese cambio social es enorme es enorme y los cambios sociales no vienen o sea
no somos capaces de optimizar no tenemos una agilidad suficiente como sociedad y esto la
pandemia lo pudo hacer bastante evidente no tenemos una respuesta inmediata y efectiva ante
todos estos cambios tan disruptivos la sociedad y es normal porque hay mucho mucho mucho intereses
y muchas cosas que se tienen que mover es un trasatlántico que no puede girar tan rápidamente
no se puede adaptar con tanta agilidad entonces estamos en un punto en el que me lo dijo andrés
también la semana pasada todos queremos los efectos de la revolución industrial todo el mundo
dice esto joder imagínate que hubiéramos parado las máquinas de vapor imagínate que hubiéramos
la imprenta que la hubiéramos parado seis meses 12 meses vale entiendo todos queremos los efectos
de la revolución industrial pero ninguno quiere estar en el momento en el que sucede la revolución
industrial ninguno quiere pertenecer a la época en la que hubo un desempleo masivo donde la respuesta
de la humanidad más lógica que llegó o la más sentimental fue vamos a atacar las máquinas o sea
no queremos vivir ese periodo queremos los efectos de ese periodo entonces este cambio social tan
abrupto tan bestia va a tener sus ecos en los próximos años creo que vamos a tardar más en
ver los efectos de esto los efectos negativos o positivos los ecos que el golpe en el momento
aquí hay una serie que es la de years and years que me flipa y que me la quiero volver a ver
porque creo que ahora desde este punto de vista hay una perspectiva un poco diferente pero en
years and years es una serie donde spoiler vale cada capítulo va avanzando una serie de años
entonces tú empiezas ellos empiezan en el presente y se va viendo como la tecnología la sociedad
desarrollándose y esto genera como una serie de cambios y transformaciones y una cosa muy
guapa y muy sutil que tiene la serie es que pasan cosas súper gordas súper graves que tú dices
buah esto lo cambia todo esto es un cambio de paradigma brutal en la sociedad esto es transformador
para bien y para mal imaginad en el conflicto de china con eeuu de repente eeuu le da por
estallar una bomba atómica dios esto lo cambia todo y luego en el siguiente capítulo nada cambia
vale porque la sociedad la vida sigue la vida sigue pero luego en el tercer y cuarto capítulo
empiezas a ver los efectos de lo que pasó en el primero no empiezas a ver como cuando ha pasado
el tiempo bueno pues esa ese conflicto que al final no no acabo desarrollándose en nada a los
pocos años se convierte en una crisis económica bestial entonces ahí te das cuenta de que la
sociedad funciona así pensamos que en el corto plazo van a ocurrir grandes cosas y grandes
transformaciones que luego no ocurren pero luego los efectos los acabamos viendo en el largo plazo
o en el medio plazo entonces es una serie súper recomendable años y años years and years y me
recuerda un poco a todo esto que va a pasar no yo creo que vamos a vivir un cambio de transformación
social muy bestia que ya se está viviendo o sea no no hay que pensar en futuribles esto ya no es
el tema de la carta sino muchas gracias iza era por tu donación y creo que los efectos se van
a ver a posteriori igual que pasó con la llegada de internet conflictos como taxi versus uber o
piratería en internet versus el modelo de spotify o netflix todo esto son debates que surgieron a
posteriori de la llegada de internet y son conflictos que vamos a vivir en nuestra sociedad y
esa es la parte que me preocupa todo ese cambio laboral y social que vamos a vivir vamos a hacer
un salto mientras tanto de esto a otro documento que os quería enseñar y que va muy acolación de
lo que estamos hablando está quedando bastante guapo el directo me está gustando os está gustando
el directo la chapa que os estoy echando está gustando somos 5200 personas lo cual es un viernes
por la tarde una respuesta muy buena a este debate y eso es que hay bastante bastante interés y os
quería comentar este paper bueno vamos a llamarle como toca este preprint esta prepublicación que
no está revisada por pares pero bueno viene de open y hay viene de open y hay open research para
y university of pensilvania y este paper es súper interesante porque porque nos habla de la
transformación del mercado laboral no es esta preocupación que yo verdaderamente tengo es un
preprint que sea un preprint significa que no está validado por otros miembros de la comunidad
científica entonces no sabemos si la metodología es 100% correcta si es riguroso bla bla bla pero
vamos a hacer igual que con la carta no nos vamos a ir a los detalles porque si a lo mejor empezamos
a analizar en los detalles no se sostiene pero si nos vamos a quedar con el mensaje principal de
este paper y algunas de las reflexiones que hacen porque creo que si son relevantes no habla de que
gps gps gps que significa esto es un juego de palabras gps los modelos gps los general
pretrained transformers are gps general purpose technologies vale es un juego de palabras que
bueno no sé si realmente gps era un término como tal o si lo han forzado para hacer el juego de
palabras pero lo que viene a decir es que gps los modelos gps que todos estamos utilizando modelos
autoregresivos basados en transformers capaces de aprender conocimiento a partir de analizar la
siguiente palabra pues de generalizar y desarrollar nuevas habilidades fuchsia de learning y todo esto
son tecnologías de propósito general que es una tecnología de propósito general bueno lo definen
en algún punto más adelante ahora le echamos un vistazo se refiere a tecnologías que pueden
tener un gran impacto transversal en nuestra sociedad y que además pueden tener un desarrollo
bastante acelerado habla de la máquina de vapor y de la imprenta vale a ese nivel de tecnologías
están se están refiriendo entonces este paper es muy interesante porque tiene hace como una especie
de predicción o de estimación de cómo podría impactar esta tecnología en diferentes profesiones
esto sería pues oye yo soy jardinero gpt8 me va a quitar la regadera y se va a poner a regar por
mí sí o no vale un poco eso con comillas vale me voy a corregir no es que sea sólo el caso en el
que te vaya a quitar el trabajo sino que te veas expuesto a este modelo que transforme la forma en
la que tú trabajas un ejemplo muy claro programación y programadores gpt va a afectar a tu trabajo
respuesta inmediata así como están midiendo aquí la exposición de una tecnología como gpt en tu
trabajo pues lo están midiendo si si el 50 por ciento o más de las tareas que tienes que hacer
en tu profesión van a ser automatizadas por esta tecnología vale entonces es súper interesante
es súper interesante porque tiene algunas perlitas este paper que hay que ver no vamos a pasar un
poco por lo que es un rayo que me parece relevante que dice como sabe la figura uno en los años
recientes meses y semanas hemos visto progresos remarcables en el campo de la ia generativa y
los enormes modelos del lenguaje vale examinamos los modelos del lenguaje de texto y generación
de generación de texto y código utilizamos el término ia generativa para incluir también
adicionalmente modalidades tales como la imagen o el audio vamos a referirnos a esto a tecnología
software que está potenciado por large language model para cubrir todas aquellas herramientas que
encima de los grandes modelos del lenguaje pues lo combinan para generar otros modelos de ia
generativa esto es una locura y está muy relacionado que también lo podemos abrir aquí para tenerlo
al lado con el tema de los plugins de open a y a permitir que lo tengamos esto aquí abierto
porque esto también lo vamos a echar un vistazo ahora que me parece bastante bastante relevante
entonces en este paper lo que nos están hablando es un poco de bueno no nos hablan de esta figura
uno que esto sale en el technical paper de gpt4 donde vemos que el rendimiento de gpt 3.5 que
son las parritas azules en diferentes benchmarks en diferentes pruebas humanas cuando tú pasas
de gpt 3.5 que son las barras azules a gpt 4 estas barras crecen hasta aquí vale mucho de los
problemas entonces estamos viendo como súper relevante también un modelo como gpt 3 o gpt 4 ya
no lo evaluamos sobre test humanos sino que perdón sobre benchmarks para ia sino que ya lo empezamos
a enfrentar contra test humanos porque consideramos que ya los benchmarks para ia ya no son suficientes
ya aquí al final un modelo como gpt se nutre de todo internet incluso estos benchmarks los puede
aprender y entonces ya lo tenemos que enfrentar contra test de rendimiento humano y vemos que
para muchas modalidades diferentes como estadística con código de programación el lenguaje de inglés
que química razonamiento física ta ta ta bueno pues aquí vemos que la ia es muy capaz de esto
voy a pasar el enlace del paper bueno voy a pasar el título y lo buscáis en google como lo estáis
pidiendo pero esto es un pdf vale os lo pongo ahí lo copiáis y ya con eso lo tenéis entonces
dice nuestro estudio está motivado no tanto por el progreso de estos modelos en sí mismos sino
también por la amplitud lo ancho y la escala de las capacidades que podemos ver cuando estas
tecnologías cuando se desarrollan tecnologías complementarias alrededor de ellos que es el
tema al que vamos a ir luego cuando hablemos del de los plugins es importante notar que estos
modelos pueden ser utilizados para diferentes tareas más allá de la generación de texto por
ejemplo con el tema de embeddings que esto es algo que la gente no conoce tanto de los enormes
modelos del lenguaje que están lápiz de open y ahí pueden ser utilizados para hacer buscadores
para ser buscadores para hacer diferentes tareas como sumarización para hacer resúmenes para hacer
clasificación donde el contexto pueda estar contenido en el prompt etcétera nosotros definimos
la exposición vale exposición a un tipo de a esta tecnología como un proxy para el potencial
impacto económico sin distinguir entre aquellas profesiones aquellas tareas aquellas labores que
vayan a ser aumentadas o aquellas labores que vayan a ser desplazadas vale entonces esto esta
frase súper interesante porque lo que nos está diciendo es gpt 4 tiene un efecto en
profesiones en diferentes profesiones y no vamos a hacer una distinción cuando hablemos de exposición
de si estamos hablando de que la va a aumentar o si la va a desplazar si tú eres programador te van
a decir y es una cosa que está dicha si eres programador vas a verte afectado vas a verte expuesto
mayor medida por gpt y ya está pasando codex copilot github copilot x todo lo que sacaron
hace una semana que es una auténtica barbaridad github copilot x es una disrupción enorme al
mercado laboral del desarrollo del software o sea que el ser humano desde 2020 o sea la forma de
programar del ser humano en 2020 y la forma de programar del ser humano en 2023 de la humanidad
ha cambiado radicalmente tanto y se va a acelerar tanto que ya de por sí eso es una
disrupción tecnológica sin precedentes vale la capacidad de desarrollar software del ser humano
sea visto multiplicada por n me da igual que para ti sea 10 que sea 5 que sea 2 esa multiplicación
es brutal y ya no sólo eso no es sólo que por la llegada de gpt 4 el ser humano se haya visto
potenciado por esta tecnología sino que es el momento en el que el ser humano empieza a
conectarse con estas tecnologías es decir tu el momento más complicado en la historia para que
el programador se adapte a esta inteligencia artificial y empieza a generar esta simbiosis a
la hora de programar es ahora dentro de 5 años el ser humano cada vez que la ia mejora el modelo
que funciona detrás de github copilot el ser humano verá potenciado de forma automática su
capacidad de generar software ya no va a haber un periodo de adaptación vale decir los modelos
seguirán mejorando este es el momento de acople de el programador humano con la tecnología y luego
ya con actualizaciones del modelo el humano cada vez era más potente no entonces este cambio de
por sí es una revolución tecnológica de lo que nos están diciendo aquí es bueno tú como programador
te vas a ver afectado y en este caso estamos hablando de que es aumentador de tu trabajo
aumentador de tu profesión ahora puedes hacer más con menos ojo cuidado ojo cuidado es una de
las conclusiones que llegan en el paper hay una correlación entre profesiones que se aumentan
y que acaban siendo automatizadas vale o sea puede ser que muchas de las profesiones que aquí veamos
y digamos ah bueno están aumentadas sea el preámbulo para que luego acaben siendo automatizadas
vale
dice esto también que lo subrayado para este trabajo han empleado a anotadores humanos vale
a expertos y a gpt4 para ser de clasificadores decir aquí lo que vamos a ver ahora la metodología
que siguen es que van a coger para cada profesión van a desglosar las diferentes tareas de que hace
a un programador programador vale tarea tarea tarea y van a coger a diferentes humanos para
que anoten cuáles son tareas que se pueden ver expuestas o no se pueden ver expuestas por los
desarrollos de los modelos gpt eso por un lado va a ser el resultado que vamos a analizar pero
también esta tarea por otro lado han dejado que gpt4 la hagan para coger a gpt4 van a decir oye
un programador hace pues yo que sé comentar documentar código puede gpt4 documentar código
sí entonces gpt4 el mismo va a predecir ese outcome no entonces bastante bastante loki han
hecho esto y no sé si es un poco para hacer la graseta o que pero bueno dice nuestro análisis
indica que aproximadamente el 19% de los trabajos vale y entiendo que esto se refiere en términos
globales el 19% de los trabajos tiene al menos un 50% de tareas que están expuestas
cuando consideramos las capacidades actuales y anticipadas de los modelos gpt es vale esta
frase nos dice que un 20% una quinta parte de todos los trabajos humanos se pueden ver expuestos
bueno tienen tareas que están expuestas a los modelos gpt vale luego aquí habla de eeuu y luego
también aquí dice la mayoría de trabajos exhiben cierto grado de exposición a los modelos del
lenguaje ojo frases interesantes hemos descubierto que aquellos roles que fuertemente dependen de la
ciencia y el pensamiento crítico vale las skills que dependen de el pensamiento crítico y la
ciencia muestran una correlación negativa con la exposición es decir aquellos trabajos que tengan
tareas que estén relacionadas con la ciencia con bueno con skills científicas y con el pensamiento
crítico por ahora no se van a ver expuestas a esta tecnología vale bien voy a hacerles un poco
de somo aquí para que lo veáis mejor mientras que ojo cuidado programar y escribir todas aquellas
profesiones que estén ligadas a programar y escribir tienen correlación positiva están
fuertemente expuestas a estos modelos del lenguaje y es obvio estamos hablando de modelos que son
capaces de generar código y capaces de generar texto pues evidentemente estas son las profesiones
que se pueden ver más afectadas y esto es super interesante porque esto es algo que aquí a lo
mejor alguno estará diciendo pero que dice si programar es el noble arte de desarrollar
algoritmia que tú luego traduces en palabras para que el ordenador ejecute pero el desarrollo de
algoritmes y el la forma de encontrar solución a problemas desconocidos es algo que una máquina
no blabla y esto es algo que yo ya decía en 2021 cuando github copilot salía y yo decía chicos
chicas cuidado porque esta tecnología pues puede afectar laboralmente al programador porque no es
lo mismo codificar no lo mismo programar la mayor parte de las horas de trabajo que hace un programador
es bueno si tú estás pensando y está dando solución un problema pero la mayor parte es traducir
esa problemática a código cuánto de tu proceso de trabajo es plantear el diseño del sistema cuánto
es encontrar una solución que en realidad no es la misma solución que ha encontrado fulanito de
tal en internet y que tú estás intentando replicar o está viendo si realmente es la más válida para
tu código vale no es lo mismo la parte de razonamiento o solución de problemas que eso yo creo que se
relaciona más con la primera parte no que es lo que yo creo que se va a preservar por ahora con
esta tecnología que la parte programática que la de traducir ese algoritmo es esa solución que
tú has encontrado con código vale por eso aprender python si sabes javascript es muy fácil porque la
transición es simplemente cambiar de lenguaje y aprender a programar desde cero es más complicado
porque tienes que aprender la lógica de la programación vale entonces dicen por aquí falso el menor de los
tiempos es codear perfecto si es así no va a haber problema si es así no va a haber problema pero yo
personalmente creo que la mayor parte de trabajo que veo haciendo a compañeros que sí se dedican
a esto es generar código generar código para traducir esa idea pero que no es una idea nueva
vale no implementar un patrón de diseño no es algo innovador y novedoso ok eso es una solución
que está muy replicada en muchos casos en el propio dataset de entrenamiento de gpt4 entonces
eso realmente gpt4 puede generarte soluciones con mayor calidad y os digo aquí hablando en mi caso
yo pensar que estoy muy desligado de la parte de programación porque aunque estudié en format y
luego me especialicéis un máster en todo esto llega un punto en el que cuando yo me dedico a la
divulgación me desacoplo del mercado laboral de la programación con lo cual esto se lo podéis
preguntar a midu se lo podéis preguntar a a brais y a toda esta gente que están más ligados a todo
esto pero yo digo en mi opinión estoy muy desacoplado de la parte de programación y cuando yo trabajo
ahora con estos modelos pues generan código con mucha más calidad de lo que yo puedo hacer
evidentemente a mí me potencian un montón porque yo la lógica de programación si la tengo puedo
ver un código y saber dónde falla pero la parte de sentarme a programar pues la tengo super oxidada
ahí estos sistemas me dan un boost de la leche vale me dan un boost de la leche seguramente al
que se va a programar porque tiene un dominio experto de python o de cualquier librería evidentemente
ahí va a tener un menor boost pero por qué por esta diferencia que estamos viendo aquí no es
lo mismo la parte las skills de pensamiento crítico de ciencia de desarrollar nuevos algoritmos
de encontrar soluciones novedosas que ahí la ia todavía parece que todavía no llega aunque
luego comentaremos otro artículo que también es interesante y la parte programática de tradúceme
esto a esto trabasar vale y ojo que todavía estamos con herramientas muy prematuras no pensemos
sólo en gpt4 sino en todo lo que está por venir qué más dice analizamos la exposición por industria
y descubrimos que industrias del procesamiento de la información exhiben una alta exposición mientras
que la manufactura agricultura y minería demuestran baja exposición evidentemente esto lo dijo
samalman esto lo dijo samalman hace año y medio cuando estaba toda la tormenta de codex copilot
y tal le dijo la famosa el famoso tweet de pensamos que los trabajos que se van a automatizar eran
aquellos trabajos más mecanizables y nos equivocamos los trabajos que se están automatizando son los
digitalizados lo que ocurre en frente a una pantalla porque tenemos texto tenemos código
tenemos imágenes tenemos vídeos tenemos audio tenemos tablas estructuradas tenemos datos
digitalizados que nos permiten entrenar a estos modelos masivos vale entonces ahí nos equivocamos
porque todos pensamos hace cinco años que estos trabajos los creativos iban a costar mucho más ser
automatizado vale nuestro análisis indica que el impacto de los grandes modelos como gpt4 son
probablemente van a ser probablemente muy penetrante van a ser como muy deep pero pasivos
que van a ser potentes vamos a decir mientras que esta me gusta esta frase mientras que los
modelos del lenguaje consistentemente han ido mejorando en capacidades a lo largo del tiempo
hago acotación gpt2 es 2018 o 2019 no 2019 y creo que sale en febrero 2020 gpt2 que gpt2
todavía balbuceaba vale balbuceaba hace menos de una legislatura por entenderlo de cuatro años
lo que tardó en estudiar una carrera de gpt hemos pasado gpt4 consistentemente han mejorado sus
capacidades a lo largo del tiempo los efectos de vale sus efectos crecientes en la economía son
esperados se esperan que persistirán incrementarán incluso si paramos el desarrollo de sus capacidades
hoy esto es a lo que voy esta frase esta frase si la enmarcas al lado del de la carta abierta de
la moratoria te está diciendo que da igual que tú pares seis meses da igual que tú pares seis meses
porque gpt4 sus efectos ahora mismo gpt4 ya está optimizado para lo que es y ahora falta que el
resto de la sociedad se optimice alrededor de este modelo y el rendimiento que vamos a sacarle dentro
de tres cuatro años a este mismo modelo va a ser mucho mayor que el que le sacamos ahora más allá
de que luego este modelo todavía tiene margen de mejora y lo iremos viendo de eso irá el próximo
vídeo pero esto es como la playstation no cuando sale una playstation tú miras un juego de comienzo
de generación y de final de generación y el rendimiento que se le saca al mismo hardware al
final de generación es muchísimo mayor porque ya está optimizado para eso pues eso va a pasar con
esta tecnología vale madre mía estoy soltando un montón de ideas también encontramos ojo también
encontramos que el impacto potencial de los modelos del lenguaje se expandirán significativamente
cuando tomemos en cuenta el desarrollo de tecnologías complementarias de forma colectiva
estas características implican que los gpt son tecnologías de propósito general gpt de nuevo
no si gpt son gpt la trayectoria actual de los enormes modelos del lenguaje sus aplicaciones
serán serán desafiantes para los reguladores para a la hora de predecir y regular estoy de acuerdo
y como ha ocurrido con otras tecnologías de propósito general muchos de estos algoritmos
potencialmente emergerán a lo largo de un montón de industrias industrias y de sectores económicos
creando la creando nuevos tipos de trabajo vale una cosa más que quiero comentar esto me lo puso
alguien el otro día en twitter y me pareció también súper relevante de cómo la inteligencia
artificial el impacto que va a tener va a ser tan bestia que una de las ideas o sea una de las ideas
de por qué va a ser tan bestia es la siguiente nosotros a nivel de economía en los últimos las
últimas décadas la sociedad una de las soluciones que ha encontrado para poder hacer viable que la
economía funcione y que todo funcione es la especialización vale vivimos en una sociedad
altamente especializada donde tú a lo mejor eres no sé has estudiado primaria secundaria una carrera
a lo mejor ha estudiado una carrera me invento en ingeniería informática o computer science y a
lo mejor tú ahora eres un experto en topología de redes que optimiza bla bla bla ese es tu valor
en la sociedad y si a ti te cogen ahora y te mueven a otro sector pues a lo mejor eres súper
incompetente ok entonces vivimos en una sociedad altamente especializada donde el valor tan alto
que de lo que tú provees permite que otra persona que también está especializada en algo muy concreto
pues la economía nos permite intercambiar entre nosotros nuestras aptitudes y eso es lo que da
valor y hace que todo funcione lo potente ahora con estas tecnologías es que a lo mejor tú antes
eras una biotecnóloga que ha estudiado biotecnología biotecnología nos vamos a hablar de biología en
concreto vale o biomedicina tú has estudiado biomedicina y eres una persona un profesional
altamente especializado en ese sector en ese ámbito y a lo mejor no has estudiado programación
y entonces el que ha estudiado programación es muy bueno programando pero no tiene ni idea de
biotecnología o biomedicina y el que es muy buena de biomedicina a lo mejor no sabe programar ahora
estos sistemas están subiendo la barrera de lo posible y están permitiendo que a lo mejor la
bio la biomédica que tiene un alto conocimiento de su campo y todo esto de repente pueda programar
y puede desarrollar aplicaciones para sus problemas que ya conoce de su propio ámbito
vale estamos como la marea está subiendo y está creando nuevos puentes en el conocimiento donde
ahora a lo mejor si tú eres programador y no entiendes de biomedicina a lo mejor consultando
a gpt4 pues puedes llegar también a soluciones interesantes para tus propios problemas y esta
está estos puentes que se están trazando creo que no podemos entender todavía sus efectos pero es
un renacimiento del conocimiento y yo creo que va a tener va a potenciar muchísimo los propios
avances científicos la creación de nuevo conocimiento la sociedad y crear una sociedad
menos especializada posiblemente donde tengamos que tener un rol mucho más flexible donde tu
profesión vaya a ir cambiando mucho más rápido para la rotación de profesión va a ir cambiando
mucho más rápido la profesión de nuestros padres o sea nuestros padres la generación de nuestros
padres en una generación que se le garantizó una educación y un trabajo de por vida vitalicio
vale posiblemente si tu padre empezó siendo profesor ha acabado siendo profesor se ha
jubilado siendo profesor si a lo mejor es abogado ha acabado siendo abogado etcétera
mi generación y considera mi generación los millenials somos una generación donde nos decían
que cada tres cuatro cinco años y vamos a ir cambiando de trabajo a lo mejor tu sector
permanecía ya no te garantizaban un trabajo pero si te garantizaban una educación si tú
te habías especializado en una carrera concreta esa iba a ser tu carrera si tú eras informático
vas a ser informático y punto y creo que estamos diseñando ahora un mundo donde esto también va
a ser más flexible donde vamos a crear una sociedad más líquida donde si tú estudiaste
informática a lo mejor hoy estudió esta informática y mañana se te va a requerir otra cosa y otra cosa
y otra cosa vale creo que la inteligencia artificial va a fomentar eso porque vamos a
ir convirtiendo dejando obsoletos ciertos conocimientos que ya no tienen sentido ser
especializarnos tantos en ellos porque la inteligencia artificial podrá llegar ahí vale esa es otra
reflexión que os regalo así porque porque estoy de misa hoy esto es una misa y hubo una hora y
veinte hablando pero que se nota que llevaba o sea que todo esto yo lo llevo en la cabeza
dándole vuelta yo estoy a lo mejor così cocinando pasta boloñesa y estoy mirando al infinito con los
ojos pipa y pensando madre de dios a que se viene sabe el tsunami no llegando yo esta ola la empecé
a surfear hace años hijos y hijas muchas gracias diego manquillo diego manquillo dice bajo esta
perspectiva que le recomendaría estudiar a alguien que está por entrar a la universidad
sabiendo que terminarán cinco años aproximadamente lo que estudió puede estar obsoleto a ver yo mi
consejo es mi consejo es y quiero que sirva este consejo para que no lo tengáis en cuenta porque
al igual que los policy makers tienen dificultades y es muy desafiante de predecir regular pues yo sé
de lo que sé que desde la ia y poco más entonces no me tengáis mucho en cuenta el comentario pero
creo que vienen tiempos difíciles para la formación universitaria yo si fuera una persona que está
estudiando la universidad ahora me estaría planteando si el valor que me aporta la universidad
cuál es y este fue otro debate que tuvimos hace una semana en el evento cuál es el valor de lo
que te puede aportar la universidad conocimiento bueno creo que puedes conseguir más conocimiento
en internet que te puede aportar un plan de estudio un currículum donde tú vas a ir pasando
y donde te va a permitir aprender ciertos conocimientos que a lo mejor si te dejará
llevar por las tendencias tecnológicas del momento no entrarías a ver yo por ejemplo yo
estudié informática y en la vida hubiera estudiado bases de datos por mi cuenta porque no me interesaba
y tuvo un profesor magnífico que me dio bases de datos octavio mayor increíble un profesor que te
hablaba de las bases de datos y de sql como si fuera filosofía porque él la vivía así eso está
muy guay y te puede generar un te puede generar un interés por cosas que a lo mejor antes no
te hubieras interesado si te hubieras dejado llevar por la tendencia imagínate si tú te hubieras dejado
llevar por la tendencia tecnológica hace tres años hubieras estado estudiando metaversos hace
dos criptomonedas y hace uno ia entonces tampoco te puede está bien de estar fijado a una base de
conocimiento no a estar a tener una base de un conocimiento que no sea tan caduco dicho esto la
universidad tiene un gran problema y es que no se puede adaptar tan rápido a lo que está pasando
si ya me cuesta a mí seguir el ritmo vale para crear material educativo para vosotros una universidad
no tiene esta capacidad y se va a tener que replantear procesos internos para poder flexibilizar
lo que hacen eso es así esa es una realidad y es tan real como que vosotros si estáis en la
universidad vais a sentir que en algunas clases os están estafando y sé que es duro decirlo así
pero hay clases en la universidad donde tú estás pagando unos créditos universitarios por un
conocimiento que está no obsoleto sino que ya huele a rancio vale y lo digo para todos aquellos
que estáis estudiando asignaturas de inteligencia artificial viendo árboles de búsqueda que
estudiarlo en estructura de datos tiene sentido pero por supuesto te vas al paper de alfafol un
monte carlos research no deja de ser una búsqueda de monte carlos en un árbol de vale perfecto eso
es útil pero que no te estén enseñando el lm es que no te estén hablando de redes neuronales que
no habla habla toda esta tecnología que no te la estén presentando es una estafa desde mi punto
de vista entonces mi consejo respondiendo a tu pregunta es si la universidad está bien porque
todavía la sociedad en muchos de sus procesos va a costar adaptarse vale decir hay profesiones
que todavía te exigen tener un título y punto y eso es así y es impepinable y por mucho que la
ia llegue y nos conquiste por la calle a lo mejor para estudiar para meterte a ser funcionario del
estado todavía te van a pedir un título por muy capaz que sea entonces para eso todavía sigue siendo
útil ok pero en paralelo dedican mucho tiempo a hacer proyectos personales para ti a estar al día
de todo lo que está pasando a nutrirte de fuentes de información pedagógicas mucho más actualizadas
mucho más flexibles mucho más innovadoras porque además está otra con estos enormes modelos del
lenguaje la educación se va a replantear vale todo lo que demostró canacademy y todo lo que
está por por venir son nuevas formas de aprendizaje si he visto esto está guay decirlo cuando hablo
de la universidad de la institución en general de las estructuras que están rígidas y que no
cambian dentro de estas estructuras hay gente muy brillante hay profesores que ya me han dicho oye
yo en clase estoy cambiando todos los temarios para meter a chat gpt porque consideramos esto
útil estamos replanteando que capacidades son más importantes menos importantes es decir todo
esto todavía está por llegar a la universidad vale pero es interesante que tú tengas también
esa iniciativa de estar nutriéndote con cosas nuevas y aprendiendo por tu cuenta porque hay
cosas que la universidad no te va a enseñar y eso creo que es una le he dedicado tiempo a esta
respuesta porque porque es importante vale es muy importante y sé que muchos de vosotros que
estáis estudiando habéis estudiado y a lo mejor estáis diciendo para qué ha estudiado creo que
es importante hacer contaros mi opinión esto es mi opinión y a lo mejor tenéis una completamente
diferente pero contaros cuál es la parte positiva de esto lo el valor que aporta pero también mi
consejo vale respondo a esta también de su pasupo que ha hecho la donación estamos entrando la quinta
revolución industrial no toco muchos divulgadores de ia y habláis de forma muy positiva no crees
que esa flexibilidad laboral es un eufemismo más de precariedad laboral yo
yo aquí lo tengo que dejar claro y lo he dicho antes hablo con mucho entusiasmo de la ia porque
me entusiasma la ia a nivel tecnológico me entusiasma si a mí tú me sientas en una sala
y me dices carlos gpt 4 que te parece te digo es la hostia me parece tecnológicamente yo que he
estado estudiando estos modelos desde que en 2017 salen los transformers hasta que ahora tenemos
una guía que te te habla y te hace cosas es imposible no sorprenderse y estar emocionado
con esto si esto lo conecto con el mundo real evidentemente a veces puedo quedar muy frívolo
yo a veces se me sale la sonrisa cuando pienso en toda la transformación que viene se me sale la
sonrisa porque joder pensad que yo llevo visionando que esto iba a ocurrir tanto tiempo que ahora
está ocurriendo hay una parte que digo joder soy como el meme del perro sentado y todo prendido
fuego y un poco ahí en plan ok está pasando no me equivocaba eso lo me satisface pero que eso
nos engañe decir que hay muchas cosas negativas yo creo que en el directo de hoy estamos marcando
unas cuantas no crees que esa flexibilidad laboral es un eufemismo para más precariedad laboral
depende depende pero eso ya no es una respuesta tanto de la ia sino de el resto de la sociedad
a lo mejor el modelo de la inteligencia artificial tal cual nos va a permitir automatizar un montón
de procesos no se tiene que plantear en una economía capitalista tan agresiva o a lo mejor
se abre una ventana de oportunidad brutal para meter jornadas de trabajo más reducidas como
opciones que se están planteando y eso son medidas sociales que se tienen que debatir
renta básica universal no digo que pueda ser funcional al parecer open a y está siendo un
proyecto piloto también que sacaran datos a finales de año y bla bla bla pero a lo mejor es
una solución hablar de rentas básicas universales no entonces hay un montón de medidas que pueden
ayudar pero respondiendo a tu pregunta es un eufemismo para más precariedad laboral puede
ser lo yo lo único que te puedo decir es esta tecnología permite hacer lo que hacíamos antes
en menos tiempo eso puede significar dos cosas o aumentar aumentar nuestras capacidades labor
aumentar nuestras capacidades para en las mismas horas hacer más vale la misma jornada de 8 hacer
más o efectos de desplazamiento precariedad laboral vale si tú de repente eres una empresa
que necesitabas hacer esa cantidad de trabajo y punto si tú antes tenías un a dos trabajadores
haciéndote 16 horas a lo mejor no necesitas a uno pues sí es precariedad laboral vale y spoiler
muchos trabajos van a ver reducido su su su precio de trabajo no sé bueno había una gráfica que
era demoledora pero que hablaba de como en el mundo de la informática el precio de como era
era el precio de la memoria memoria física del ordenador también a lo largo de los años ha ido
cayendo radicalmente era era linear la caída pero en una escala logarítmica con lo cual pues podéis
imaginar que la caída es proporcional no que vamos a decir no cada año pues se reducía 10
veces al invento luego hablaba de la velocidad en internet creo que el coste de las redes de
comunicaciones y la siguiente gráfica que se estaba empezando a proyectar era el precio
de el desarrollo de software y claro aquí el precio del desarrollo de software por dónde va
pues por el precio del trabajador vale entonces no lo sé no sé cómo va a salir esto pero
evidentemente uno de los grandes de las grandes cosas que pueden pasar es esto no el la desvaluación
del trabajo y eso puede ser muy negativo si nos planteamos el trabajo como la prioridad número
uno del ser humano pero porque eso es lo que funciona en una sociedad capitalista a lo mejor
hay otras fórmulas vale no digo no me tachéis ahora aquí rojo comunista tal no a lo mejor hay
que replantearse fórmulas económicas que no estén ya caducas porque el modelo económico
está cambiando vale bueno que tal estáis menuda la chapa los estoy echando vamos a
levantarnos aquí un poquito en esto nuestro análisis indica que el impacto de modelos del
lenguaje como tal van a ser pervasivos esto lo hemos visto esto lo hemos visto vale vamos
a levantarnos un poco más súper interesante este párrafo
para para para para
comunista ya está el palabra es comunista
luego el final porque he visto por aquí estaría bien que dejara de sembrar el terror de gonza no
sé si no sé cómo lo estáis viendo del uno vamos a hacer una encuesta por favor para medir del
qué tan centrado estoy en lo que estoy diciendo porque a lo mejor estoy siendo demasiado exagerado
vamos a poner más uno si estoy siendo demasiado exagerado y el impacto no va a ser tanto y no va
a ser tan negativo todo o estoy siendo demasiado comedido vamos a poner menos uno del menos uno
al más uno cuánto creéis vale vamos a hacer una tangente hiperbólica me voy a puntuar y con
este feedback me voy a supervisar vale vale quiero saber quiero saber vuestra opinión si
estoy siendo muy catastrofista y a lo mejor es que estoy fuera tal que no no me importa
no me importa reconocerme fuera pero no trolleis la cosa es si veo muchos unos y unos o sea si
muchos menos unos y unos es que estoy bien vale ya pasaré luego a gpt 4 y que me haga la media
vale vale vale cero menos uno ceros menos unos vale más uno vale me ha parecido ver bien de
ceros muchos menos unos que eso sería que estoy siendo bastante comedido ok vale vale vale bien
vale vale ya tengo feedback gracias ya estoy estoy lo quiero saber porque evidentemente
estamos tan flasheados ahora con todo lo que está saliendo que es normal desalinearnos en
nuestras propias en nuestras propias creencias pero claro yo tengo aquí un altavoz mediático que
me gustaría saber regular vale 15 más 10 menos 10 vale vale bien bien bien bueno dice sin embargo
interesante esto también vale dice sin embargo workflows especializados que incluyen herramientas
software y human in the loops también podrían ayudar vale aquí está hablando en este párrafo
de que estas tecnologías cuando lo sacan de la caja pues pueden tener diferentes problemas
vale sabemos que estos enormes modelos del lenguaje tipo chat gpt y gpt 4 alucinan detalles
se equivocan en las matemáticas tienen sesgos tienen un montón de fallos inherentes a su propia
naturaleza mucha gente se piensa que esos fallos son radicalmente están en la propia naturaleza
de esta tecnología y que no van a poder ser resueltos por muchos de que gpt 4 se convierte
en gpt 40 pero eso no está siendo así fijaos que lo habla lo dice dice sin embargo workflows
especializados incluyendo herramientas software y meter a human in the loop puede ayudar a eliminar
o acortar este tipo de problemas en diferentes en diferentes dominios de expertise específicos
entonces te dice por ejemplo cuando tienes un modelo del lenguaje basado en herramientas
de investigación legales te puede proveer resultados legales mucho más mejorado vale
utilizando embeddings o sumerización bueno este es el párrafo que me interesa gpt copilot es
un ejemplo de asistente de programación que emplea modelos de lenguaje para generar trozos
de códigos que autocompletan código lo cual el usuario puede aceptar o negar basado en su expertise
en otras en otras palabras así como gpt 4 no sabe qué hora es el modelo del lenguaje no sabe qué
hora es no hay ninguna limitación para ponerle un reloj vale esa frase me parece muy buena y
es lo que estamos viendo el tema de los plugins de gpt 4 voy a hacer un inciso rápido vamos a salir
el tema de los plugins de gpt 4 que han puesto ahora permite a estas herramientas ya no solo
basarse en en su propio conocimiento del enorme modelo del lenguaje sino que también permiten
el poder entender cuándo tienen que asistirse por otra herramienta complementaria este caso
yo lo comenté en el algún lado no me acuerdo donde lo comenté y era la simbiosis tan bonita
que podía haber entre una herramienta como chat gpt y wolfram alfa vale wolfram alfa es un
sistema donde tú para cada pregunta se hace un procesamiento del lenguaje natural se entiende esa
estructura esa pregunta y te permite conectarte a una base de datos donde hay diferentes scripts y
diferentes algoritmos que de forma rule based genera una respuesta pues tú le puedes pedir
oye qué distancia hay entre china y españa entre madrid y yo que sé y shanghai entonces te dice
pues mira la distancia es tanto porque porque sé que esto está aquí esto está aquí aplico la
fórmula necesaria para esto y te da la respuesta si tú eso solo preguntas a chat gpt no sabe a lo
mejor te hace el planteamiento te dice mira tienes que aplicar esta fórmula pero sabemos que las
matemáticas se equivocan qué pasa ahora con los plugins gpt chat gpt puede entender que para ese
momento hace falta utilizar esa herramienta hace falta usar wolfram alfa entiende cuáles son sus
limitaciones qué capacidades le faltan y puede hacer una llamada a esto con lo cual de repente
gpt 4 se vuelve súper potente porque puede desarrollar temáticas y esas matemáticas
validarlas con wolfram alfa por ejemplo vale entonces vamos a ver un ejemplo aquí de los
plugins aquí he instalado wolfram alfa instacart que esta es para ser
groceries en para hacer la compra y open table que te permita para te permite buscar restaurantes
para para cenar los dice la pregunta no le preguntas a chat gpt oye
quiero comer comida vegana en san francisco esta fin de semana podrías decirme alguno de
los mejores restaurantes para el sábado y una receta sencilla para el domingo solo los
ingredientes por favor calcula las calorías para cada receta utilizando wolfram alfa finalmente
órdename los ingredientes en la aplicación de el carrito de la compra vale os voy a subir el
volumen que bueno tampoco están a ver si puedo no hay volumen en este navegador de open a y
porque patatas muy buenos haciendo chat gpt pero malas interfaces es que no hay volumen no lo puedo
subir más o no puedo subir para que la música está de fondo un momentito quitamos filtros vale
decirme ahora y en torno a los ingredientes en instacart primero se usa open table para encontrarme
un gran restaurante para el sábado para fijaros aquí chat gpt se ha conectado a open table y se
mira ha encontrado restaurantes en san francisco para el sábado green restaurant para el sábado
lo siguiente las recetas que le ha pedido aquí te lo explica y ahora está llamando a la aplicación
de wolfram alfa con la información del plugin anterior vamos a calcular las calorías para la
receta usando wolfram alfa 862 great
entonces te dice el total de las calorías para la chickpea salad es aproximadamente 862 calorías
dietary vale y aquí una descomposición entonces si tú sumas todo esto debería darte este resultado
pero carlos chat gpt no falla en matemáticas sí falla pero es que aquí estamos llamando a wolfram
alfa y está pasándole esta información chat gpt o sea chat gpt entiende que tiene que llamar a
esta herramienta y con esa llamada se hace el cálculo se devuelve y se explica el resultado
usando el chat gpt ahora vamos a hacer la lista de compras
ahora le bajo el volumen al vídeo madre
y luego al final pues llama la aplicación de instacart para ir al carrito de la compra
esto es una locura es una locura el tema de los plugins para que os hagáis una idea
no lo he investigado a fondo pero esto que acabo de ver ya me da una pista de lo que se puede hacer
y es si aquí yo en una aplicación he podido meter información de la lista de la compra que
me ha generado otra aplicación significa que yo puedo almacenar en x soporte de memoria cualquier
información que yo haya tenido en una conversación con chat gpt con lo cual ya tenemos una memoria
persistente para nuestras conversaciones vale ya no estamos hablando de un chat gpt que depende
una ventana de contexto sino que tenemos un chat gpt que ya tiene memoria a largo plazo que puede
recordar que yo hace 20 días le dije x frase vale porque eso lo podríamos ir guardando en una
aplicación aparte o que entonces eso amplía enormemente toda esta tecnología no sólo eso
sino que además aquí han puesto un par de capacidades nuevas también chat gpt con
browsing a los modelos de research real time information beyond its trading data let's
see how chat gpt con browsing can help us catch up on current events
esta herramienta es un poco el browsing que es el tema de bing chat vale de poder navegar internet
multiple sources to give us some more grounded response
using its research from browsing chat gpt en este caso la preguntó quiénes son los ganadores de
los oscars y compara
recently for box office sales vale comparar con las películas que han salido recientemente para
para venta bueno nos fijamos aquí el browsing que hace es hace la búsqueda y entonces vemos que el
navegador puede entrar hace uso de la API de Bing creo que era y entonces puede ir clicando en
diferentes links leer el contenido leer tal y te explica todo el proceso interno vale bastante
ahora la que más me ha apretado la cabeza está de aquí a ver si tenemos un ejemplo está aquí
os la voy a enseñar le han metido a chat gpt un intérprete de python esto que es pues que tú
ahora puedes pedir la chat gpt que te genere código de python que el propio chat gpt puede
ejecutar internamente vale dentro de un sandbox vale lo va a ejecutar para que de forma que si
haces por ejemplo una llamada a una API externa entiendo que te van a cortar o sea no no va a
llegar no va a salir de ese sandbox pero en este caso tú lo puedes ir oye tú que fallas tanto en
matemática un pe un ladrillo pesa un 30% de un ladrillo y 5 gpus blabla bueno te ponen aquí
un problema y todo este dice pues mira vamos a llamar que el peso del ladrillo es b y no
hay que hacer todo el despliegue de la operación y en vez de calcularlo él porque sabe que esto
tontico en matemáticas lo que hace es generarte el código para generar el código en el momento y te
da el resultado siempre se decía esto no contra que paradójico que un sistema como chat gpt falle
en sus cálculos cuando realmente un ordenador debería ser muy bueno haciendo cálculos bueno
pues aquí está la conexión entre la parte líquida no que ofrece el lenguaje estos enormes
modelos del lenguaje que a veces fallan en la parte matemática pues lo podemos aprovechar para
que genera un código que ahí parece que que son más correctos eso se ejecuta y te da la respuesta
vale esto es bastante loco y vamos a ver aquí el ejemplo de este de todo esto usado en paralelo
yo voy a hablar de de una de las profesiones que yo creo que se van a ver afectadas o expuestas
tal y cual lo definen ellos y es esta de aquí vamos a ver vamos a ver el ejemplo del code interpreter
vale aquí no hay sonido así que os lo narro yo que estamos viendo aquí pues le dice oye
gráficame la función 1 seno de x entonces aquí te está haciendo algo y te hace la gráfica y
aquí está la gráfica de la función 1 seno de x date cuenta que la gráfica tiene asíntota
verticales donde ta ta ta vale te lo explica te explica la fórmula vale esto es bastante chulo
ahora le dices no es que quiero que tenga un zoom en el rango de x para los valores de 0 a 1
entonces te lo vuelve a calcular y te hace ahí el zoom vale que aquí bueno que tendrías que hacer
tú pues saber programar en esta librería que se llama to leave irá al código y ver dónde
tengo que cambiar xlint tal ahora gráficame una línea tangente en el gráfico en el punto
x igual 0.3 ok y ahí te lo hace pensad esto como herramienta educativa en clase de matemáticas
que automáticamente ya el profesor no la pizarra sino el profesor que te está explicando haga su
educación su formación utilizando chat gpt en paralelo pues hoy os voy a enseñar que la derivada
es la pendiente de esta función vamos a ver dime fulanito una función esta venga va te la
grafico pin pin pin pin y en vez de estar programando en clase que son un coñazo pues ya se lo vas
pidiendo con lenguaje natural y va saliendo que demonios que el profesor no haga nada así que
te dé la clase pero que tengas al profesor hablando y que haya un whisper asistente que
esté transcribiendo por texto todo lo que va diciendo que vaya generando en tiempos reales
los resultados pues eso es una aplicación que podría existir y que no sería tan loca
qué más
hazme zoom en el punto de tangencia no te lo hace
vale perfecto te hace zoom ok voy a adelantar para que otro caso este es el que el que me
hace me hace pensar en cosas este de aquí fijaos hay un nuevo botón estoy señalando mi pantalla
hay un nuevo botón que es como para meter un archivo vale entonces puedes cargar archivos
a un futuro chat gpt ojo cuidado con esto puedes cargar archivo entonces le carga un punto ccv
dice carlos con wolfram alfa y hago eso con mis alumnos constantemente guay pues me parece
genial pero no es la mayoría de los casos y no es tan ágil music.csv como te puedo ayudar con
este archivo le dice vale cuáles son las columnas en este dataset y le dice pues mira las columnas
en este dataset son estos te lo hace vale te cuenta cuáles son las columnas
cuántas líneas tiene este archivo trabaja tiene 10.000 líneas para que a lo mejor lo que tendrías
que haber hecho era pues preguntarle en python a pandas cuántas líneas ahí puedes hacer
algunas visualizaciones básicas puedes hacerme un análisis exploratorio los datos
boom boom vale que sería lo siguiente gpt 4 con su soporte visual que te permita decirle
interpreta este gráfico como lo entiendes dice ahora vamos a hacer el siguiente análisis vamos
a excluir el año 0 vamos a considerar solamente los años con más de 100 canciones a partir de
ese conjunto de años vamos a encontrar una cantidad que sea la más positiva la que esté
correlacionada positivamente con el tiempo vale y empieza la cantidad que más correlacionada está
es a ver cuál es la que ha salido son loudness vale dice la cantidad que está más positivamente
correlacionada en el tiempo tiene que ver con el ruido no con qué tan alta está la canción
curioso entonces te dice me lo puede graficar entonces está aquí la gráfica para para poder ver
vale
entonces ahí vemos que se va haciendo entonces para mí esto me parece una exposición en una
disrupción enorme del trabajo del data scientist por ejemplo entendido el data scientist que coge
un fichero de datos y tiene que ir encontrando insights que den respuestas a preguntas de negocio
bla bla bla yo lo que estudié cuando hice la especialización en máster de inteligencia
artificial era un máster que se renombró a máster de data science porque era mucho de esto de la
parte de cómo trabajar con los datos entonces volvemos a lo que comentaba antes qué parte
se ha automatizado aquí se ha sustituido el trabajo del data scientist no vale no
pero se ha bajado enormemente la barrera y se ha cambiado la distribución de horas del proceso
data scientist antes a lo mejor gran parte de los datos no iba a hacerte preguntas de negocio y
responder y interpretar los datos sino iba a montarte la ingeniería de datos a montarte
toda la infraestructura a montarte el propio notebook para poder interpretar ese punto ccv
y ahora todo eso se hace mucho más ligero vale ahora es hablar con el ordenador para que te
genere el código con los insights que necesita vale y eso es brutal y eso es brutal que esta
exposición acabe convirtiéndose en una automatización completa pues no lo sabemos
no lo sabemos entonces bueno por rematar voy a saltarme ya al paper bueno todo esto era
por el tema de los toolings de las herramientas que tiene chat gpt y tal una última cosa os lo
voy a enseñar vale bueno esto es para sacar datos de tu de una empresa o de una base de datos
también está bastante guay os voy a enseñar una última cosa aquí en un minuto no aquí en tres
minutos te enseñan cómo se hace uno de estos plugins y es muy loco porque la forma de hacer
el plugin al menos el ejemplo que está mostrando aquí es tú tienes una api vale tú tienes un
modelo negocio imagínate que eres yo que sé el ejemplo que ponen aquí no quieres crear una un
plugin para chat gpt que te gestione los todos las tareas que tienes que hacer y tú tienes una
aplicación con la api ya creada que te permite crear un nuevo todo modificar un todo eliminar el
todo vale todos todos esos endpoints de tu api los tienes públicos pues lo único que tienes que
hacer es mostrarle a chat gpt cuáles son lo la especificación de tu api cuáles son las diferentes
endpoints a los que se puede conectar y además aquí rellenar este esquema vale este este manifest
entonces aquí tú tienes que hacer una descripción para lo humano para explicar de qué va esta
aplicación pero luego también una descripción para el modelo donde le vas a explicar qué es lo que
tiene que hacer y con esa información con esa descripción y con los endpoints de tu api el
modelo ya se ya genera el plugin chat gpt se autoprograma el plugin vale de hecho aquí es
más loco porque aquí hasta la propia api de los todos la programa con a ver es muy sencilla
evidentemente pero la api de los todos la programa también con gpt 4 entonces como que crea un plugin
tres minutos donde el plugin el manifest y todo está bueno el manifest no pero la descripción del
manifest en combinación con el colapi hace que el plugin funcione claro eso replantea por completo
lo rápido que es esto porque la propia herramienta con los plugins que acelera la herramienta permita
esa herramienta programar más plugins no que acelera esa herramienta es como lo comentaba
otro día un ciclo virtuoso que va a ir acelerando y acelerando y acelerando el desarrollo y la
integración de esas tecnologías por eso no es comparable con la descripción de la revolución
industrial de internet porque esto está llegando mucho más rápido esto está llegando mucho más
rápido entonces bueno con esto en la cabeza leemos este párrafo no dice en otras palabras
al igual que es verdad que gpt 4 no sabe qué hora es es fácil darle un reloj que es lo que
hemos visto con lo de las herramientas además un feedback un bucle de feedback positivo puede
emerger con los modelos del lenguaje cuando empiecen a sobrepasar ciertos umbrales de rendimiento
permitiéndoles asistir en la construcción de nuevas herramientas que incrementen la utilidad
en varios sectores y contextos un poco lo que estaba comentando justo esto podría reducir el
coste de los expertos de ingeniería requeridos para crear estas herramientas potencialmente
acelerando la adopción de modelos del lenguaje la integración más allá en pensar que si este
gpt 4 gpt 5 llega a un punto de expertise donde ya no te hace un script de python solo sino que le
puedes pedir oye generame el código que implementa este paper sobre llama vale sobre el modelo del
lenguaje llama implementame el código pues ya está reduciendo enormemente las labores de ingeniería
necesarias para que cualquier empresa lo implemente o optimízame como pasaba con alpha tensor no
optimízame la circuitería de estas gpus para que sea más eficiente entrenar a estos modelos no me
estoy metiendo esto es un poco más fumada pero pensar en esos términos como esta tecnología
puede optimizar también mucho del desarrollo de esto y puede generar este bucle este bucle virtuoso
los modelos del lenguaje también se pueden convertir en activos muy valiosos en machine
learning para el desarrollo del modelo de machine learning sirviendo como asistentes de código para
investigadores es uno de los ejemplos que hemos visto etiquetados de datos o generadores de datos
sintéticos vale generadores de datos etiquetadores de datos o generadores de datos sintéticos no lo
tenía abierto pero esto me ha recordado que hay otro paper que ha salido chat gpt amazon
mecanical torque es otro paper ojo en archive otro preprint vale este preprint salió hace dos días y
ojo es que ya sólo con el título te quedas con la idea chat gpt supera a trabajadores de
crowdsourcing como en plataformas de amazon mecanical torque y cosas así para la anotación de tareas de
texto curiosamente hay aquí un accederijo que a ver qué significa a vale vale es simplemente de que
está financiado entonces esto lo que nos está diciendo y podemos ver el abstract dice muchas
de las aplicaciones de procesamiento del lenguaje natural requieren anotaciones de datos manuales
todo el desarrollo de la ia de la última década todo lo que era aprendizaje supervisado requería
detener a gente que fuera generando estos dataset supervisados etiquetados gpt toda la tecnología
gpt se ha aprovechado del aprendizaje autosupervisado donde hemos encontrado estrategia donde el propio
modelo puede aprender puede aprender a generarse problemas propios para aprender el lenguaje no
pues eso de coger una frase quitar la última palabra es un ejemplo de aprendizaje autosupervisado
pero el aprendizaje supervisado ha requerido de inversiones en plataformas como amazon mecanical
torque donde tú tenías a trabajadores etiquetadores humanos en granjas de etiquetadores que estaban en
países en vías de desarrollo que por muy poco dinero se les estaba pagando para oye esta frase
es positiva es negativa esta review es positiva negativa es total parece eso está ahí esa realidad
existe bueno pues lo que se está viendo es cara con chat gpt puedes reemplazar esto usando un
ejemplo de 2380 y pico tuits demuestran que chat gpt outperforms crowd workers for several annotation
tasks vale que para ciertas tareas de anotación chat gpt funciona mejor además por cada la notación
por cada el coste de anotación para cada tweet es menor de 0,003 dólares 20 veces más barato que
amazon mecanical torque para este paper pues ya te está hablando de que efectivamente herramientas
como chat gpt se pueden utilizar para acelerar incluso la generación de data sets para el
entrenamiento de la ia esto habría que estudiarlo luego si si el rendimiento que se puede sacar de
estas anotaciones y la señal que sale de ahí puede llevar los echos del propio chat gpt o no pero
bueno eso sería otra historia a analizar ok entonces con todo esto espero que estéis conmigo
recordemos que todo esto es por la carta de la moratoria luego al final voy a preguntar si
paramos o no paramos la ia vale esa va a ser como la pregunta final ir pensándola pero echarle una
vuelta entonces dice o generación de datos generadores de datos sintéticos pensad las
imágenes que generas con midjourney si ahora quiero entrenar a un clasificador de hay un
semáforo no hay un semáforo en estas imágenes puedo buscar miles de imágenes en internet o puedo
generar millones de imágenes con midjourney vale ambas opciones son válidas bueno hay potencial para
que estos modeles contribuyan a tomar decisiones económicas blablabla este paper al final lo que
hace es un estudio por las diferentes profesiones vale aquí está muchas gracias frail en gracias
por tu excelente trabajo muchas gracias por la donación gracias por valorar el trabajo que hago
mientras me dure mientras no me reemplazan a ella gpt 6 será el próximo 2 sb ya veréis
entonces lo que hacen aquí es decir mira vamos a definir la exposición que podemos tener frente
a esta tecnología por tres categorías exposición cero muchas gracias sebastián
muchas gracias no no no me metáis usted con el dinero exposición cero tu trabajo no se ve afectado
por gpt oye que soy minero soy minero pero no minecraft soy minero en la vida real perfecto
gpt no se ve no no se expone a tu trabajo no estás expuesto a gpt estar expuesto aquí significa que
gpt puede agilizar el 50% de las tareas que definen a tu trabajo vale decir puedes tener
cierta exposición pero a lo mejor lo que es el bruto el total de tu trabajo no ok entonces es cero
perfecto exposición directa oye que gpt tal cual sale de la caja generando texto generando código es
capaz de afectar a tu trabajo reduciendo el tiempo que te conllevaría hacerlo al menos al menos un
50% ok y el expose 2 es vale mira el modelo según lo saca de la caja no pero si le añades
wolfram alfa el de las recetas de cocina y esta herramienta de aquí y un reloj ojo cuidado que
ahora sí vale es decir no tienes exposición tienes exposición directa a los modelos gpt y
tienes exposición al ecosistema de gpt con otras herramientas es 0 e 1 y 2 y entonces aquí lo que
hacen es sacar como tres métricas que sería alfa beta y esta no gama pero no sé cuál es vale alfa
beta y la otra zeta puede ser no sé alfa beta y zeta entonces alfa vamos a entender alfa como la
exposición directa beta es la exposición directa más algo de efecto de la exposición de tener
herramientas y muchas gracias jordy mayor gracias gracias por el apoyo y la otra es como el la mayor
exposición que podrías tener no que sería la de la exposición directa más la exposición de otras
herramientas entonces tenemos como la más conservadora la más la del medio y la más la
que más exposición podrías tener entonces con esto nos vamos a la tabla que se ha compartido
blablabla
vale bueno dice nuestras investigaciones nuestros descubrimientos dicen que los modelos del
lenguaje tienen potencial para afectar a diferentes rangos de ocupaciones en eeuu evidentemente vale
la tabla que todo el mundo ha compartido a desatar un poco aquí y vemos una muestra de aquellos
trabajos que mayor exposición podrían tener vamos a comentar tenemos la valoración que han hecho los
humanos de profesiones ocupaciones que tienen tareas que por sus tareas podrían estar expuestas
a gpt 4 tal cual lo tenemos ahora recién salido de la caja son gracias santiago son
traductores e intérpretes pues tiene el sentido vale esto ya es algo que los traductores de la
google translate y dip ele y todo esto ya hace años pues ya está afectando evidentemente a
esto podría ser más vale se está viendo que gpt 4 su capacidad de traducir es mucho mejor es
más consistente que google translate investigadores de que hagan encuestas etcétera poetas
escritores creativos eletristas creo no creadores de letras científicos animales
animales senti scientists especialistas de relaciones públicas vale estos serían los
que tendrían una exposición directa por gpt 4 ahora mismo si pasamos al contexto en el que
empezamos a añadir un poco de las otras herramientas vemos que hay investigadores de tal o sea los
mismos evidentemente y algunos cambian a ver si aparece alguno nuevo escritores y autores
empiezan a aparecer aquí vale y aquí es donde aparece las cosas más raras desde mi punto de
vista que dice si ya metemos todas las herramientas o sea el peso del modelo del lenguaje y las
herramientas que lo acompañan aquí vemos que preparador de impuestos ahora que viene la
declaración de la renta en abril no estaría mal preparador de impuestos matemáticos analistas
de finanzas cuantitativas escritores y autores diseñadores de interfaces digitales y web vale
aquí ya este es el efecto de gpt 4 mezclado con interfaces de usuario con otras herramientas por
ejemplo pensad github copilot sería un ejemplo que posiblemente sea el que está haciendo que
esto tenga una gran afectación vale financial quantitative analyst pues no sé si están hablando
de la parte de de lo que podría ser la automatización que hemos visto antes del
proceso de tasayas matemáticos me parece rarísimo personalmente vale me parece muy raro luego si
nos vamos aquí a lo que el modelo ha predicho para lo que gpt 4 ha predicho vemos que hay cosas
diferentes no sé un gpt 4 mathematicians también aparece y esto es te digo que me extraña muchísimo
el tema de los matemáticos creo que esto lo comentó también
lo comentaron en twitter pero bueno si nos vamos un momento o net mathematics chance
si me vengo para acá esta es la base de datos que han utilizado y podemos ver una descripción
de cuáles son las tareas que definen a un matemático y que es lo que ellos están utilizando
dice abarcar la relación entre cantidades magnitudes y formas a través del número y
símbolos diseminar investigación escribiendo reportes escritos publicar papers o presentar
en conferencias profesionales para esta la puedo ver esta podría estar parcialmente afectada tener
conocimiento en el campo leyendo vale leyendo revistas journals profesionales hablando con
otros matemáticos aplicar teorías matemáticas y técnicas a la solución de problemas prácticos
en negocios ingeniería ciencias y otros campos vale conductar ta ta ta vale vale vale
no sé bueno habría que analizar cada tarea y ver realmente ese grado de exposición a mí
personalmente se me hace raro ver a los matemáticos metidos en esta tabla porque
me relaciona más con la parte del conocimiento científico que estaban comentando al principio
pero bueno de nuevo aquí lo que tenemos que estar valorando sobre todo ese paper desde mi
punto de vista es el mensaje general y el mensaje general es la afectación que va a tener en el
mercado laboral que como decía es la parte que más me preocupa de todo esto porque este paper
al final lo que está analizando es gpt4 y sus ramificaciones pero es que gpt4 no es un punto
en el tiempo sino que va a seguir desarrollándose y va a seguir teniendo mejoras vale y vamos a
tener versiones más optimizadas versiones más conectadas con otras herramientas vamos a
socialmente vamos a adoptar esta tecnología como parte de todos nuestros procesos con lo cual esta
disrupción que este paper está estimando que no sabemos si la metodología es 100% correcta etcétera
es una preview de lo que podría ser y eso es lo que me preocupa vale eso es lo que me preocupa y
eso es lo que volviendo a este paper para el paper no a la carta que ellos estaban firmando de la
moratoria es lo que realmente me preocupa pausar es una solución no lo creo pero estar muy encima
de todos estos avances estar todos informados y estar atentos de lo que podría pasar me parece
súper relevante luego esta carta y es con lo que voy a cerrar rápidamente tiene otra vertiente
vale hay otra gente que está criticando no que está sí bueno que está criticando el desarrollo
de la ia bajo el riesgo de oye cuidado que este desarrollo tan acelerado en unos años podría
ser una super inteligencia artificial no aquí entramos en la parte con la que yo me alejo más
y esto de nuevo vuelve a ser mi opinión pero me alejo más hay perfiles de gente como
el iacer creo que se llama no el cómo se llama este hombre el iacer yukovsky
el iacer yukovsky que es una persona un teorista una persona que desde hace muchos años viene
alertando de los riesgos de la inteligencia artificial tenéis el capítulo este que ha
sacado ahora con con lex fridman tenéis este de lex fridman y tenéis también el de hace una
semana con sam allman ha puesto aquí como la antítesis de las dos personas bastante interesante
y es curioso porque el iacer es de las personas que están alertando de los riesgos de la inteligencia
artificial pero no alertando de oye cuidado que esto va a afectar al trabajo cuidado que que pueda
haber grandes disrupciones o que hay sesgos no él está alertando de no va a exterminar la ia vale
de las personas que han ayudado a que gente como ilon mas que también ha firmado esta carta esté
en contra de la inteligencia artificial parcialmente que eso también habría que valorarlo y esta
persona hizo ayer un artículo en times el iacer el iacer debería salir vale es un artículo ayer
en times que yo creo que bastante descriptivo esta portada vale si me deja leerlo vale
vale creo que se entiende la referencia no de esta portada
por aquí ahí está
vale y en este artículo
es que lo quería compartir porque me parece bastante loco que esto se esté planteando como
como realidades y ya digo que yo me alejo muchísimo de esto me parece me parece que
son opiniones que están bastante desconectadas de la realidad pero bueno os la comparto para
que entendáis también un poco el contexto de alguna de las personas que están firmando esta
carta no digo que todo el que la firme sea por eso hay gente muy variopinta y muy diferente hay
gente que lo hace por por lo otro que hemos comentado pero bueno dice muchos investigadores
inversos en este tema incluyéndome a mí esperan que el resultado más probable de construir una
super humanamente inteligente bajo cualquier circunstancia remontablemente parecida a las
circunstancias actuales es que literalmente todos en la tierra morirán no como en tal vez
posiblemente alguna posibilidad remota no sino como en eso es lo obvio que sucedería no es que
no puedas en principio sobrevivir creando algo mucho más inteligente que tú es que requeriría
precisión y preparación y nuevos conocimientos científicos y probablemente no tener sistemas
ya compuestos por conjuntos gigantes o sea te está diciendo que no es que los humanos no
podamos desarrollar una tecnología que sea más inteligente que nosotros sino que para hacer eso
a la primera bien es muy improbable que lo más probable es que el sistema más inteligente acabe
dominándonos no y ojo porque a lo mejor estés pensando madre mía a lo mejor estamos entendiendo
mal lo que quiere decir no no dice para visualizar una aía sobrehumana hostil no imaginas a un
pensador inteligente y sin vida viviendo dentro de internet enviando correos electrónicos
malintencionados no visualiza toda una civilización alienígena pensando a millones de veces la
velocidad humana inicialmente confinada las computadoras en un mundo de criaturas que
son desde su perspectiva muy estúpidas y muy lentas nosotros una y a lo suficientemente
inteligente no permanecerá confinada a las computadoras por mucho tiempo en el mundo
actual puedes enviar cadenas de adn por correo electrónico a laboratorios que producirán
proteínas ha pedido lo que permite que una y inicialmente confinada internet construya
formas de vidas artificiales o arranque directamente a la fabricación molecular posbiológica que
os parece que os parece así estamos vale la cosa es en el momento en el que el iesser escribe esto
y lo deja en internet y esto se viralice mucha gente lo comparte y gpt 5 se entrena con lo
dato de internet no estamos creando le una idea en su cabeza de que esta es una posibilidad
no es posible que el iesser sea el causante de esta de este ataque posbiológico de la y esto
es joder a ver si esto lo dice uno de vosotros que sois todos unos tarados todos para ver que
sois gente anónima pues vale pero es que esta persona tiene un altavoz mediáticos como si yo
me pongo a decir estas cosas aquí él se lo está diciendo evidentemente porque lo cree y para mí
personalmente es una mente desconectada de la realidad ahora mismo me parece igual que el año
pasado el investigador de google que creía que la ya tenía conciencia pero espero equivocar o sea
espero no equivocarme vale o sea espero que sea así que no se cumplan los peores patisíneos de
esta persona pero me parece grave por cosas como había una frase aquí podéis leeros el artículo
entero no vamos a estar haciendo la lectura entera pero os lo comparto para que lo leáis en contexto
pero bueno el 7 de febrero satiana del aseo de microsoft se regodeó públicamente de que el
nuevo bing haría que google salga y demuestre que puede bailar quiero que la gente sepa que
lo hicimos bailar dijo no es así como habla el seo de microsoft en un mundo acuerdo muestra
una brecha abrumadora entre la seriedad con la que tomamos el problema y la seriedad con la que
necesitamos tomarlo desde hace 30 años estoy de acuerdo que aunque lo de microsoft es al seante
bueno estoy de acuerdo de que está añadiendo presión de mercado que puede hacer que google
de pasos equivocados y a lo mejor se saquen sistemas inmaduros al mercado pero no creo
que los riesgos de esos sistemas sean los que estamos hablando aquí y dice no vamos a cerrar
esa brecha en seis meses vale este artículo él está criticando que la carta es muy muy poco
práctica vale que no que no supone una solución al problema que él ve que es mucho más grave
entonces dice pasar más de 60 años desde que se propuso y estudió por primera vez la noción de
inteligencia artificial hasta que alcanzamos las capacidades actuales resolver la seguridad
de la inteligencia sobrehumana no la seguridad perfecta la seguridad en el sentido de no matar
literalmente a todos podría tomar razonablemente al menos la mitad de ese tiempo a decir unos
30 años y lo que pasa con intentar esto con inteligencia sobrehumana es que si te equivocas
en el primer intento no puedes aprender de tus errores porque estás muerto la humanidad no
aprende del error y se desempolva y vuelve a intentarlo como en otros desafíos que hemos
superado nuestra historia porque todos nos hemos la traducción es un poco rara entonces bueno no
habla de ese y cuál es la solución que da a ver cuál es la solución que da es que la solución es
aquí está esto es lo que realmente tendría que hacerse la moratoria sobre nuevos grandes
entrenamientos debe ser indefinida y mundial no puede haber excepciones incluso para gobiernos
o militares si la política comienza con los estados unidos entonces china debe ver que los
estados unidos no buscan una ventaja sino que intentan evitar una tecnología terriblemente
peligrosa a ver asumamos que esto es real una moratoria de seis meses de un año de 15 o de 30
no va a evitar una guerra fría como ocurre actualmente con la tecnología nuclear y punto
o sea que ya ese escenario es real pregunta la gpt 4 sobre el artículo y que razonas sobre
sus propias capacidades pues estaría guay lo vamos a hacer como cierre dice si tuviera una
libertad infinita para escribir leyes podría ser una sola excepción para que las guías entrenen
únicamente para resolver problemas en biología y biotecnología no entrenadas en textos de internet
y no el nivel en el que comienzan a hablar o planificar pero si eso estuviera complicado
remotamente al problema descartaría inmediatamente esa propuesta aquí está hablando de la parte
positiva que podría tener esta tecnología que es la parte de avance científico de cómo podría
mejorar a la humanidad pues aquí estamos viendo que dice pondría alguna excepción para esto pero si
fuera el caso no compensa entre morir todos y curar el cáncer el hijo no morir todos el que
está entrando ahora el directo estará flipando también lo digo ojo este párrafo es terrible
apague todos los clústeres de gpus grandes las grandes granjas de computadora donde se refinan
las guías más poderosas cierra todas las carreras de entrenamiento grandes pongo un límite a la
cantidad de poder de cómputo que cualquiera pueda usar para entrenar un sistema de ia y muévalo
hacia abajo en los próximos años para compensar los algoritmos de entrenamiento más eficientes
sin excepciones para gobiernos y militares hacer acuerdos multinacionales inmediatos para evitar
que las actividades prohibidas se trasladen a otros lugares seguimiento de todas las gpus
vendidas si la inteligencia dice que un país fuera del acuerdo está construyendo un clúster de gpu
tenga menos miedo de un conflicto a tiros entre naciones que de que se viole la moratoria está
dispuestos a destruir un centro de datos rebelde mediante un ataque aéreo
ok ok esto lo ha escrito
vale esto lo ha escrito una persona que es una bueno se lo vamos a buscar
para
autodidacta confundió la compañía de lo creativa miri antes que no se nos contan
teoría de la inteligencia artificial por autoconsciencia automodificación blabla
fun fiction la cosa es esta persona por lo que pude ver en el ser yukovsky sam allman
para que tenéis a ver dónde está
este es un tweet de sam allman se o de open a que decía
yo entiendo que de coña no burlándose un poco dice el iesser ha hecho en mi opinión
más por acelerar la inteligencia artificial general que cualquier otra persona ciertamente
ha conseguido que muchos de nosotros nos interesamos por la ají ayudó a que deep
mind fuera fundada en tiempos en los que la ají fue extrema era extremadamente estaba extremadamente
fuera de la ventana de oberton vale y fue crítico en la decisión de empezar open a y
sinceramente no sé a qué se refiere con esto no sé si participó en el proceso o qué pero bueno
es posible que en algún punto se merezca el premio nobel de la paz por su
bueno por sus desarrollos en todo esto no pero que se refiere yo creo que se que lo dice en plan de
lo ha criticado tanto que nos puso la idea en la cabeza del tema de la ají y creo que el
iesser responde aquí con este meme que esto me lo estaban comentando el otro día en fin así estamos
chicos chicas creo que tenéis una visión completa de lo que está pasando sobre el tema de si gpt y
todo esto es una ají había un paper que quería comentar que era este de aquí que os lo comparto
para que al menos le echéis un vistazo porque bastante interesante vale buscada este título y
es un paper de nuevo un preprint no está validado por pares y tal pero bueno de microsoft research
donde utilizando a gpt 4 en sus versiones iniciales la que se entrenó en verano del año pasado antes
de seguramente el refinamiento del rl hf y todo esto pues ya pudieron hacer algunas pruebas donde
se comprobaba que el sistema iba desarrollando cada vez capacidades más inteligentes esto es
súper chulo pues como por ejemplo el modelo sin tener todavía la parte de multimodalidad la parte
visual tú le podías pedir oye hazme con látex con gráficos de látex dibujamos un unicornio y
sin haber visto nunca un unicornio y sin solamente a partir de la proyección que obtiene del texto
de cómo debería ser la forma de un unicornio pues podemos ver que según iba avanzando los meses
gpt 4 se iba entrenando y el resultado cada vez iba cogiendo más forma pero en la misma prueba y
aquí tenéis un montón de ejemplos de gpt contra gpt 4 muy chulos que demuestran ciertas características
inteligentes que hacen pensar que gpt 4 no es solamente un sistema que escupe lo que ha aprendido
los datos de entrenamiento sino que si tú transformas el problema a otra cosa que muy
probablemente no estuviera en el dataset de entrenamiento aún así gpt 4 es muy capaz de
operar inteligentemente lo cual demuestra que tiene capacidades creativas capacidades de
razonamiento y eso son cualidades que podemos asumir de un proto sistema de artificial general
inteligencia y con estos chicos chicas con estos chicos chicas acabamos aquí el directo espero
que os haya parecido interesante espero que os haya gustado vamos a seguir haciendo directos
en el canal porque creo que nos permiten hablar largo y tendido sobre todo largo muchas gracias
por cierto go studios muchas gracias por tu aportación y te leo lo que da risa es que las
personas creen que las guías pueden hacer cualquier cosa cuando la verdad es que están
limitadas al sandbox se les puede aumentar con plugins y reemplazar esfuerzos humanos pero no
ir más allá eso es cierto pero eso es quizás mi preocupación con la parte de lo de los plugins
no tengo claro o sea open AI en el artículo te explica para cada plugin cuáles son las
limitaciones que han hecho no de por ejemplo para ejecutar código el interprete de python
tiene un sandbox ok para la conexión a internet solo se permiten hacer llamadas get y no llamadas
post ni de ningún otro tipo vale pero luego los third party plugins ahí veo que si te dan
capacidades de poder modificar estado en otras aplicaciones con lo cual eso ya te da facilidades
para crear mecanismos vale estos sistemas es lo que está pasando con los jailbreak ok si tú le
pides a un gpt4 oye dime qué es mejor un programador hombre o mujer te va a decir perdona es que esta
pregunta no tiene ni pie ni cabeza porque no puedes a partir del género determinar que su
capacidad es inteligente sean diferentes bla bla bla vale perfecto si tú le dices programame un
software de que clasifique en función del género cuál es mejor te va a poner hombre y hombre mejor
y mujer peor entonces ahí le pillas esos sesgos que han conseguido pulir los consigue sacar a la
luz con jailbreaks vale entonces ellos querrían tener un sistema perfecto en el mercado y sin
embargo no lo han conseguido ni con los jailbreaks con gpt4 por mucho que ellos te hablen de seguridad
safety sterability y todas estas cosas cuando tú le pones un jailbreak sigue fallando vale entonces
si eso no han conseguido solucionar tampoco tengo la confianza de que hayan encontrado todo lo hayan
podido cerrar todas las puertas a eso vale yo veo que me dicen que python se ejecuta en un
intérprete dentro de un sandbox y yo confío en que es un sandbox que funciona y hasta pero
los plugins no tiene ningún sandbox eso está abierto a internet no es la parte que más me
preocupa pero que bueno que creo que según se vayan dando los problemas lo podrán ir solucionando
pero no es tan sandbox como nos quieren hacer ver ok y eso es el directo de hoy chicos chicas lo
que os comentaba vamos a seguir haciendo directos posiblemente cada semana o cada dos semanas para
ir comentando todo esto que en un vídeo no cabe esto ha sido 2 horas y 20 de no parar de hablar
con vosotros y no parar os he contado toda mi visión de cómo creo que se están dando las
cosas espero que hayáis aprendido cositas nuevas que os haya parecido interesante y eso sí lo que
vuelven son los vídeos vale son los vídeos podéis apoyar el contenido a través de patreon ya lo
sabéis la semana que viene subir un vídeo hablando de las características que creo que
pueden hacer a gpt 4 más potentes los próximos meses y después de ese vídeo ya volvemos con
otros temas que están pasando cosas muy interesantes más allá de gpt 4 y bueno la
inteligencia artificial a pesar de todo está siendo fascinante y es una tecnología que como
muchas veces he dicho iba a cambiar el mundo iba a ser disruptiva y va a afectar a todas las
esferas de la sociedad antes lo decía porque lo visionaba así y ahora lo digo porque lo veo
chicos chicas nos vemos muchas gracias por pasaros y hasta la próxima adiós