Sí, ha tomado un montón de mi tiempo, pero es súper genial.
Creo que estamos haciendo mucho de lo que estamos muy orgullosos de.
Esta persona de aquí es Sam Altman, una de las personas que actualmente más podría influenciar al futuro de la inteligencia artificial
y, por tanto, al futuro de la humanidad.
Porque Sam Altman es el CEO de una de las compañías protagonistas en toda esta revolución que estamos viviendo, OpenAI.
La empresa tras Dali2, JAT GPT, la que nos promete un futuro próximo a GPT4.
La empresa cuya misión corporativa es asegurarse de que la inteligencia artificial general beneficie a toda la humanidad.
Y ¿qué es esto que estás viendo aquí?
Bueno, pues esta es una entrevista que se produjo hace unos pocos días a Sam,
donde tratan un montón de temas que tanto a mí como a ti como a cualquier entusiasta de la inteligencia artificial
pues nos tiene que interesar.
Y es que cuando una persona con la visión, pero también la posición de Sam Altman habla,
pues lo más interesante que podemos hacer es escuchar.
Y es por eso que he querido traer al canal algunos de los fragmentos más interesantes de la inteligencia artificial.
Subtitulados, reorganizados por temas, contextualizados con algunos comentarios míos
para que podáis escuchar lo que tiene que decir uno de los grandes protagonistas del futuro.
Y donde se tratarán temas como JAT GPT, Dali2, GPT4,
opiniones sobre Google, Microsoft e incluso la fusión nuclear.
Escucha.
Y esta última idea que comenta es algo que se recoge muy bien en un tema como este.
Y esta última idea que comenta es algo que se recoge muy bien en un tweet que me gusta
compartir mucho, del propio Sam Almond, que dice lo siguiente.
Fijaos, este tweet es de 2021 y ya decía, predicción, la inteligencia artificial causará
que el precio del trabajo que sucede en frente de un ordenador de crezca mucho más rápido
que el precio del trabajo que sucede en el mundo físico.
Esto es lo opuesto de lo que mucha gente, incluido él, esperaba y tendrá efectos extraños.
¿Y por qué sucede esto?
Bueno, pues porque todo trabajo que sucede en frente de una pantalla es más propenso
a estar digitalizado y al estar digitalizado contamos con más datos para poder entrenar
a la inteligencia artificial, por eso contamos con sistemas como ChatGPT que se basa en texto
o Dali2 que se basa en imágenes y nos cuesta mucho más ver ejemplos de robótica o ejemplos
médicos que puedan ser efectivos por la falta de datos.
Y es esta falta de datos lo que ha invertido esta secuencia de heitos que creíamos que
iba a lograr la inteligencia artificial.
Pero de todo esto también hay otra cosa que ha sorprendido a Sam y ha sido el impacto
que ha tenido la propia herramienta ChatGPT.
See
Tenemos un proceso interno en el que tratamos de romper cosas y estudiar impactos, usamos auditors externos, tenemos equipos de red externos, trabajamos con otros labios y tenemos organizaciones de seguridad que miran cosas.
El chat GPT va a causar, o es causar, creo que hay un gran paso ahora sobre el impacto de esto en la educación, la integridad académica, todo eso.
Pero comenzar esto ahora, donde las tasas son todavía relativamente bajas, en vez de solucionar lo que la industria entera tendrá en unos años sin tiempo para la sociedad, creo que sería malo.
Y esta es una cosa que me ha parecido súper interesante, ¿no? Porque existe esta idea de que la economía sea más rápida, más rápida, más rápida, más rápida, más rápida, más rápida, más rápida.
Y esta es una cosa que me ha parecido súper interesante, ¿no? Porque existe esta idea de que muchas de estas empresas que están liderando ahora mismo el progreso de la inteligencia artificial pues se mueven bajo este mantra de Silicon Valley de
¡Muévete rápido y rompe cosas! Esta filosofía de ser ágiles, de sacar tu producto rápido a mercado sin reflexionar mucho de las implicaciones que pueda tener, de forzar a que se abran ciertos debates que serán necesarios cuando estas tecnologías estén.
Y esto en algunos casos se ha criticado. Y aquí me parece muy interesante lo que comenta Sam sobre cómo su filosofía no es tanto moverse rápido y romper cosas, sino vamos a sacar productos que todavía son imperfectos para que poco a poco la sociedad se vaya adaptando a ellos.
Es cierto que cuando sacan ChatGPT pues esto genera una revolución en la educación y muchos alumnos ahora pueden utilizarlo para hacer sus deberes, pero es cierto que esto no deja de ser una herramienta muy imperfecta que en muchos de estos casos pues no va a ser útil.
Lo que ha forzado herramientas como ChatGPT o Dali2 es que se empiece a hablar de una forma más realista de una situación que desde hace años se viene anticipando, pero que no se estaba comentando. Así que en ese sentido pues le doy la razón a Sam.
Y sobre el impacto que ha tenido ChatGPT precisamente en educación, comenta esto.
Pero honestamente una persona determinada va a estar alrededor de ellos y no creo que sea algo que la sociedad pueda o debería depender de a largo plazo.
Estamos en un nuevo mundo ahora, como el texto generado es algo que todos debemos adaptar y eso está bien.
Nosotros lo adaptamos a calculadores y cambiamos lo que testamos en las clases de matemáticas como imagino. Esto es una versión más extrema de eso sin duda, pero también los beneficios son más extremos también.
Por ejemplo, escuchamos a los profesores que se sienten muy nerviosos sobre el impacto de esto en el trabajo familiar. Y también escuchamos a muchos profesores que dicen que esto es un tutor personal increíble para cada niño. Y creo que lo he usado para aprender cosas a mí mismo y lo he encontrado mucho más complejo que otras formas de aprender cosas en el pasado.
Me gustaría mucho tener a ChatGPT enseñarme algo más que leer un texto.
Así que, sabes, es como un mundo evolucionado y todos lo adaptaremos y creo que estaremos mejor por ello y no queremos volver.
Yo lo llevo diciendo mucho tiempo y expertos de la Inteligencia Artificial también lo han compartido y es que es muy difícil poder tener un sistema que pueda detectar por qué un texto está generado por Inteligencia Artificial que luego otra Inteligencia Artificial generadora de texto no pueda volver a superar.
Por lo tanto, no debemos confiar en que en un futuro próximo estas herramientas existan. Y esto lo comenta muy bien Sam.
Y ahora que están hablando de herramientas que transforman el tablero del juego GPT-4. ¿Qué esperar de esta tecnología?
Hay muchos rumores que comentan que este podría ser un modelo muchísimo más grande que GPT-3, hasta el punto de llegar a los 100 billones de parámetros.
¿Es esto cierto y qué podemos esperar de GPT-4? ¿Cuándo lo van a sacar?
Yo lo vi en Twitter.
El rumore de GPT-4 es una cosa ridícula. No sé de dónde viene todo esto, no sé por qué las personas no tienen cosas mejores que especular.
Yo lo entiendo, es un poco divertido, pero que se ha ido por seis meses en este volumen. La gente está pediendo que sea decepcionada, y lo serán.
No tenemos una actual AGI, y creo que eso es lo que se espera de nosotros, y vamos a decepcionar a esas personas.
Lo hará, no quiero hacer una predicción confiante sobre cuándo. Obviamente, la gente estará interesada en ello.
Y todo esto es hablando en el corto plazo, pero cuando alguien como Sam Almond, que lidera OpenAI, mira hacia el futuro, exactamente cómo ve el desarrollo de la inteligencia artificial, y más concretamente, cómo ve el desarrollo de la AGI.
El futuro que me gustaría ver es donde el acceso a la AGI es súper democratizado, donde hay varias AGI en el mundo que pueden ayudar a permitir múltiples vistas y no tener a nadie muy poderoso.
Y que el costo de la inteligencia y la energía, porque se modifica, se vende y se vende, y el gran surplazo de acceso a los sistemas, y eventualmente la gubernanza de los sistemas, beneficia a todos nosotros.
Así que, sí, espero que eso suceda. Creo que la competición es buena. Al menos, hasta que lleguemos a la AGI, creo en el capitalismo y la competición para ofrecer el mejor servicio a los menos precios.
Lo que creo que tendrá que suceder es que la sociedad tendrá que aceptar y setar algunas leyes sobre lo que una AGI nunca puede hacer, sobre lo que uno de estos sistemas nunca debería hacer.
Y una de las cosas geniales sobre el camino de la Tierra de la Tecnología, que estamos en, que es muy diferente.
Antes, cuando llegamos, teníamos una idea profunda de estos juegos, de que los agentes jueguen a uno al otro, y tratan de derrotar a uno al otro, y matar a uno al otro y todo eso, que creo que podría haber ido en una mala dirección.
Ahora tenemos estos modelos de lenguaje que pueden entender el lenguaje, y así podemos decir, hey, modelo, aquí es lo que te gustaría hacer, aquí son los valores que te gustaría alinear.
Y no está funcionando perfectamente todavía, pero funciona un poco y va a ir mejor y mejor.
Y el mundo puede decir, bien, aquí son las reglas, aquí son los muy breves, muy breves, como las reglas absolutas de un sistema.
Pero dentro de eso, la gente debería permitir muy distintas cosas que quieren hacer su A.I.
Y así, si quieres el super, como, sabes, nunca asustar al modelo de trabajo, deberías conseguirlo.
Y si quieres un modelo edgiero, que, sabes, es, como, creativo y exploratorio, pero dice algo que, como, no podrías estar de acuerdo con, o que a algunas personas no podrías estar de acuerdo con, deberías conseguirlo.
Y creo que habrá muchos sistemas en el mundo que tengan diferentes posibilidades de los valores que refuerzan.
Y realmente, lo que creo, y esto va a tomar más tiempo, es que tú como usuario deberías poder escribir un par de páginas de aquí es lo que quiero, aquí son mis valores, aquí es lo que quiero que el A.I. actúe.
Y lo lee y piensa en ello y actúa exactamente como tú quieres, porque es como, debería ser tu A.I. y, sabes, debería estar ahí para servirte y hacer las cosas que crees en.
Entonces, eso para mí es mucho mejor que un sistema en el que una empresa de tecnología dice, aquí son las reglas.
Creo que la sociedad debería regular lo que son, como, los altos altos, pero entonces creo que los usuarios individuales deberían tener una gran cantidad de libertad para decidir cómo quieren su experiencia y su interacción.
Así que creo que es como una combinación de la sociedad, sabes, tenemos, hay algunos astros en las reglas de free speech y la sociedad ha decidido, como, el free speech no es absolutamente absoluto.
Creo que la sociedad también decidirá, como, los modelos de lengua no son absolutamente absolutos.
Pero hay mucha, hay mucha voz que es legal, que te sientas distasteful, que yo sienta distasteful, que él sienta distasteful.
Y todos nosotros probablemente tengamos definiciones diferentes de eso.
Y creo que es muy importante que eso se deje a la responsabilidad de los usuarios individuales y grupos, no una empresa, y que el gobierno, que gobierne y no dicte todas las reglas.
Y sobre esto alguien del público le preguntó pues cómo veía el mejor escenario posible y el peor escenario posible en cuanto al desarrollo de la inteligencia artificial.
Puedo imaginar lo que es como cuando lanzamos probas a todo el universo y descubrimos todo lo que está sucediendo.
Puedo imaginar lo que es como cuando tengamos una abundancia increíble y sistemas que pueden, sabes, ayudarnos a resolver deslizos y mejorar todos los aspectos de la realidad.
Y que nos dejen vivir nuestras mejores vidas. Pero creo que el mejor caso es tan increíblemente bueno que te sientes como una persona muy loca para empezar a hablar sobre esto.
Y el peor caso, y creo que es importante decirlo, es como una luz para todos nosotros.
Estoy más preocupado por un caso de discapacidad accidental en el corto termo, donde alguien se vuelve súper poderoso.
No es como si la AI se acuerda y decide ser malo.
Y creo que todos los creadores de seguridad tradicionales de la AI revelan mucho más sobre ellos mismos que quieren cuando hablan de lo que creen que va a ser la AI.
Pero puedo ver el caso de discapacidad accidental claramente y eso es súper malo.
Creo que es imposible overestar la importancia de la seguridad de la AI y el trabajo de alineación.
Quiero ver mucho más suceder, pero creo que es más sutil que la mayoría de la gente piensa.
Y entonces, la pregunta del millón. ¿Para cuándo la AI? ¿Para cuándo la Inteligencia Artificial General?
The closer we get, the harder time I have answering because I think that it's going to be much blurrier and much more of a gradual transition than people think.
If you imagine like a two by two matrix of sort of short timelines until the AGI takeoff era begins,
and long timelines until it begins, and then a slow takeoff or a fast takeoff,
the world I think we're heading to and the safest world, the one I most hope for, is the short timeline slow takeoff.
But I think people are going to have hugely different opinions about when in there you declare victory on the AGI thing.
Y ante este futuro donde se prevé que va a haber un gran impacto por parte de la Inteligencia Artificial,
pues hay que empezar a plantearse medidas políticas, cambios sociales.
Y sobre esto alguien del público le preguntó por la UBI, que es la Universal Basic Income, la renta básica universal.
¿Cuál era su opinión?
Creo que la UBI es buena y importante, pero muy distinta de suficiente.
Creo que es como una pequeña parte de la solución. Creo que es genial.
Creo que, como la UBI participa más y más en la economía,
creo que deberíamos distribuir el dinero y recursos mucho más que tenemos.
Y eso será importante por el tiempo.
Pero no creo que eso va a solucionar el problema.
No creo que eso le dará significado a la gente.
No creo que eso le dará significado a que la gente se quede completamente intentando crear y hacer cosas nuevas.
Así que considero que sea una tecnología en el poder, pero no como un plan para la sociedad.
¿Puedo preguntarle a la UBI si la UBI es solo parte de la solución?
Tenemos a los adolescentes y todos tenemos trabajos.
¿Qué deberíamos preparar para ello?
Como dije, mi profesor estaba tratando de prepararlos, pero, por supuesto,
podríamos estar mejor posicionados para tener algunas ideas sobre esto.
Resiliencia, adaptabilidad, la habilidad de aprender nuevas cosas rápidamente,
la creatividad, aunque sea una creatividad asombrada.
En algún sentido, antes de que Google llegara,
había un montón de cosas que aprendimos.
Memorizar factos es muy importante. Y eso cambió.
Y ahora creo que el aprendizaje va a cambiar de nuevo.
Y probablemente se adaptará más rápido que creemos.
En general, estamos aquí para construir AGI.
Y los productos y servicios también son tácticos y servicios.
Pero importantes.
Y realmente queremos ser útiles a las personas.
Y creo que si construimos esto en un lab y no sabemos cómo entrar en el mundo,
de alguna manera estamos muy lejos.
Me pregunto lo que hiciste del hecho de que Google ha dicho a sus empleados
que es muy imperfecto, que haría daño a nuestra reputación y que no estamos listos.
Espero que cuando lanzen algo de alguna manera,
los mantengas a ese comentario.
Y aquí es donde Sam Allman ha dicho, espero que cuando saquen productos les sigamos recordando ese comentario.
En cualquier caso, todo esto se verá ahí.
Y aprovechando que se ha abierto el melón de Google,
hay quien aprovecha para preguntarle si la tecnología de OpenAI realmente supone el fin de Google.
Como muchos están diciendo.
Y como ya he dicho, con quien sí tiene muy buenas relaciones es con Microsoft,
que es uno de los principales inversores dentro de OpenAI y es la que se está quedando
pues los derechos para poder explotar en sus productos gran parte de la tecnología que desarrollan estos.
Entonces, sobre esto Sam comenta.
¿Puedes comentar sobre si los reportes son adecuados, si van a estar en Bing, en la oficina, o si ya están en esas cosas?
Eres un reportero muy experto y profesional.
Sabes que no puedo comentar sobre eso.
Sabes que no puedo comentar sobre eso.
Y por último, pero no menos interesante,
hay un punto de la conversación que se centra en hablar de todas las inversiones en las que Sam Almond está involucrado,
desde aquellas que van por la parte de Y Combinator, que es la aceleradora de startups en las que él estuvo al frente,
hasta las que lleva a nivel personal que dice que son en torno a las 400 empresas,
muchas de ellas ligadas a la investigación y al desarrollo de herramientas que podrían ser muy relevantes a futuro.
Y de todas ellas hay una empresa que me parece muy interesante y de la cual han hablado,
que llevo siguiendo desde hace un tiempo y que yo no sabía que él estaba involucrado como inversor, que es Elion.
Una empresa que promete en las próximas décadas poder traer una versión comercialmente viable de la fusión nuclear.
Y estoy súper emocionado por lo que va a suceder ahí.
No tengo la sensación de tener la fusión para trabajar en un lab, aunque eso es genial también,
pero construir un sistema que trabajará a un costo súper bajo.
Entonces, si miras las transiciones de energía anterior, si puedes obtener el costo de una nueva forma de energía,
puede tomar sobre todo el resto en un par de décadas.
Justo fenomenalmente rápido.
Y también un sistema en el que podemos crear suficiente energía y suficiente energía reliable,
tanto en términos de las máquinas no rompiendo, y también no tener el intermitente
o la necesidad de almacenamiento del solar, o algo así.
Si podemos crear suficiente para la Tierra en unos 10 años,
y creo que eso es realmente el desafío más difícil que enfrenta Elion,
cuando nos aportamos lo que toma operacionalmente para hacer eso,
para reemplazar toda la capacidad generativa actual en la Tierra con la fusión,
y hacerla muy rápido, y para pensar sobre lo que realmente significa construir una fábrica
capaz de poner dos de estas máquinas al día por un década,
eso es realmente difícil.
Pero también un problema súper divertido.
Entonces, creo que habrá...
Estoy muy feliz de que haya una fusión. Creo que eso es genial.
También estoy muy feliz de que el solar y las baterías se están creciendo tan baratas.
Pero creo que lo que importa es quién puede ofrecer energía,
lo más barato, y suficiente de ello.
Creo que probablemente va a funcionar.
Pero, como dije antes, creo que será irrelevante comercialmente.
Ellos también creen que será irrelevante comercialmente.
Lo que me es tan emocionante de Helion es que es una máquina simple,
que es un costo y un tamaño reasonable.
Hay un montón de elementos diferentes de ello que el gigante Tokamaks,
pero uno que es muy genial es que lo que viene de la reacción es partículas de carga,
no calor.
Casi todos los otros, como una planta de coca, una planta de gas natural o lo que sea,
hacen que el calor conduzca el turbino de estrés, eso es lo que hace.
Helion hace partículas de carga que empujan hacia atrás en el magnetismo
y conducen el turbino de estrés hacia abajo.
No hay ciclo de calor en nada.
Así que puede ser un sistema mucho más simple y más eficaz.
Y eso creo que se ha perdido de toda la discusión sobre la fusión,
pero es realmente genial.
También significa que no tenemos que lidiar con mucho material nuclear.
Nunca tenemos un sistema peligroso ni un sistema peligroso.
Puedes tocarlo muy brevemente después de que se acabe.
¿Ha demostrado su tesis?
Vamos a tener más para compartir ahí pronto.
Creo que a partir de 2028,
a partir de la buena fortuna con los reguladores,
podríamos conectarlos a la grid.
Creo que haremos una demo muy buena antes de eso.
Si os interesa el tema de la fusión nuclear y en concreto de esta empresa Helion, os recomiendo ver este vídeo de aquí de este canal Real Engineering, donde lo explica muy bien y con mucho detalle y por equilibrar un poco de expectativas también este otro vídeo de aquí donde critica el primer vídeo que os he recomendado.
Así tenéis un poco la visión más completa.
Pero bueno, con esto espero que lo hayáis visto.
Sam Almond es una de las personas más interesantes a escuchar actualmente
para poder entender cómo va a ser el progreso y el futuro de la inteligencia artificial.
Creo que nos ha dado unas cuantas pistas muy interesantes de hacia dónde estamos yendo.
Y siendo él uno de los protagonistas detrás de una de las empresas fundamentales en todo lo que está pasando,
pues me parecía muy interesante traerlo aquí al canal.
Con esto espero que os haya gustado este vídeo que es un poquito diferente a lo que hacemos habitualmente aquí.
Y bueno, os dejo abajo en la cajita de descripción todos los vídeos que he comentado y también los vídeos completos a esta entrevista.
También tenéis por aquí un par de vídeos sobre inteligencia artificial que seguramente son muy interesantes.
Chicos, chicas, nos vemos con más contenido la próxima semana aquí en.csv.