Transcripción completa del vídeo:

Ahora la IA es una gran cosa, porque la IA resolverá todos los problemas que tenemos hoy. Resolverá el empleo, resolverá la enfermedad, resolverá la pobreza, pero también creará nuevos problemas. El problema de las noticias falsas va a ser un millón de veces peor. Los ciberataques serán mucho más extremos. Tendremos armas con IA totalmente automatizadas.

Creo que la IA tiene el potencial de crear dictaduras infinitamente estables.

Esta mañana, una advertencia sobre el poder de la inteligencia artificial: más de 1.300 líderes de la industria tecnológica, investigadores y otros ahora piden una pausa en el desarrollo de inteligencia artificial para considerar los riesgos. Jugar a ser Dios: los científicos han sido acusados de jugar a ser Dios durante un tiempo, pero hay un sentido real en el que estamos creando algo muy diferente a todo lo que hemos creado hasta ahora. Sí, quiero decir, definitivamente seremos capaces de crear seres completamente autónomos y con objetivos propios.

Y será muy importante, especialmente porque estos seres se vuelven mucho más inteligentes que los humanos, que las metas de estos seres estén alineadas con nuestras metas. ¿Qué me inspira? Me gusta pensar en los fundamentos, lo básico. ¿Qué no pueden hacer nuestros sistemas y que los humanos definitivamente sí hacen? Casi lo abordamos filosóficamente. Preguntas como ¿qué es aprender? ¿Qué es la experiencia? ¿Qué es pensar? ¿Cómo trabaja el cerebro? Siento que la tecnología es una fuerza de la naturaleza. Siento que hay mucha similitud entre la tecnología y la evolución biológica. Es muy fácil entender cómo funciona la evolución biológica: tienes mutaciones, tienes selección natural. Te quedas con los buenos, los que sobreviven, y sólo a través de este proceso tendrán una enorme complejidad en sus organismos. No podemos entender cómo funciona el cuerpo humano porque entendemos la evolución, pero entendemos el proceso más o menos. Y creo que el aprendizaje automático se encuentra en un estado similar en este momento. Especialmente el aprendizaje profundo, tenemos una regla muy simple que toma la información de los datos y la pone en el modelo y seguimos repitiendo este proceso. Y como resultado de este proceso, la complejidad de los datos se transfiere a la complejidad del modelo.

Entonces, el modelo resultante es realmente complejo y realmente no sabemos exactamente cómo funciona; debes investigar, pero el algoritmo que lo hizo es muy simple. ChatGPT, tal vez hayas oído hablar de él. Si no lo has hecho, prepárate. Lo describe como las primeras gotas de lluvia antes de un aguacero. Es algo de lo que debemos ser muy conscientes, porque estoy de acuerdo en que es un momento decisivo. Bueno, ChatGPT está siendo anunciado como un punto de inflexión y, en muchos sentidos, lo es: su último triunfo supera a la gente. Un estudio reciente de investigación de Microsoft concluye que GPT4 es un sistema de inteligencia general artificial temprano, pero aún incompleto. Inteligencia general artificial. AGI, un sistema informático que puede realizar cualquier trabajo o tarea que un humano hace, pero sólo mejor. Existe cierta probabilidad de que el AGI se produzca muy pronto.

También existe cierta probabilidad de que lleve mucho más tiempo. Pero mi posición es que la probabilidad de que AGI pueda ocurrir pronto es lo suficientemente alta como para tomarlo en serio. Y va a ser muy importante para que estos sistemas capaces y muy inteligentes estén alineados y actúen en nuestro mejor interés.