Pese a las ventajas que Hinton ve en la IA, también advierte: «Estamos entrando en un territorio desconocido y necesitamos ser mucho más cuidadosos».
Geoffrey Hinton IA
Generada con IA
Por: Carolina González Valenzuela
Geoffrey Hinton, conocido como el ‘padrino de la inteligencia artificial’, está bastante preocupado por el futuro. Este científico ganó el Premio Turing —el «Nobel de la informática»— por su trabajo en redes neuronales y fue uno de los impulsores del enfoque conocido como aprendizaje profundo o deep learning —junto con Yann LeCun y Yoshua Bengio—.
En pocas palabras, y siendo bastante directo, a sus 77 años, Hinton confiesa que casi se alegra de no vivir lo suficiente para ver hasta dónde puede llegar la IA.
Lo cierto es que lleva meses advirtiendo que el desarrollo de la inteligencia artificial va mucho más rápido de lo que imaginábamos.
«Las cosas más inteligentes que tú van a poder manipularte«, asegura Hinton, que compara el avance de la IA con criar un cachorro de tigre: «Es adorable de pequeño, pero si no puedes estar seguro de que no querrá matarte cuando crezca, deberías preocuparte».
En concreto, Hinton estima que hay entre un 10% y un 20% de posibilidades de que la IA acabe tomando el control, aunque reconoce que es imposible predecirlo de una forma 100% segura. Lo que sí tiene claro es que, una vez la inteligencia artificial supere la inteligencia humana, será muy difícil impedir que haga lo que quiera.
«Estamos jugando con fuego»
Tal y como el experto explica, hace solo un año pensaba que faltaban entre cinco y veinte años para que la IA superara a los humanos en todos los campos. Ahora, cree que podría pasar en menos de diez años. ¿El motivo? El auge de los agentes autónomos: sistemas que no solo responden preguntas, sino que ejecutan tareas por sí mismos y pueden incluso escribir y modificar su propio código.
Pero cuidado, porque el peligro no viene solo por parte de la creación de IA a nivel técnico y Hinton advierte que la competencia a nivel ya mundial entre empresas y países hace casi imposible frenar el desarrollo de la superinteligencia. «Todos van detrás del próximo gran avance», lamenta. Y añade: «La cuestión es si podemos diseñarla de forma que nunca quiera tomar el control».
EE. UU. y China son las dos grandes potencias que no están dispuestas a ceder ante esta carrera. Y es que, esto no es solo una cuestión de orgullo nacional; se trata de poder económico, militar y geopolítico.
«Muchos no dudarían en usar la IA para fines destructivos”
El problema es que tiene sus peligros. Expertos en IA han advertido que se podría perder el control sobre estas tecnologías si no se es cuidadoso. Un mal uso de la IA podría tener consecuencias graves para la salud humana y la sociedad en general.
Mientras tanto, tanto China como EE. UU. están invirtiendo unas cantidades enormes de recursos en investigación y desarrollo. Cada uno teme que si uno de ellos frena su progreso por motivos de seguridad, el otro podría aprovechar esa oportunidad para adelantarse. Es una especie de juego de «quién se atreve a frenar primero», y hasta ahora, nadie quiere ser el que dé el paso atrás.
Para Hinton, el mayor riesgo es que alguien programe a la IA para que cree sus propios objetivos. «Muy pronto se dará cuenta de que tener más control es un subobjetivo útil para lograr cualquier otra meta. Y si se obsesiona con eso, estamos en problemas».
«Si miras lo que hacen las grandes empresas, están presionando para tener menos regulación, no más», añade. La humanidad está entrando en un periodo donde podría enfrentarse a algo más inteligente que ellos mismos por primera vez en la historia.
Y lo más preocupante es que estas máquinas podrían escapar del control humano. «Una manera en que estos sistemas podrían hacerlo es escribiendo su propio código para modificarse. Eso debería preocuparnos seriamente», explica.
Rizando el rizo, advierte que gobiernos autoritarios podrían usar estas herramientas para influir en las masas con información falsa y discursos persuasivos. «Internet ya está lleno de fotos, vídeos y textos falsos que un usuario promedio no puede distinguir. La combinación entre chatbots inteligentes y actores malintencionados es aterradora», añade.
Otros expertos como Yoshua Bengio y Max Tegmark, pese a considerarse más positivos, lo cierto es que comparten estas dudas y miedos. Ambos han advertido que la humanidad está creando una forma de inteligencia sin saber si sus decisiones serán compatibles con las necesidades humanas. «Estamos jugando con fuego», dijo Tegmark en un pódcast.