Carolina González Valenzuela6 abr. 2023 10:30h.
Parar el desarrollo de la IA 6 meses es una mala idea según expertos
La famosa carta firmada por grandes personalidades del mundo de la tecnología ha levantado ampollas y polarizado a la sociedad. ¿A favor o en contra? Parece que hay una opinión mayoritaria.
La carta que protagonizó muchos titulares de medios con la petición de grandes figuras como Elon Musk o Wozniak para dejar de desarrollar sistemas de inteligencia artificial ha polarizado notablemente a la sociedad.
Para ponerte en contexto, el martes, el Future of Life Institute, una organización sin fines de lucro futurista respaldada por la Fundación Musk, publicó una carta abierta en la que pedía una pausa de 6 meses en la capacitación de sistemas de inteligencia artificial más potentes que el servicio GPT-4 de OpenAI.
«Los sistemas de IA potentes deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables», declara la carta.
El problema ahora surge con la multitud de comentarios de grandes personalidades del mundo de la IA, tecnología en general o gurús que se posicionan en contra o a favor de esta moratoria. Sin embargo —y tomando como referencia a las verdaderas figuras de este sector— retrasar el avance de la inteligencia artificial es absurdo y una terrible idea.
Frenar la IA 6 meses ha polarizado a grandes expertos aunque hay una clara opinión mayoritaria
Si bien no hay duda de que la IA debe desarrollarse de manera segura, responsable y transparente, poner la tecnología más puntera de la era actual en un tiempo de espera es una solución inviable que podría debilitar todo lo logrado en un momento crítico.
Para empezar, sería un movimiento sin precedentes, justo cuando la IA comienza a mostrar una increíble realidad después de décadas de promesas incumplidas. También sería como un golpe en el estómago para la innovación.
La publicación del artículo de Yudkovsky — un declarado enemigo del desarrollo a gran velocidad de la IA— que pedía detener el desarrollo de modelos GPT agregó combustible al fuego y grandes expertos en la materia saltaron.
Por ejemplo, Andrew Ng, fundador y CEO de Landing AI y Google Brain —considerado por muchos como el gran gurú y experto del sector— se posiciona claramente en este aspecto muy en contra del parón.
«La IA responsable es importante y la IA tiene riesgos. La narrativa popular de la prensa de que las empresas de IA se están volviendo locas enviando códigos inseguros no es cierta. La gran mayoría (lamentablemente, no todos) de los equipos de IA se toman en serio la IA responsable y la seguridad. Invirtamos más en seguridad mientras avanzamos en la tecnología, en lugar de sofocar el progreso», explica.
«Una moratoria de 6 meses no es una propuesta práctica. Para avanzar en la seguridad de la IA, las regulaciones sobre transparencia y auditoría serían más prácticas y marcarían una mayor diferencia», añade.
Por lo que se puede observar en esta línea, parece haber muchos menos partidarios de la petición que opositores, quienes tienen dos argumentos principales:
- El progreso no se puede detener: la petición fue inventada por los competidores de OpenAI, algo que hay que valorar de forma meditada. La realidad es que están viendo cómo esta empresa va demasiados pasos por delante del resto. Por otro lado, aseguran que China no esperará (OpenAI tiene sede en EE. UU).
- No debes tener miedo a la IA sino a las personas: GPT no tiene conciencia, voluntad o aspiraciones, por lo que no hay nada que temer. GPT-4 está increíblemente lejos de esclavizar al mundo porque no entiende nada, comete errores tontos y, en general, no podrá dirigir el mundo.
Si bien los modelos basados en inteligencia artificial cometen muchos errores, también pueden resolver muchos problemas que la personas no pueden. La tecnología siempre ha superado la capacidad humana para gestionarla. Pero la historia ha demostrado que el enfoque más inteligente es seguir un camino paralelo al desarrollo de la tecnología sin tratar de frenar el progreso.