¡Cuidado con el auge de la inteligencia artificial!
El 1 de mayo, el informático Geoffrey Hinton anunció su dimisión de Google debido a las dudas sobre la tecnología que había ayudado a desarrollar. Le preocupa lo inteligente que se está volviendo la tecnología. El doctor Hinton es tan solo una de las numerosas personas influyentes que han dado la voz de alarma sobre la nueva generación de chatbots impulsados por IA, como ChatGPT. «En este momento y hasta donde yo sé, no son más inteligentes que nosotros. Sin embargo, creo que pronto podrán llegar a serlo», declaró a la BBC. «Lo que estamos viendo son fenómenos como GPT-4, que eclipsa a una persona en la cantidad de conocimiento general que tiene y de lejos. En términos de razonamiento, no es tan bueno, pero ya es capaz de hacer razonamientos sencillos. Y dado el ritmo de evolución, se prevé que las cosas mejoren bastante rápido. Así que tenemos que preocuparnos por lo que está pasando».
Entender los riesgos emergentes
Los avances en materia de IA plantean «riesgos profundos para la sociedad y la humanidad», declaró Hinton en «The New York Times». «Miren cómo era hace cinco años y cómo es ahora. Calcule la diferencia y multiplíquela. Resulta aterrador. Es difícil encontrar el modo de evitar que agentes malintencionados la utilicen para cosas malas». A lo que agregó: «Unos pocos se creyeron la idea de que estas cosas podrían ser más inteligentes que las personas. La mayoría pensó que quedaba muy lejos. Yo mismo pensé que quedaba muy lejos. Pensé que todavía teníamos treinta o cincuenta años de margen. Obviamente, ya no lo pienso». No se trata solo de inteligencia. Aquí es donde las cosas se vuelven inquietantes. La IA podría manipular, y tal vez incluso encontrar una manera de matar humanos. «Si llega a ser mucho más inteligente que nosotros, será muy buena manipulando porque lo habrá aprendido de nosotros, y hay muy pocos ejemplos de algo más inteligente controlado por algo menos inteligente», explicó Hinton en una entrevista en directo de la CNN. «Sabe cómo programar, por lo que encontrará formas de eludir las restricciones que le impongamos. Descubrirá formas de manipular a la gente para que haga lo que quiere». Entonces, ¿cuál es la solución? «No tengo claro que podamos resolver este problema. Creo que deberíamos hacer un gran esfuerzo para pensar en formas de resolverlo. En este momento, no tengo ninguna solución».
¿Dar un paso atrás?
En marzo, el multimillonario tecnológico Elon Musk y varios expertos pidieron frenar el desarrollo de los sistemas de IA. Así se ganaría el tiempo necesario para garantizar que sean seguros. El lanzamiento de GPT-4, una versión mucho más potente de la tecnología utilizada por ChatGPT, motivó la redacción de una carta abierta firmada por más de mil personas del ámbito de la IA, incluidos Musk y el cofundador de Apple, Steve Wozniak. Curiosamente, Hinton no firmó dicha carta. «No creo que podamos detener el progreso», explicó a la CNN. «No firmé la petición diciendo que deberíamos dejar de trabajar en la IA porque aunque las personas en Estados Unidos dejen de hacerlo, las personas en China no lo harán».
Palabras clave
AI, Google, Geoffrey Hinton, tecnología, chatbot, ChatGPT, GPT-4, inteligencia