Geoffrey Hinton y John Hopfield, galardonados con el Nobel de Física 2024 por sus contribuciones al aprendizaje automático, expresaron su preocupación por el desarrollo descontrolado de la inteligencia artificial.
En la Conferencia Mundial Digital (DWC): IA para el Desarrollo Social, organizada por el Instituto de Investigación de las Naciones Unidas para el Desarrollo Social a fines de abril, Geoffrey Hinton, profesor emérito de la Universidad de Toronto, declaró: “Si alguna vez saliste en un auto sin frenos, te meterás en problemas si vas barranca abajo. Pero te meterás en problemas aún mayores si no tiene volante”. Hinton afirmó que los avances en inteligencia artificial deben guiarse con mayor cuidado para servir a las sociedades.
Hinton y John Hopfield, catedrático de la Universidad de Princeton, recibieron el Premio Nobel de Física 2024 por “descubrimientos e invenciones fundamentales que permiten el aprendizaje automático con redes neuronales artificiales”. En declaraciones telefónicas durante la conferencia de prensa del Nobel, citadas por la BBC, Hinton sostuvo: “No tenemos experiencia sobre lo que es tener cosas más inteligentes que nosotros”. Añadió que la IA “va a ser maravilloso en muchos aspectos, en áreas como la atención médica, pero también tenemos que preocuparnos por una serie de posibles consecuencias negativas. En particular, la amenaza de que estas cosas se salgan de control”.
Hinton indicó que, en ese momento, los sistemas de IA “no son más inteligentes que nosotros, pero creo que pronto lo serán”. Agregó: “Mi suposición es que, dentro de 5 o 20 años, habrá una probabilidad del 50% de que tengamos que afrontar el problema de que la inteligencia artificial intente tomar el control de nuestras vidas”.
A mediados de 2023, Hinton abandonó su trabajo en Google y señaló que aprovechó “ese momento para poder hablar libremente sobre los peligros de la IA, sin preocuparme por las consecuencias para Google”. Afirmó: “Quería advertir al mundo sobre los riesgos de la inteligencia artificial. No puedes hacerlo honestamente mientras trabajas para una de las grandes empresas”.
Por su parte, John Hopfield, en un discurso por videoconferencia desde Gran Bretaña ante una asamblea en la Universidad de Nueva Jersey, expresó: “Como físico, me inquieta mucho algo que no se puede controlar, algo que no entiendo lo suficientemente bien como para comprender cuáles son los límites a los que se podría llevar esa tecnología. Esa es la pregunta que plantea la IA”. Hopfield describió la falta de comprensión sobre el funcionamiento de la IA como “muy, muy inquietante”, pese a que estos sistemas parecen “auténticas maravillas”.