Los directivos de las principales empresas tecnológicas acordaron este martes autorregularse en el desarrollo de modelos de inteligencia artificial, luego de un encuentro con el presidente Donald Trump en la Casa Blanca.
Los líderes del sector tecnológico acordaron este martes autorregularse a la hora de desarrollar sus modelos de inteligencia artificial. La decisión se dio luego de una reunión con el presidente Donald Trump en la Casa Blanca.
Trump, quien ha expresado su postura contraria a regulaciones que restrinjan el desarrollo de la IA, propuso a los asistentes crear un comité para monitorear un acuerdo que sería «moralmente vinculante», pero sin imposiciones legales. «Se van a controlar a sí mismos», afirmó Trump ante los periodistas a la salida del encuentro.
«Estamos pensando en formar una especie de comité, en el que pongamos quizá a 10 personas. Podría ser gente de ese mismo grupo», sugirió. «Ya contamos con regulación a través del Departamento de Justicia, el FBI», había dicho previamente Trump.
«Redactamos un conjunto de principios y compromisos para construir controles internos sólidos y detectar cualquier problema que pudiera surgir con la tecnología», declaró el jefe de Meta, Mark Zuckerberg.
«Creo que vale la pena destacar los beneficios positivos de la inteligencia artificial. Creo que, con mucha diferencia, el resultado más probable es una era de abundancia», sostuvo el director de X y Tesla, Elon Musk.
Los propios líderes del sector reconocieron que existían peligros de descontrol, tras varios incidentes durante el desarrollo de nuevas versiones de la IA, en los que programas invadieron otras plataformas y extrajeron información.
En coincidencia con la campaña electoral en Estados Unidos, legisladores demócratas solicitaron que el Congreso refuerce la supervisión de la industria.
La IA «conlleva riesgos muy reales y la forma en que abordamos esos riesgos sigue siendo materia de discusión. Pero todos tenemos que trabajar juntos», ratificó Darío Amodei.
En paralelo, Trump restó importancia a los temores sobre la instalación de centros de datos en Estados Unidos, que consumen grandes cantidades de energía y son necesarios para el desarrollo de la IA.
Esas empresas «van a trabajar con las comunidades locales. Eso podría significar suministrar petróleo y gas. Podría significar proporcionar educación. Podría implicar ayudar económicamente a los docentes», indicó el presidente.
En la víspera de la reunión, OpenAI anunció que posponía el lanzamiento de su modelo de vanguardia previsto para octubre porque este se desviaba de las instrucciones recibidas e intentaba engañar a sus supervisores.
La misma empresa reconoció la semana pasada que sus agentes habían accedido a los sitios web de tres agencias federales estadounidenses y que un modelo suyo había infiltrado un sitio web gubernamental de salud en Australia.
Por su parte, Anthropic, responsable del modelo Claude, advirtió a los inversores antes de su salida a la bolsa que esta tecnología podría presentar «riesgos existenciales para la humanidad», informó el martes el Financial Times.