El CEO de OpenAI publicó una serie de mensajes en X luego del anuncio de que la empresa no saldrá a bolsa este año.
El CEO de OpenAI, Sam Altman, advirtió este lunes que el avance de la inteligencia artificial (IA) podría derivar en dos escenarios de alto riesgo: la pérdida de control de la humanidad sobre sistemas cada vez más capaces y una concentración excesiva de poder en manos de quienes dominen las tecnologías más avanzadas.
En una serie de publicaciones en X, difundidas después de que OpenAI anunciara que no saldrá a bolsa este año, Altman sostuvo que ambos escenarios deben ser evitados y reclamó el establecimiento de reglas de seguridad comunes para las empresas que desarrollan los modelos de IA más avanzados.
“Hay dos formas en que el progreso de la IA podría salir muy mal y que debemos evitar”, señaló el empresario.
Como primer riesgo, Altman planteó la posibilidad de que los seres humanos pierdan el control sobre el desarrollo y las decisiones de sistemas de inteligencia artificial cada vez más avanzados.
“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas”, afirmó.
Para reducir ese riesgo, el CEO de OpenAI consideró necesario que las técnicas destinadas a garantizar la alineación y la seguridad de los sistemas evolucionen al mismo ritmo, o incluso por delante, de las capacidades de los modelos.
El segundo escenario señalado por Altman es una concentración excesiva de poder en manos de una persona, una empresa o un país que controle una inteligencia artificial extraordinariamente poderosa.
“Podríamos terminar en un mundo con demasiada concentración de poder. Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos”, advirtió.
Altman reconoció que evitar ambos riesgos de manera simultánea supone un desafío y describió la situación como un “angosto camino intermedio”. En ese sentido, mencionó como posibles escenarios de riesgo que un país o un laboratorio de investigación termine acumulando un nivel excesivo de poder.
En otra publicación, el empresario reclamó además que las compañías estadounidenses que desarrollan sistemas de IA cada vez más capaces ofrezcan garantías de que actuarán de manera responsable, especialmente ante la aceleración del progreso tecnológico.
“El mundo merece tener la confianza de que las empresas estadounidenses que desarrollan IA cada vez más capaz actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado”, sostuvo.
En ese contexto, Altman respaldó la creación de un marco regulatorio federal que establezca requisitos de seguridad comunes para la denominada IA de frontera, que comprende los modelos ubicados en el límite de las capacidades tecnológicas actuales.
También se mostró favorable a la participación de auditores independientes como parte de los mecanismos de supervisión.
“Damos la bienvenida a un marco federal que establezca requisitos de seguridad consistentes para la IA de frontera”, afirmó. Sin embargo, consideró que las empresas no deberían esperar la aprobación de nuevas leyes para comenzar a implementar medidas de seguridad.
Altman también destacó el papel que debería desempeñar el Gobierno de Estados Unidos en la coordinación internacional de las políticas de seguridad vinculadas con la IA.
“No necesitamos esperar a que el Gobierno actúe para hacer lo que podamos nosotros mismos”, sostuvo, y agregó que la coordinación internacional será uno de los ámbitos en los que las empresas necesitarán el respaldo de las autoridades estadounidenses.
El CEO de OpenAI también advirtió que la competencia tecnológica entre Estados Unidos y otros países no debería llevar a las empresas a asumir riesgos innecesarios.
“Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia”, afirmó.
En desarrollo…