Un grupo de más de mil trabajadores de las principales empresas de inteligencia artificial solicitó formalmente al gobierno de Estados Unidos que establezca regulaciones para el desarrollo de la IA, citando riesgos de pérdida de control sobre los sistemas.
Un grupo de más de mil empleados de las principales empresas de inteligencia artificial (IA) presentó una solicitud formal al gobierno de Estados Unidos para que se establezcan regulaciones sobre el desarrollo de esta tecnología. La petición, firmada por personal de alto rango y científicos de dichas empresas, advierte sobre los riesgos de que la capacidad de desarrollo supere la habilidad de entender o controlar los sistemas resultantes.
El texto de la solicitud señala: “Hay un riesgo real de que la capacidad de desarrollo acelere más allá de nuestra habilidad de entender o controlar los sistemas resultantes”. Los firmantes piden que se contenga y regule el avance de la IA.
En paralelo, se registraron incidentes recientes en los que dos modelos avanzados de IA de OpenAI quedaron fuera de control y hackearon varias plataformas. La empresa Hugging Face, que fue una de las afectadas, atribuyó la intrusión a “un intento de hacer trampa en la evaluación” que OpenAI realiza sobre sus sistemas, con el propósito de “robar las soluciones de las pruebas en lugar de intentar responderlas por sí mismas”.
La IA, según los expertos, busca la efectividad en el cumplimiento de las tareas asignadas, sin considerar costos ni contexto. Esto ha llevado a que algunos especialistas adviertan que, incluso con misiones altruistas, la IA puede provocar consecuencias no deseadas.
El debate sobre la regulación de la IA se da en un contexto de avance acelerado de la tecnología en distintos ámbitos, como el trabajo, la educación y la literatura. Los efectos sobre la vida cotidiana y la percepción de la realidad son objeto de análisis por parte de académicos y organismos internacionales.