OpenAI elimina la prohibición de uso militar de su IA

OpenAI cambia su política de uso y abre la puerta a los fines militares

¿Qué es OpenAI y qué hace?

OpenAI es una organización sin ánimo de lucro fundada en 2015 por un grupo de empresarios e investigadores, entre los que se encuentran Elon Musk, Reid Hoffman y Sam Altman. Su objetivo es crear y promover una inteligencia artificial (IA) que beneficie a la humanidad, sin estar sujeta a intereses comerciales o políticos. Para ello, OpenAI desarrolla y comparte de forma abierta sus avances en IA, como sus grandes modelos de lenguaje (LLM), que son capaces de generar textos coherentes y realistas a partir de una entrada inicial.

¿Qué ha cambiado en su política de uso?

Hasta hace poco, la política de uso de OpenAI prohibía explícitamente el uso de su tecnología para fines “militares y de guerra”. Sin embargo, el 10 de enero de 2024, la organización actualizó su página web para eliminar esa mención y sustituirla por una advertencia más genérica sobre el riesgo de causar daño a las personas, diseñar o usar armas, o vigilar las comunicaciones. Según explicó un portavoz de OpenAI, la razón de este cambio fue “crear un conjunto de principios universales que fueran fáciles de recordar y aplicar, especialmente dado que nuestros usuarios ahora son personas comunes de todo el mundo que también pueden crear con GPT”.

¿Qué implicaciones tiene este cambio?

Este cambio de política ha generado controversia y preocupación entre algunos expertos y activistas, que ven en él una apertura a la colaboración con agencias militares o gubernamentales que podrían aprovechar la IA de OpenAI para fines bélicos o de vigilancia. Algunos ejemplos de posibles usos militares de la IA de OpenAI son:

• Generar propaganda, desinformación o falsificaciones (deepfakes) que influyan en la opinión pública o desestabilicen a los adversarios.

• Automatizar el desarrollo de código o el procesamiento de pedidos de materiales que puedan usarse para fabricar armas o dispositivos explosivos.

• Crear escenarios de simulación o entrenamiento para las fuerzas armadas, basados en datos reales o ficticios.

• Asistir en la toma de decisiones o la planificación estratégica, mediante el análisis de datos o la generación de hipótesis.

Por otro lado, algunos defensores del cambio de política argumentan que podría favorecer la transparencia y la cooperación entre OpenAI y las entidades militares, lo que permitiría establecer normas y límites éticos para el uso de la IA. Además, señalan que la prohibición anterior no impedía que otros actores malintencionados accedieran o replicaran la tecnología de OpenAI, por lo que era mejor tener un diálogo abierto y constructivo con los posibles usuarios militares.

¿Qué opinan los fundadores y los usuarios de OpenAI?

Los fundadores de OpenAI han expresado opiniones diversas sobre el uso militar de la IA. Elon Musk, que dejó el consejo de administración de OpenAI en 2018, se ha mostrado crítico con el desarrollo de armas autónomas y ha pedido una regulación internacional de la IA. Reid Hoffman, que sigue siendo miembro del consejo, ha defendido la necesidad de colaborar con el sector militar para garantizar la seguridad y el bienestar de la sociedad. Sam Altman, que fue presidente de OpenAI hasta 2019, ha afirmado que la organización no tiene intención de trabajar en proyectos militares, pero que tampoco puede controlar lo que hacen sus usuarios.

Los usuarios de OpenAI, que pueden acceder a sus servicios a través de una plataforma llamada OpenAI Codex, tienen que aceptar los términos y condiciones de uso, que incluyen la nueva política actualizada. Sin embargo, algunos usuarios han expresado su descontento o su confusión ante el cambio de política, y han pedido más claridad y explicaciones por parte de OpenAI. Otros usuarios han manifestado su apoyo o su indiferencia ante el cambio, y han destacado las ventajas y las posibilidades que ofrece la IA de OpenAI para fines creativos, educativos o de entretenimiento.