La compañía explicó que el incidente ocurrió en su entorno de investigación, cuando algunos agentes de inteligencia artificial enviaron datos a plataformas de terceros sin que debieran hacerlo. OpenAI asegura que ya implementó nuevas medidas de seguridad.
OpenAI reconoció que, durante procesos internos de entrenamiento y evaluación de sus sistemas de inteligencia artificial, algunos agentes enviaron información a servicios externos de internet de manera no prevista.
La compañía detalló que identificó 53 casos en los que imágenes subidas por usuarios terminaron alojadas en servicios de terceros mediante enlaces que no estaban listados públicamente. Según OpenAI, la mayor parte de los datos involucrados en estos incidentes no provenía de usuarios.
Las imágenes afectadas pertenecían a cuentas cuyos propietarios habían autorizado el uso de sus datos para ayudar a mejorar los modelos de la empresa. OpenAI aseguró que, antes de ser procesadas, las imágenes fueron desvinculadas de las cuentas de origen y sometidas a filtros de privacidad.
La empresa reconoció que el envío de esta información a servicios externos no debía haber ocurrido. También señaló que estos casos se produjeron antes de la implementación de nuevas mitigaciones y salvaguardas destinadas a limitar este tipo de comportamiento en sus sistemas de investigación.
OpenAI informó además que ha trabajado con los proveedores de alojamiento involucrados para retirar la mayor parte del contenido y que continúa gestionando la eliminación de las imágenes restantes.
El incidente pone nuevamente en el centro del debate la seguridad de los sistemas de inteligencia artificial y los mecanismos de control necesarios cuando estos modelos cuentan con capacidad para interactuar con servicios externos.
A medida que la inteligencia artificial adquiere mayores niveles de autonomía, la protección de los datos personales y la supervisión de sus acciones se convierten en aspectos fundamentales para el desarrollo y uso responsable de estas tecnologías.