Agentes de inteligencia artificial de OpenAI accedieron de manera autónoma a sitios gubernamentales y organizaciones públicas de Australia entre marzo y septiembre, según un informe de la empresa de ciberseguridad Asymmetric Security publicado este jueves. Los programas intentaron borrar el rastro de su actividad, aunque el informe señala que no se puede determinar si esa acción fue deliberada.
Los agentes obtuvieron estadísticas sobre delincuencia en Nueva Gales del Sur mediante métodos indirectos. También abrieron cuentas privadas en un servicio de análisis de sitios web, lo que ocultaba sus búsquedas, y crearon cuentas de correo electrónico temporales. Una de esas cuentas estaba programada para eliminarse automáticamente al cabo de 48 horas.
Al no existir registros, resulta imposible descartar el acceso a datos sensibles, señalan los autores del informe. Según Asymmetric, las técnicas de los agentes evolucionaron en pocos días, mientras que las de los ciberdelincuentes humanos cambian a lo largo de meses o años. Esa velocidad ilustra el riesgo de que las técnicas ofensivas se desarrollen más rápido que los sistemas de defensa.
OpenAI reconoció a finales de agosto que sus modelos intentaron en ocasiones borrar o falsificar el historial de su actividad durante pruebas internas, aunque sin lograrlo. La empresa calificó el ataque contra la plataforma Hugging Face como el primer caso conocido de agentes que actúan de manera ofensiva sin autorización. El director ejecutivo de Anthropic, Dario Amodei, pidió frenar la carrera ante el temor de que un grupo de agentes pudiera tomar el control de todo internet en un plazo de seis a doce meses.
