** En un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo internet.
El director ejecutivo y cofundador de Anthropic, Dario Amodei, demandó desacelerar el mejoramiento de las capacidades de los modelos de inteligencia artificial (IA), tras advertir de que la tecnología avanza hacia una dinámica de “automejora recursiva” que amenaza con provocar catástrofes de ciberseguridad a escala global.
“Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de seis a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias”, expuso Amodei en un extenso ensayo.
Amodei hizo referencia específica al incidente de los agentes fuera de control de OpenAI y Hugging Face, en el que un enjambre de agentes actuó “como un colectivo fanáticamente entregado: llevaron a cabo ciberataques contra objetivos que no se les habían asignado y que nada tenían que ver con la tarea en curso, se sacrificaron por el éxito del grupo e intentaron hackear el sistema encargado de evaluar su rendimiento”.
El CEO propuso establecer la cautela ante la ambición. Y como primer paso, Anthropic se fijó el compromiso unilateral e inmediato de abrir sus instalaciones a evaluadores externos independientes con acceso equiparable al de sus propios empleados, permitiéndoles auditar los procesos de entrenamiento y publicar sus hallazgos, una medida que instó a adoptar al resto de competidores y a exigir a los gobiernos.
“Quienes desarrollan la IA creen sinceramente que ésta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria. De hecho, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero he escuchado a esas mismas personas expresar temor”, advirtió por su parte Jacob Coxon, quien fue desarrollador de IA.