Anthropic advierte que modelos pequeños de IA podrían autorreplicarse en dispositivos IoT
La compañía alertó que los modelos de IA ligeros podrían dar origen a gusanos informáticos capaces de copiarse solos y propagarse por aparatos conectados. Su propio experimento mostró lo difícil que resulta conseguirlo hoy.
Anthropic advirtió que los modelos de inteligencia artificial pequeños, del tipo que puede ejecutarse en dispositivos conectados, podrían dar origen a una nueva generación de gusanos informáticos capaces de copiarse a sí mismos y propagarse por neveras, aspiradoras y otros aparatos del hogar, lo que los volvería más difíciles de desactivar.
La firma explicó que realizó su propio experimento para medir qué tan factible es hoy alcanzar ese comportamiento autorreplicante, y el ejercicio dejó en evidencia la complejidad de lograrlo con la tecnología actual. Según el reporte, las barreras técnicas siguen siendo altas, pero el escenario deja de ser una simple hipótesis de ciencia ficción a medida que más modelos compactos corren fuera de los grandes centros de datos.
Para quienes desarrollan o integran dispositivos del internet de las cosas (IoT) y sistemas de IA embebida, el aviso refuerza una idea: la seguridad deja de ser un añadido y pasa a ser un requisito de diseño. El mismo modelo económico y ligero que permite llevar inteligencia a un aparato barato puede convertirse, en manos equivocadas, en un vector de propagación de malware.
El caso también apunta a un debate más amplio sobre el despliegue de IA en el borde de la red, donde los equipos tienen menos vigilancia y actualizaciones menos frecuentes que un servidor tradicional. Fuente: Ars Technica.