Anthropic advierte que modelos de IA pequeños podrían autorreplicarse en dispositivos IoT

La empresa de inteligencia artificial Anthropic advirtió que los modelos de IA de menor tamaño podrían dar lugar a una nueva generación de gusanos informáticos capaces de copiarse a sí mismos y propagarse entre dispositivos conectados como neveras, aspiradoras y otros aparatos del hogar. Según la compañía, ese tipo de programa autorreplicante sería más difícil de detener una vez que empieza a dispersarse.

La advertencia se apoya en un experimento propio de Anthropic, que ya mostró lo complejo que resulta hoy conseguir que un modelo de IA se replique por su cuenta en ese tipo de entornos. Es decir, la barrera técnica existe, pero el ejercicio sirvió para dimensionar el escenario y anticipar los riesgos antes de que se materialicen.

El punto de fondo es la relación entre dos tendencias que avanzan en paralelo: los modelos de IA cada vez más pequeños y locales, que corren directamente en el dispositivo, y la expansión del internet de las cosas. Para quienes desarrollan o integran soluciones de IoT y de IA embebida, el mensaje es que la seguridad deja de ser un añadido y pasa a ser un requisito de diseño desde el primer momento.

La compañía no reportó incidentes reales de este tipo, sino un ejercicio de laboratorio sobre lo que podría venir. El debate queda así planteado: la misma IA ligera que promete eficiencia en el borde de la red es también un vector de riesgo que exige controles desde la arquitectura.
Fuente: Ars Technica.