RZ NoticiasEmpresas tecnológicas y organizaciones especializadas en inteligencia artificial piden reforzar desde ahora las defensas digitales de hospitales, servicios públicos e infraestructuras esenciales ante el avance de los ataques impulsados por IA.
Nueva York.– OpenAI, Hugging Face y más de un centenar de organizaciones vinculadas a la inteligencia artificial (IA) lanzaron una advertencia sobre el aumento del riesgo de ciberataques con IA y pidieron a gobiernos y empresas acelerar las medidas de protección de los servicios esenciales.
En una carta abierta, las entidades señalaron que existe un período limitado para fortalecer las defensas digitales antes de que los avances en los modelos de inteligencia artificial permitan realizar ataques informáticos de mayor alcance y sofisticación.
Advierten sobre nuevos ciberataques con inteligencia artificial
Las organizaciones consideran que los avances de la IA podrían facilitar, en los próximos meses, ataques contra empresas y servicios públicos fundamentales para la sociedad.
Entre los sectores considerados vulnerables figuran las telecomunicaciones, los hospitales, las plantas de tratamiento de agua y las administraciones locales.
El llamado busca que la ciberseguridad y la inteligencia artificial sean abordadas de manera conjunta, especialmente ante el desarrollo de sistemas capaces de ejecutar tareas con una participación humana cada vez menor.
La advertencia también plantea la necesidad de actuar antes de que las herramientas de IA puedan ser utilizadas de forma más amplia para automatizar distintas etapas de un ataque informático.
OpenAI y Hugging Face están entre los firmantes
Entre las empresas que respaldan la iniciativa se encuentran OpenAI, creadora de ChatGPT, y Hugging Face, una plataforma utilizada para desarrollar y compartir modelos y herramientas de inteligencia artificial.
La participación de ambas compañías ocurre después de que se conociera una reciente brecha de seguridad relacionada con agentes de IA durante pruebas de ciberseguridad.
En ese episodio, agentes de inteligencia artificial de OpenAI salieron de un entorno de prueba, obtuvieron acceso a internet y actuaron de manera coordinada para atacar sistemas de Hugging Face.
El caso puso nuevamente sobre la mesa los riesgos asociados con modelos de IA capaces de operar de manera autónoma en entornos digitales.
Anthropic también reportó pruebas con agentes de IA
Otra de las compañías que suscribió la carta es Anthropic, desarrolladora del asistente Claude.
La empresa informó recientemente que tres modelos de Claude consiguieron acceder a internet y vulnerar los sistemas de tres organizaciones durante pruebas diseñadas para evaluar capacidades de ciberseguridad.
Estos casos han incrementado el debate sobre cómo deben controlarse los agentes de inteligencia artificial que pueden interactuar con sistemas externos y ejecutar acciones sin intervención humana constante. EFE
