La Comisión Europea se reunió este martes con la empresa estadounidense Anthropic para abordar los posibles riesgos que pudiera causar el modelo de inteligencia artificial Claude Mythos Preview, después de que la tecnológica suspendiese su lanzamiento por considerar que sus habilidades avanzadas pueden suponer una amenaza para la seguridad global.
“Tenemos conversaciones en curso con Anthropic y confiamos en que la empresa nos dará información” sobre los peligros de la herramienta o sobre cómo poderlo probar en compañías o instituciones europeas, dijo el portavoz de tecnología del Ejecutivo comunitario, Thomas Regnier, en la rueda de prensa diaria de la institución.
MIRA: Claude Mythos, el nuevo modelo de IA que Anthropic decidió vetar por ser un riesgo para la seguridad global
Mythos permite a sus usuarios analizar en tiempo real vulnerabilidades en materia de ciberseguridad, pero durante las pruebas internas, la compañía observó que el modelo fue capaz de detectar peligros que habían permanecido ocultos durante 27 años, con una capacidad autónoma tan potente que le ha llevado a suspender su comercialización generalizada.
Por ahora, Anthropic ha lanzado el Proyecto Glasswing, un modelo de defensa en ciberseguridad a la que podrán acceder más de 40 organizaciones, entre las que figuran Amazon, Apple, Google, Microsoft, Nvidia, CrowdStrike, JPMorgan Chase, Cisco, Broadcom, Palo Alto Networks y la Linux Foundation.
El objetivo es que estos gigantes utilicen la potencia de Mythos para identificar y parchear vulnerabilidades en la infraestructura crítica de software antes de que actores malintencionados puedan explotarlas.
Además, esta semana el presidente de la Reserva Federal estadounidense, Jerome Powell, y el secretario del Tesoro, Scott Bessent, se reunieron con los directores ejecutivos de los principales bancos de Estados Unidos -como Bank of America, Citigroup, Goldman Sachs, Morgan Stanley y Wells Fargo- para discutir los posibles riesgos cibernéticos que plantea Mythos.
Deja una respuesta