Anthropic oculta su potente IA por miles de vulnerabilidades detectadas en software crítico

Anthropic y el poder de Mythos Preview en la ciberseguridad

Anthropic ha desarrollado un nuevo modelo de inteligencia artificial, conocido como Mythos Preview, que ha demostrado ser tan potente que la empresa ha decidido no hacerlo público. Este innovador sistema ha sido capaz de identificar “miles de vulnerabilidades” en software, incluyendo algunas que han permanecido ocultas durante décadas. Ante la posibilidad de que estas vulnerabilidades puedan ser explotadas, Anthropic ha lanzado el proyecto Glasswing, una colaboración con 12 empresas de primer nivel que les permite utilizar Mythos Preview para corregir estas fallas antes de que sean utilizadas por actores malintencionados.

La eficiencia de Mythos Preview ha sorprendido a expertos en la materia. Según Nicholas Carlini, científico de Anthropic, este modelo ha detectado más vulnerabilidades en dos semanas que él a lo largo de su carrera. Las vulnerabilidades son fallos en el software que pueden ser utilizados para acceder de manera no autorizada a sistemas informáticos. Tradicionalmente, localizar estas debilidades requería un conocimiento profundo y un esfuerzo considerable, pero Mythos Preview ha demostrado ser significativamente más eficaz en esta tarea.

Entre las empresas que forman parte de la iniciativa Glasswing se encuentran gigantes de Silicon Valley como Apple, Amazon Web Services, Google, Microsoft y Nvidia. Anthropic ha ofrecido a estas compañías, así como a otras 40 que gestionan infraestructuras críticas, la posibilidad de acceder a su modelo. Además, se han mantenido conversaciones con el Gobierno de Estados Unidos. Mythos Preview, que originalmente se diseñó para mejorar la generación de código, ha mostrado un enfoque especial hacia la ciberseguridad, lo que ha llevado a su desarrollo en esta dirección. A pesar de que el temor a su uso indebido podría parecer una estrategia de marketing, existe un precedente importante: OpenAI también restringió en su momento la publicación de su modelo GPT-2 por considerarlo “demasiado peligroso”.

La entrada Anthropic oculta su potente IA por miles de vulnerabilidades detectadas en software crítico aparece primero en LaRepublica.es .