La startup Anthropic PBC ha decidido limitar el acceso a su nuevo modelo de inteligencia artificial, Mythos, a un grupo reducido de grandes empresas tecnológicas por temor a que su alto nivel de sofisticación pueda facilitar ciberataques.
Antes de abrir el uso al público, Anthropic pretende que compañías como Amazon, Apple, Microsoft y Cisco prueben el modelo con sus propios productos, identifiquen vulnerabilidades y compartan los resultados para fortalecer la seguridad digital a escala global, según informó Bloomberg.
Proyecto Glasswing: colaboración para reforzar la ciberseguridad con IA
Anthropic ha lanzado el Proyecto Glasswing, una iniciativa que reúne a importantes actores del sector tecnológico para evaluar Mythos en entornos reales y detectar posibles fallos de seguridad.
Las organizaciones participantes recibirán acceso anticipado al modelo y podrán emplearlo para revisar sus productos y sistemas en busca de vulnerabilidades que pudieran ser explotadas. Los hallazgos se compartirán colectivamente, con el objetivo de crear una defensa colaborativa frente a los riesgos emergentes de la IA avanzada.
La medida responde a la creciente preocupación de empresas y gobiernos por el posible uso indebido de modelos de última generación. Actualmente, la IA ya se utiliza en la ejecución de ciberataques sofisticados.
Anthropic cita, por ejemplo, un caso en el que un hacker utilizó herramientas de IA para vulnerar sistemas del gobierno mexicano. OpenAI, su competidor principal, también ha alertado sobre los riesgos cibernéticos asociados a sus modelos y ha puesto en marcha pilotos para priorizar la protección de defensores frente a atacantes.
Capacidades y riesgos identificados en el modelo Mythos
En pruebas internas, el equipo de seguridad de Anthropic comprobó que Mythos Preview podía identificar y explotar vulnerabilidades en los principales sistemas operativos y navegadores web cuando se le solicitaba.
Según la empresa, los exploits generados no eran simples; en una ocasión, el modelo elaboró un exploit para un navegador que encadenaba cuatro vulnerabilidades diferentes.
Newton Cheng, responsable del esfuerzo cibernético del Equipo Rojo Fronterizo de Anthropic, señaló que el desafío afecta a toda la industria tecnológica y requiere cooperación entre el sector privado y los gobiernos. “Lo que intentamos hacer con Glasswing es dar a los defensores una ventaja”, afirmó Cheng.
Colaboración con agencias y hallazgos relevantes
Anthropic ha dialogado con funcionarios estadounidenses sobre las capacidades de Mythos en materia de seguridad, sin especificar todas las agencias implicadas. Cheng confirmó la colaboración con la Agencia de Ciberseguridad y Seguridad de las Infraestructuras (CISA) y con el Instituto Nacional de Normas y Tecnología (NIST) para abordar estos retos.
Aunque Mythos fue concebido como un modelo de propósito general y no específicamente para ciberseguridad, ha demostrado capacidad para descubrir problemas críticos.
Entre los hallazgos reportados por Anthropic figuran una vulnerabilidad de software con 27 años de antigüedad presente en aplicaciones clave de Internet y un fallo de 16 años en un popular programa de vídeo que otras herramientas automatizadas no detectaron pese a millones de pruebas.
El acuerdo entre Anthropic y las grandes tecnológicas representa un cambio en la gestión de la seguridad de modelos de IA cada vez más potentes. Antes de ofrecer Mythos al público, la compañía quiere usar los resultados del Proyecto Glasswing para definir límites y medidas de protección que reduzcan el riesgo de usos maliciosos.
