Tencent presenta Hy4, una inteligencia artificial entrenada para detectar fallos de seguridad sin facilitar ciberataques

Tencent, la empresa china conocida por ser la creadora de WeChat, ha presentado un nuevo modelo de inteligencia artificial que incorpora una novedad importante: ha sido entrenado para ayudar a detectar fallos de seguridad informática, pero intentando evitar que esos mismos conocimientos puedan utilizarse para realizar ciberataques. Esto abre una pregunta importante para el futuro de la inteligencia artificial: ¿podemos desarrollar modelos cada vez más avanzados sin enseñarles también a realizar tareas peligrosas?

La compañía tecnológica china Tencent presentó el 4 de noviembre Hy4, un nuevo modelo de inteligencia artificial que incorpora una forma diferente de abordar uno de los principales problemas de esta tecnología: cómo evitar que sus capacidades puedan utilizarse para causar daños.

En los últimos meses hemos asistido a episodios de comportamientos peligrosos por parte de modelos de inteligencia artificial de empresas como OpenAI o Anthropic, que parecían una consecuencia inevitable de crear modelos muy capaces. Estas demostraciones de inteligencia se han respaldado como un efecto colateral de enseñarle a los modelos nociones de «ciberseguridad».

Mientras tanto, nos decían que la única forma de impedir que una inteligencia artificial ayudara a realizar actividades peligrosas consistía en enseñarle a rechazar determinadas preguntas. Por ejemplo, si alguien le pedía instrucciones para entrar ilegalmente en un sistema informático, el modelo debía negarse a responder. Pero es fácil imaginar lo fácil que podía llegar a ser para ciertos hackers, saltarse esa norma tan débil.

Tencent ha decidido probar algo diferente: limitar, desde el entrenamiento, algunos de los conocimientos que podrían facilitar esas actividades, sin renunciar a los que necesita para realizar tareas útiles.

¿Cómo se puede enseñar a una IA a proteger un sistema sin enseñarle a atacarlo?

Explicándolo de forma muy sencilla, pensemos en que una empresa quiere comprobar si su página web es segura. Para ello puede utilizar una inteligencia artificial que revise su programación, encuentre posibles errores y analice si alguien podría acceder a información privada. Es decir, el modelo detecta el problema y después ayuda a corregirlo (antes de que alguien acceda).

El problema es que para reconocer muchos de esos fallos de seguridad, la inteligencia artificial necesita conocer también cómo funcionan los mecanismos para realizar un ataque. Es decir, los conocimientos que le sirven para proteger un determinado software, programa o servidor, le pueden servir también para acceder sin permiso.

Hasta ahora, los desarrolladores han intentado resolver este problema incorporando reglas para que sus modelos no respondan a determinadas solicitudes. Sin embargo, estas protecciones son demasiado débiles y pueden fallar porque son sencilla de eludir.

Por eso la propuesta de Tencent es tan interesante, porque no le dice a posteriori que no utilice un conocimiento, sino que durante el entrenamiento le pone las normas. Es decir, se le enseña a identificar vulnerabilidades pero limitando determinados materiales que enseñan a aprovechar esos fallos para realizar ataques.

¿Significa esto que Hy4 es una IA completamente segura?

No. Limitar determinados conocimientos durante el entrenamiento no garantiza que una inteligencia artificial nunca pueda utilizarse con fines peligrosos, pero sin duda añade una capa de seguridad más.

Los modelos pueden combinar información aprendida en distintos ámbitos y encontrar soluciones que sus desarrolladores no habían previsto. Además, algunas técnicas informáticas pueden utilizarse legítimamente para comprobar la seguridad de un sistema o de forma ilegal para atacarlo.

Por eso, las medidas adoptadas por Tencent no sustituyen a otros mecanismos de seguridad, sino que añaden una forma de intentar reducir los riesgos.

Es importante también aclarar que Hy4 no es un modelo dedicado exclusivamente a la ciberseguridad y tal vez por ello, me parece interesante la decisión de incorporar medidas de seguridad desde el entrenamiento, porque si es un modelo de uso general que pueden utilizar todo tipo de usuarios (no solo expertos en ciberseguridad) esa capa extra de seguridad que nace al principio del desarrollo del modelo, es más necesaria (precisamente porque las restricciones a posteriori son más fáciles de eludirse).

La iniciativa de Tencent abre una posibilidad para el desarrollo futuro de la inteligencia artificial: que la seguridad no dependa únicamente de impedir determinadas respuestas, sino también de decidir qué capacidades se desarrollan durante el aprendizaje.