Según Google, el Marco Seguro de IA (SAIF, por sus siglas en inglés) se basa en las mejores prácticas de seguridad, como revisar, probar y controlar la cadena de suministro, a la vez que incorpora las tendencias en el desarrollo de esta nueva tecnología.
“Un marco a través de los sectores público y privado es esencial para asegurarse de que los actores responsables salvaguarden la tecnología que respalda los avances de la IA, de modo que cuando se implementen los modelos de IA, sean seguros de forma predeterminada”, señalan Royal Hansen, vicepresidente de ingeniería para privacidad, seguridad y protección y Phil Venables, vicepresidente, director de seguridad de la información (CISO) en Google Cloud.
SAIF está diseñado para ayudar a mitigar los riesgos específicos de los sistemas de IA, como el robo del modelo, el envenenamiento de los datos de entrenamiento, la inyección de entradas maliciosas a través de una inyección rápida y la extracción de información confidencial en los datos de entrenamiento, según explican los directivos en una entrada al blog de la compañía.
En ese sentido, el marco se compone de seis pilares: expandir las bases sólidas de seguridad a IA; ampliar la detección y la respuesta para llevar la IA al universo de amenazas de una organización; automatizar las defensas; armonizar los controles a nivel de plataforma; adaptar los controles para ajustar las mitigaciones y crear ciclos de retroalimentación; y contextualizar los riesgos del sistema de IA en los procesos comerciales circundantes.
En el caso del primer pilar, Google recomienda que se aprovechen las protecciones de infraestructura seguras por defecto y la experiencia desarrollada durante las últimas dos décadas para proteger los sistemas, aplicaciones y usuarios de IA. Al mismo tiempo, se debe desarrollar la experiencia organizacional para seguir el ritmo de los avances en Inteligencia Artificial.
Te puede interesar: https://extra.com.co/olas-de-calor-dejan-100-fallecidos-en-norte-y-este-de-india/
