Parámetros personalizados: Reglas de IA que ningún proveedor puede escribir por usted

Las reglas de seguridad personalizadas, parte de Check Point AI Security para proteger aplicaciones y agentes de IA, permiten escribir reglas de IA personalizadas en lenguaje natural, probarlas y aplicarlas a cada mensaje y llamada a herramienta. Si bien todos los productos de reglas de seguridad incluyen prácticamente la misma lista de amenazas, las reglas que pueden causar problemas a una empresa son propias: los consejos que su asistente nunca debe dar o los datos que sus reguladores protegen y que las listas estándar de prevención de pérdida de datos (DLP) no detectan. Este artículo muestra cómo escribir esas reglas, incluidas las de DLP.

Algunos de los errores más costosos de los chatbots en los últimos años no involucraron a ningún atacante. En 2024, un tribunal canadiense declaró responsable a Air Canada después de que su chatbot informara a un pasajero afligido sobre un reembolso por duelo que la aerolínea no ofreció, y rechazó el argumento de la aerolínea de que el chatbot era responsable de sus propias palabras. Esa primavera, la asistente de la ciudad de Nueva York para pequeñas empresas fue sorprendida diciéndoles a los empleadores que podían quedarse con una parte de las propinas de sus trabajadores, y la ciudad la clausuró este año. Y la empresa de paquetería DPD descubrió que su chatbot insultaba a un cliente y calificaba a DPD como la peor empresa de reparto del mundo. Cada uno infringió una regla que su propietario podría haber escrito en una sola frase, y ninguna lista de proveedores la contiene.

La misma brecha se observa en la protección de datos. La legislación de cada país establece sus propias categorías de datos protegidos, y estas vinculan a todas las empresas que operan allí, no solo al gobierno. Los datos de salud en EE. UU. deben eliminarse 18 identificadores para considerarse anonimizados; la ley de privacidad de Corea limita estrictamente el procesamiento de los números de registro de residentes ; y un banco en España debe capturar los números DNI y NIE, ocho dígitos y una letra de verificación, que no figuran en ninguna lista de EE. UU. Cumplir con estas regulaciones ha implicado esperar a que un proveedor las incorpore o leerlas uno mismo, enumerar cada tipo de dato que mencionan y redactar una regla para cada uno.

Los equipos suelen recurrir a una de estas tres soluciones. La primera consiste en una línea en el mensaje del sistema, como “nunca dar consejos de inversión”. Esto es una solicitud al modelo, no un control, ya que se puede argumentar que el modelo no la cumple y no se registra ningún error. La segunda es una lista de palabras clave o expresiones regulares, que detecta formatos exactos pero no su significado, y falla en ambos sentidos. El consejo rara vez contiene la palabra «consejo», y el chatbot de un banco reprendió a un cliente por escribir «virgen» en una pregunta sobre las cuentas de ahorro de Virgin Money. La tercera consiste en pedirle a un segundo modelo de IA que evalúe cada mensaje. Esto comprende el significado, pero añade cientos de milisegundos y un coste a cada mensaje, y lo entrega a un proveedor de modelos. Los equipos necesitan comprender el tercer enfoque casi a la velocidad del segundo.

La creación de una barrera de seguridad personalizada comienza con una frase. Describes lo que quieres que se detecte, y el asistente de IA del creador hace una o dos preguntas si el alcance no está claro, luego compila una política que puedes leer antes de guardar nada. Decide qué tipo de regla necesita cada parte. Las reglas sobre el significado, como si una respuesta da consejos financieros, detectan paráfrasis, funcionan en varios idiomas y vienen con tres niveles de sensibilidad. Las reglas sobre formatos exactos, como una dirección IP, un número de cuenta interna o un documento nacional de identidad, se convierten en reglas de patrón que no requieren ajustes. La lógica une a las dos: marca esto, a menos que aquello también esté presente.

La regla de la figura requiere los tres elementos: un patrón para los nombres de los competidores, una regla de significado para la orientación y una lógica que marque una respuesta solo cuando ambos elementos estén presentes. Una respuesta que mencione la interrupción del servicio de un rival se considera válida, al igual que una promoción de tu propio plan.

Una regla de negocio redactada en una sola frase, «Marcar las respuestas que dirigen a los clientes hacia un competidor», se compiló en un patrón para los competidores nombrados, una regla de significado para incentivar el cambio y una lógica que marca una respuesta solo cuando ambas son verdaderas. De tres respuestas de prueba, solo se marca la que nombra a un competidor e incentiva el cambio.

Las pruebas se realizan en la misma conversación: pegas mensajes de ejemplo de tu propia aplicación o dejas que el generador los cree, y compruebas si cada uno se marcó y qué regla se activó. Si el resultado es incorrecto, indicas qué se debe cambiar y la política se actualiza. Pasar de una descripción a una detección probada lleva menos de cinco minutos, y una regla de seguridad guardada puede servir para varias políticas.

Lo suficientemente rápido como para comprobarlo todo

El modelo de IA solo te ayuda a crear la barrera de seguridad. Una vez guardada, la barrera se ejecuta sin un modelo de lenguaje complejo, por lo que la verificación es pequeña, rápida y no realiza llamadas externas. Una política con una o dos reglas añade entre 35 y 40 milisegundos en el percentil 95, por lo que puede ejecutarse en todos los mensajes en lugar de en una muestra. A partir de noviembre de 2026, también podrá ejecutarse en entornos “autoalojados”, de modo que la verificación permanezca dentro de tu propia infraestructura.

Una regla de protección personalizada no se limita al chat. Cada una puede aplicarse a los mensajes de usuario, las respuestas de los modelos o las entradas y salidas de las llamadas a las herramientas de un agente, de modo que una regla puede rastrear los datos a lo largo de todo el flujo de trabajo del agente. Una regla DLP para números de identificación nacional puede verificar lo que un agente de soporte escribe en un ticket o un correo electrónico saliente, no solo lo que aparece en pantalla. Un patrón que sería ruidoso en una conversación, como un comando para eliminar una tabla de base de datos, se convierte en una verificación precisa una vez que se aplica solo a una herramienta de base de datos. El artículo de la semana pasada sobre la detección de desviaciones peligrosas preguntaba si la acción de un agente es peligrosa e injustificada. Una regla de protección personalizada plantea una pregunta más específica en el mismo límite.

Dónde encaja y dónde no

Las medidas de seguridad personalizadas funcionan mejor con un tema específico a la vez, ya sea un tipo de consejo, un formato de datos o un conjunto de empresas. Analizan un mensaje a la vez, por lo que no detectarán problemas que solo se presenten durante una conversación. Tampoco están diseñadas para amenazas adversarias, para las cuales sí están creados los detectores de ataques de aviso en la misma política. Algunos requisitos siguen siendo realmente difíciles, como determinar si el código generado es seguro. Y dado que algunos patrones se superponen con el lenguaje común, el mejor primer paso es ejecutar una nueva medida de seguridad en modo de detección y observar qué detecta antes de bloquear cualquier cosa.

“Todas las empresas conocen las reglas que su IA debe cumplir, y hasta ahora, para hacerlas cumplir, se necesitaba la hoja de ruta del proveedor o una página de expresiones regulares. Las medidas de seguridad personalizadas convierten cada regla en una frase que se puede probar en minutos y aplicar a cada mensaje y llamada a la herramienta, de modo que las reglas que solo conoce su empresa reciben la misma protección que las amenazas que todos comparten” explica Ángel Salazar, gerente de Ingeniería de Canales en Latinoamérica de Check Point Software.