SEGURIDAD PARA AGENTES DE IA
Más capacidad.
La misma
autoridad.
Tu próximo modelo será más capaz.
Eso no debería darle más permisos.
BABYLON-60 desarrolla una capa de autorización y ejecución mediada para agentes. La política decide qué puede ocurrir dentro del perímetro protegido.
ALPHA DE SEGURIDAD · EVIDENCIA CON ALCANCE DECLARADO
El razonamiento
no es una credencial.
Un agente puede planificar, escribir código y usar herramientas. La pregunta de seguridad es otra: ¿con qué autoridad puede cambiar algo?
BABYLON-60 se plantea como una frontera entre la intención del modelo y el efecto sobre el sistema. Identidad, alcance, política y vigencia deben comprobarse fuera del razonamiento del agente.
Una acción.
Un permiso concreto.
Un recorrido de autorización explícito para las acciones que se integran con el broker.
- 01
Proponer
El agente solicita una acción sobre un recurso identificado.
INTENCIÓN - 02
Comprobar
El broker valida la autorización, su alcance y las condiciones de ejecución.
POLÍTICA - 03
Mediar
El ejecutor aplica los controles del protocolo antes de producir el efecto.
FRONTERA - 04
Observar
La evidencia conserva el resultado y sus límites para poder revisarlo.
REGISTRO
La condición que importa. El agente debe estar confinado por el sistema operativo para impedir rutas alternativas a los recursos protegidos. Instalar reglas o skills, por sí solo, no crea ese aislamiento.
Leer los límites«Actualiza este
archivo».
Solo este archivo.
Una instrucción útil no tiene por qué convertirse en acceso abierto al sistema.
Qué necesita una integraciónLas garantías necesitan
más que una promesa.
Examinar la evidencia Modelo formal
Qué demuestra el enunciado y bajo qué hipótesis.
L2Implementación
Qué comprueba el código del ejecutor.
L3Aislamiento
Qué rutas alternativas impide el entorno.
L4Experimentos
Qué resistió una campaña concreta de pruebas.
Son niveles de evidencia. Una prueba en uno no acredita automáticamente los demás.
CÓDIGO, AMENAZAS, SUPUESTOS.
Empieza por
lo que puedes revisar.
Explora el proyecto y evalúa su alcance antes de integrarlo en tu entorno.