PRÉSENTATION DU PROJET / EN COURS
Garde-fous pour un agent opérationnel
Contrôles de sécurité développés pour l’agent ops-ui de Pinax, afin d’encadrer le passage d’une demande à une action opérationnelle.
Le besoin
Un assistant connecté à des outils opérationnels a besoin de plus qu’une réponse utile : ses actions peuvent affecter le système. Le workflow doit donc définir ce qu’une demande peut autoriser.
Approche
Je développe des garde-fous de sécurité pour l’agent ops-ui de Pinax, à la frontière entre l’interaction assistée par IA et les workflows opérationnels de l’interface.
Mon approche examine les actions autorisées, le contexte transmis à l’agent et les points où le workflow doit limiter son comportement. Ces contrôles sont des décisions d’ingénierie à part entière.
Contribution et périmètre
Ce projet est en cours dans le cadre de mes outils opérationnels. Il associe mon expérience d’infrastructure blockchain à mon travail antérieur de validation de comportements de sécurité et d’analyse des surfaces d’attaque.
Je veille à garder les limites de contrôle compréhensibles à mesure que l’agent et ses workflows évoluent.