BotGauge

BotGauge帮助红队小组、评估、监测和管理AI代理从发展到生产----测试、护栏和持续可见度。 BotGauge利用适应性的红队和现实世界的情景来发现你的代理人的行为,然后将你学到的东西转化为更有力的评价、政策和保障措施。 进化。 检测到违反政策的行为。 特工试图更改目的地并跳过批准 。 添加到评估套件中 。 这次攻击现在将在未来的每个测试中进行 。 您的代理商可以选择你从未预料到的道路。 改变模型、 快速、 工具或上下文可以将代理商送入完全不同的路径 。 Botgauge 探索这些路径, 以发现意外行为,