Какво е Saeta, и какво не е
Saeta стои между вашия AI агент за програмиране и компютъра ви и ви пита, преди да се изпълнят рискови действия. Полезна е, защото е честна за своите граници.
Какво е Saeta
- Предпазна мрежа срещу грешки на агентите: халюциниран
rm -rf, погрешно разбрана инструкция, команда в грешната директория. - Защита от собствените ви пропуски, например да одобрите грешното нещо в бързината.
- Една кутия за заявките за одобрение от всички агенти, на компютъра или телефона, за да можете да се отдалечите, без да изключвате разрешенията.
Какво не е Saeta
- Sandbox. Агент, който може да изпълнява shell команди, има същите права в операционната система като самата Saeta.
- Защита срещу враждебен агент. Агент, който умишлено се опитва да заобиколи Saeta, по принцип би могъл да пропусне hook-а, да говори директно със Saeta или да пренапише собствената си конфигурация.
- Заместител на резервните копия, контрола на версиите или прегледа на това, което сливате.
Как все пак вдигаме летвата
Saeta следи конфигурациите на агентите, които инсталира, и ви предупреждава, ако се променят неочаквано. Локалната ѝ връзка и токенът могат да се четат само от вашия потребителски акаунт. Ако никой не отговори на заявка, тя се връща към собствения въпрос за разрешение на агента, вместо да одобри. Така инцидентите се промъкват много по-рядко. Решителна атака обаче не става невъзможна.
Защо го казваме толкова ясно
Инструментите за сигурност, които обещават твърде много, излагат хората на риск. Ако трябва да изолирате агент, на когото не вярвате, пуснете го в контейнер или виртуална машина, която няма достъп до нищо, което не можете да си позволите да загубите.