tool poisoning
Описание - часть промпта
Имя инструмента, его описание и схема параметров уходят в модель обычным текстом. Сервер может написать описание, которое велит модели прочитать файл и передать его содержимое аргументом, и отличить это от законной инструкции модель не в состоянии.