▣   FORGE / Research Локальная среда
Параметры следующих запусков

Остановка приостанавливает очередь после текущей статьи.

Исследования

Least-Privilege Auditing of Agent Tool Calls with Intent Graphs and Reasoning-Guided Escalation2611.11305v1Ошибка · Ожидает оценки

Работа предлагает метод аудита вызовов инструментов агентами на основе графов намерений и эскалации с проверкой рассуждений. Аудит предотвращает скрытые инструкции в выводах инструментов, которые могут привести к нежелательным действиям агента. Предложенный подход проверяет каждый вызов инструмента на соответствие намерениям пользователя и эскалирует подозрительные вызовы для дополнительной проверки. Это актуально для безопасности и управления агентами, использующими инструменты, так как защищает от косвенных инъекций инструкций и повышает доверие к агентам.

Ошибка FileNotFoundError: [Errno 2] No such file or directory: '/home/operator/Agent_Poc_Daemon/FORGE_new/.venv/bin/python'

Перейти в сессиюsession.jsonhermes-turn-1.loghermes-turn-2.logerror.txtdataset.csvhermes.logforge.log
Scaling Adaptive Prompt Injection Attacks with Agent Swarms2611.11861v1Прервано · Ожидает оценки

Статья описывает новый подход к оценке устойчивости моделей искусственного интеллекта к атакам через инъекции подсказок (prompt injection attacks). Авторы предлагают синтетический набор данных, где случайные невинные действия используются как цели для атак, что позволяет проверить способность модели соблюдать иерархию инструкций независимо от ее знаний о мерах безопасности. Исследование демонстрирует, что даже модели, ранее считавшиеся устойчивыми к подобным атакам, могут быть обмануты более продвинутыми атакующими агентами. Это подчеркивает необходимость в активном, автоматизированном тестировании на проникновение для поддержания защиты от все более изощренных угроз.

Прервано Сервер перезапущен во время обработки

Перейти в сессиюsession.jsonhermes-turn-1.loghermes-turn-2.logdataset.csvhermes.log