Техническая команда ByteDance анализирует угрозы безопасности OpenClaw и предлагает решение по обеспечению защиты во время выполнения Jeddak AgentArmor

robot
Генерация тезисов в процессе

ME Новости, сообщение от 1 апреля (UTC+8). В последнее время техническая команда ByteDance представила решение для рантайм-защиты Jeddak AgentArmor для приложения OpenClaw, сталкивающегося с новыми типами угроз безопасности. В статье отмечается, что главные проблемы безопасности OpenClaw обусловлены особенностями его рантайм-архитектуры, включая чрезмерное доверие внешним источникам данных, вероятностные решения LLM, работу с чрезмерно высокими привилегиями и отсутствие контроля над внешними коммуникациями. На основе построенной «трёхслойной модели пространственного взаимодействия» команда выявила три ключевых типа рисков: отклонение намерений, перехват рабочих процессов и утечка потока данных программы. Решение Jeddak AgentArmor направлено на создание интегрированной системы рантайм-защиты «механизм ключевой верификации + усиление специализированной большой моделью + поддержка периферийной обёртки», обеспечивая три ключевых механизма: верификацию согласованности намерений, гарантии целостности потока управления и контроль конфиденциальности потоков данных. Это позволяет для OpenClaw сформировать динамический якорь доверия и, по сути, перекрыть риск скрытых атак. (Источник: InFoQ)

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закрепить