OpenAI объявила о партнёрстве с Hacktron для поиска уязвимостей в своих системах. По сообщению компании, в рамках сотрудничества Hacktron получит расширенный доступ к её передовым моделям через Daybreak Red.
Инженеры OpenAI и исследователи безопасности Hacktron будут вместе выбирать приоритетные области тестирования. Основное внимание уделят связям между системами OpenAI и сторонними сервисами: по мере распространения ИИ-агентов такие соединения требуют более глубокого анализа безопасности.
Hacktron разрабатывает ИИ-агентов для проверки кода, тестирования на проникновение и моделирования атак. OpenAI познакомилась с командой через свою программу Security Bug Bounty, в рамках которой исследователи находили уязвимости и сообщали о них компании.
Комментарии
Увлечённо обсуждая, не забывайте про уважение.
Загружаем комментарии…