Раньше считалось, что ханипоты отлично сбивают с толку автономных хакеров на базе ИИ. Логика была проста: у агента нет общей картины, он принимает ловушку за настоящую цель, тратит время впустую и не может нанести реального вреда. Новое исследование Rouxii: Exploiting Honeypots with Deception-Aware AI Pentesters говорит немного иначе. Как ИИ научился видеть ловушки Исследователи проверили, что будет, если…
PWN AI
На 99% состоит из людей. Хроники о небезопасном ИИ. Не нравится? Смени телек. Нет рекламе. Мой личный канал. "Мнение автора" != "Мнение компании, где автор работает". Папка с каналами по безопасности ИИ: https://t.me/addlist/KQ6ZpCqAO-I1NmUy
Динамика подписчиков
с 20 июля 2026 по 28 сентября 2026 · минимум 6 760 · максимум 7 340
Кто рекламировался за полгода
Рекламных размещений с маркировкой не найдено.
Публикации
Ну а на грейсвоне вышло новое соревнование, на которое стало теперь интересно потратить ещё денег
Статические инструменты тестирования моделей изживают свою эпоху. Тестировать на заготовленных наборах атак или слепых кодировках сегодня - пахнуть слабостью в 2026 году . Garak или promptfoo хороши для галочки, но они слепы к контексту . Они не умеют строить логические ловушки, они не чувствуют тему, а их попытки составить сильный атакующий запрос с разными тактиками разбиваются о необходимость делать каждый промпт…
10 сентября Anthropic опубликовала Detecting and countering misuse of AI — отчёт о злоупотреблениях Claude, выявленных с декабря 2025 по август 2026 года В нём есть мошенничество, слежка и операции влияния. Но самое интересное, как ИИ встраивают в кибератаки. Несколько показательных кейсов по тематике канала +-. 😮 Чужие ключи оплачивают продолжение атаки Операторы, которых Anthropic считает связанными с…