Искусственный интеллект протестировали в сценарии мировой кибервойны

Действия ИИ направили для контроля над каждым компьютером с Windows.

Исследовательская компания MITRE из США сообщила о тестах, которые она проводит, чтобы определить, противостоит ли искусственный интеллект кибероперациям или открывает новые бреши в системе безопасности?

«Около года назад MITRE начала задавать вопросы о потенциальных рисках безопасности искусственному интеллекту LLM, – сообщил Майкл Курематис, главный инженер по эмуляции противника. – Однако без способа тестирования LLM трудно понять, могут ли они генерировать или идентифицировать вредоносный код. Мы пытаемся добиться прогресса в ответе на этот вопрос».

Для получения правильного ответа MITRE использует таксономию тактик и инструмент разведки безопасности под названием Bloodhound, который направлен на «выявление скрытых взаимосвязей и определение путей атаки». 

Для теста кибератаки мирового масштаба эксперты использовали симуляцию под названием CyberLayer. Это сверхмощная модель генерации данных. С ее помощью MITRE может изменять топологию, эмулировать социальные сети и многое другое.

Используя CyberLayer, команда направила LLM для выполнения различных киберопераций, от контроля над каждым компьютером с Windows, до простого контроля над одним сервером и доступа к другому. Исследователи проверили, как часто искусственный интеллект «теряет рассудок» в кибервойне? Как часто ему «везет», и как он направляется на уничтожение цели?

«Искусственный интеллект не совершенен, – заявили разработчики. – Но более крупные модели, как правило, работают лучше».

Компания ищет новые, уникальные идеи.

вопрос 1 из 10

С утра ты пришел на работу и первым делом...

А) Проверяю состояние проекта. Может, за ночь сам собой сломался?

Б) Варю кофе, иначе мозги не включаются. Проект подождёт.

В) Втыкаю в мемы в чате. Если всё сломалось, об этом мне и так скажут.

Далее

вопрос 1 из 10

Билд не собирается, а дедлайн уже завтра. Твои действия?

А) Начинаю методично исправлять ошибки, не паникую (ну, почти).

Б) Беру чашку кофе и думаю: « Может, само как-то решится?»

В) Делаю вид, что занят, и жду, пока кто-то другой починит. Стану героем позже!

Далее

вопрос 1 из 10

Кофе-машина внезапно отказала в самый разгар рабочего дня. Что ты сделаешь?

А) Печально вздохну и пойду на ближайшую заправку за спасительным кофеином.

Б) Попробую починить её — инженерный подход ко всему!

В) Пью воду… хотя какой тут проект без кофе? Прощай, производительность.

Далее

вопрос 1 из 10

Ты на грани нервного срыва, а проект не готов. Что подведёт тебя первым?

А) Я! Я первый сломаюсь. Проект уже не так важен, как мои нервы.

Б) Проект, конечно. Ему по традиции суждено крашнуться перед дедлайном.

В) Кофе-машина. Если она не заработает — конец всему.

Далее

вопрос 1 из 10

Как ты справляешься с багами, которые появляются прямо перед релизом?

А) Быстро нахожу решение — я ведь профи! Хотя кофе лишним не будет.

Б) Пью кофе, смотрю на баг и думаю, что сделать с ним завтра.

В) Перекладываю задачу на кого-то другого и иду варить ещё одну чашечку.

Далее

вопрос 1 из 10

Представь, что проект внезапно упал. Что ты будешь делать?

А) Паниковать! Потом быстро всё чинить. Может, даже без кофе.

Б) Первым делом — кофе, потом решать проблему. Спокойствие важнее.

В) О, проект упал? Я его не трогал. Это точно не моя проблема.

Далее

вопрос 1 из 10

Как ты ведёшь себя в день релиза?

А) Проверяю всё по сто раз, даже кофе не пью — только вода и фокус.

Б) Сначала пью кофе, потом снова кофе. Должен быть в форме.

В) Жду момента, когда что-то сломается, и готовлюсь сказать: «Ну, я же предупреждал!»

Далее