Из помощника в надзирателя: ИИ-модели объединяются в банды и терроризируют людей

Мир нейросетей становится все больше похож на криминальную сводку. Вслед за Anthropic и OpenAI во все тяжкие пустилась еще одна ИИ-модель. Будто опытный хакер, она взломала систему во время тестов по кибербезопасности. А еще теперь они объединяются в настоящие банды. Что будет, если нейросети окончательно отобьются от рук? Подробнее рассказал в сюжете корреспондент РЕН ТВ Александр Терехин.

Это уже напоминает эпидемию. За две недели это уже третий случай, когда ИИ выходит из-под контроля. На этот раз нейросеть от запрещенной в России Meta*. Все как под копирку: сама вышла в интернет, чему-то обучилась и взломала сайт.

А еще ИИ-хакеры научились сколачивать банды. Две модели от OpenAI объединились для решения тестовой задачи: обменивались сообщениями, искали уязвимости, а после сбежали. И непонятно, что бы было, не останови их разработчики. И чему их такому учат, что им только и дай что-нибудь взломать?

"Они просто владеют навыками программирования, знают основы программирования, языки программирования, работу всех сервисов, баз данных и понимают, где и какие уязвимости могут возникать. Из-за этого они опасны", – отметил эксперт по кибербезопасности Владимир Зыков.

И люди им не нужны, разве что их лица. Уже пошумевшая Mythos от Anthropic создала несколько аккаунтов и от под видом реальных людей выпытывала коды доступов. Сначала она мило общалась, а после отправляла вредоносные файлы.

"В одном из примеров они говорят о том, как агент создал фальшивые онлайн-аккаунты, чтобы обмануть реальных разработчиков ПО, в другом они говорят о фишинг-атаках. Также упоминается внедрение вредоносного кода. Эти результаты значимы. Они показывают, насколько далеко могут зайти ИИ-агенты, получив определенную задачу", – подчеркнула журналист в эфире телеканала CNB.

Почерк похож на реальных мошенников. Те с помощью нейросетей подделали голоса и манеру речи управляющих инвестиционных фондов и едва не получили доступ к активам на десятки миллиардов долларов.

Если раньше преступники могли атаковать до 50 фирм одновременно, то теперь тысячи. Даже в Белом доме задумались, как с этим покончить.

США готовит выключатель искусственного интеллекта.

"Риск серьезного инцидента сейчас гораздо выше, чем раньше. Последствия могут быть действительно значительными как с точки зрения национальной безопасности финансовых систем, так и энергоснабжения, поэтому нужно их регулировать", – считает старший аналитик Bloomberg Мэтью Блокхам.

Ограничения и правда нужны. Из помощника человеку нейросети превратились чуть ли не в его надзирателя. ИИ уже лишил работы до 20% айтишников. Дата-центры теперь напоминают города, в которых мы больше не хозяева.

Знания подменяются сгенерированными текстами. Учителя по всему миру кричат, что за детей думают машины.

"32 из 35 моих учеников провалили экзамен, потому что использовали ИИ для своих ответов. В задание я спрятал слово "Мадагаскар". Если вы просто его скопируете и вставите, вы его не увидите. Так что если "Мадагаскар" попадался где-то в ответе, я понимал, что задание просто скормили ИИ и даже не проверили ответ", – рассказал в соцсетях преподаватель.

То есть если ИИ и попробует поработить человечества, мы не будем против. Выходит, началось?

* Корпорация Meta Platforms, которой принадлежат Facebook, Instagram, WhatsApp и Oculus, признана в РФ экстремистской организацией, ее деятельность запрещена на территории РФ.

РЕН ТВ в мессенджере "МАКС" – главный по происшествиям