> ## Content Index
> Fetch the complete content index at: https://preadmin26.kod.ru/llms.txt
> Use this file to discover other available public pages before exploring further.

# Нейросети можно взломать и перепрограммировать
- URL: https://preadmin26.kod.ru/neyroseti-mozhno-vzlomat/
- Published: 2018-07-13T17:01:32.000Z
- Updated: 2018-07-13T15:56:06.000Z
- Author: Влад Войтенко
- Tags: News, Технологии, #Import 2026-10-15 05:40

Исследователи из Google Brain обнаружили [метод](https://arxiv.org/pdf/1806.11146.pdf?ref=preadmin26.kod.ru) атак для перепрограммирования нейронных сетей, который позволит взламывать виртуальные помощники в телефонах пользователей с доступом к аккаунтам соцсетей, электронной почты, а также к банковским картам владельца.

![DAzGY1FWAAAhc8-](https://preadmin26.kod.ru/content/images/2018/07/DAzGY1FWAAAhc8-.jpg)

Злоумышленник может получить доступ к параметрам генеративно-состязательной нейросети и ввести помехи или данные, которые меняют исходные изображения. Попадая в сеть, они приспосабливают имеющиеся навыки для решения любых новых задач.

![image_2018-07-13_19-17-28](https://preadmin26.kod.ru/content/images/2018/07/image_2018-07-13_19-17-28.png)

> Вторичное перепрограммирование включает в себя добавление небольшого изображения в другое изображение, что позволяет обмануть нейронную сеть.

Система [успешно](https://motherboard.vice.com/en%5Fus/article/bjbxbz/researchers-tricked-ai-into-doing-free-computations-it-wasnt-trained-to-do?ref=preadmin26.kod.ru) протестирована исследователями на шести алгоритмах. Например, они взяли набор картинок и разделили каждую из них на квадраты, после чего добились того, что нейросети начали подсчитывать номера квадратов вместо того, чтобы они делали то, что должны были, а именно: подсчёта акул и страусов.

Специалисты решили подменить базу данных, после чего нейросеть начала распознавать изображения по набору [CIFAR-10](https://en.wikipedia.org/wiki/CIFAR-10?ref=preadmin26.kod.ru), а не [ImageNet](https://ru.wikipedia.org/wiki/ImageNet?ref=preadmin26.kod.ru), по которому была обучена.

![image_2018-07-13_19-18-13](https://preadmin26.kod.ru/content/images/2018/07/image_2018-07-13_19-18-13.png)

> (a) Представляет сопоставление числа квадратов в состязательном изображении (левый столбец) с классификатором ImageNet (правый столбец). (б) Показывает, что эти состязательные квадраты добавляются к статическому изображению, чтобы создать два разных изображения: один представляет собой акулу (четыре квадрата), другой — страуса (10 квадратов). (c) Показывает то, что, когда эти состязательные изображения подаются в алгоритм ImageNet, он возвращает значения для акулы и страуса, которые сообщают злоумышленнику, что он подсчитал 4 и 10 квадратов соответственно, хотя алгоритм ImageNet был запрограммирован только на распознавание животных в изображениях.

Подобная модель атак предполагает за собой возможность воровства данных для перепрограммирования систем компьютерного зрения в облачных сервисах. Хакеры в итоге с помощью метода могут даже майнить криптовалюту.

При этом в случае успеха атак можно добиться взлома виртуальных помощников с доступом к учётным записям электронной почты, соцсетей и банковским картам владельца.

Несмотря на то, что сфера машинного обучения ещё имеет достаточно много нераскрытых вопросов и возможных уязвимостей, нейросети с каждым днём внедряются в быт человека, становясь его преданными помощниками. Ранее «Код Дурова» [сообщал](https://kod.ru/iis-googles-videoos/?ref=preadmin26.kod.ru), что Google разработала технологию, раскрашивающую чёрно-белые видео по одной фотографии. Позже [стало известно](https://kod.ru/2240/?ref=preadmin26.kod.ru), что искусственный интеллект обошёл ведущих китайских врачей-неврологов.

*Подписывайтесь на «Код Дурова» в [Telegram](http://t.me/d%5Fcode?ref=preadmin26.kod.ru) и во [«ВКонтакте»](http://www.vk.com/kod?ref=preadmin26.kod.ru), чтобы всегда быть в курсе интересных новостей!*