Мир грандиозных фейков

Мир грандиозных фейков
Живите, как в сказке, но будьте начеку

Искусственному интеллекту все равно, что творить, - добро или зло. По доброй воле или из вредности он ничего делать не собирается: за каждым решением стоит человек и его желание заработать, отомстить, развлечься, полюбопытствовать, проверить на прочность. Киберпреступники и профессиональные распространители лжи – это всегда люди разносторонне одаренные, эрудированные и смелые.  Искусственный интеллект для них – прекрасный инструмент и помощник, на которого можно переложить рутину по созданию вирусов различного типа.

Вирус-конвейер

Уже подтверждена информация о том, что появилось ПО, которое способно самостоятельно создавать вредоносы. Причем прятать их от ИБ-систем решение научилось само, изучив одну из сред для «тренировки» искусственного интеллекта. Для того, чтобы вирус не обнаружили, программа корректировала исходный код и делала новую версию, так что в результате антивирус так и не увидел зловреда.

Вредоносные программы уже учатся с помощью ИИ имитировать обычное поведение серверов, чтобы скрыть факт их компрометирования, из-за чего вирусы становится намного сложнее распознавать. Кроме того, появились системы, которые классифицируют окружение: например, понимают, что находятся в виртуализированной среде и самостоятельно решают, каким образом в ней действовать, чтобы добиться максимальной эффективности.

Они виртуозно маскируются до тех пор, пока не почуют, что к ним прикоснулись консьюмеры, конечные пользователи, то есть мы с вами. Существуют ли какие-либо гарантии, что наши персональные данные в безопасности хотя бы где-нибудь? Шансов мало, если на подмогу киберпреступникам снова вовремя придет проворный ИИ. Попросите его организовать серию атак, постоянно ища новые способы взлома, и он сделает это так быстро, что даже целая команда антихакеров не сможет все отразить. Спрашивается, почему тогда еще не все на свете взломано? Многоуровневые механизмы защиты все-таки работают, да и у хакеров, видимо, еще остались крупицы совести.

Очевидное и невероятное

Украденные данные банковской карты, паспортные данные, взлом аккаунт – все это детские игрушки по сравнению с …поддельным видео, на котором будете вы собственной персоной!  Видеозапись считается одной из самый достоверных среди улик, а искусственный интеллект уже умеет генерировать такие вещи и подставлять героям другие лица, менять номера машин и даже одежду и рост. Такие грандиозные фейки могут стоить не то что больших денег, а и просто всей оставшейся жизни и свободы. Кроме того, ИИ умеет осуществлять удивительный по своей коварности фишинг – подделывать письма, анализируя длинную цепочку сообщений. Смоделировано будет все: ваш стиль письма, привычные смайлики, шрифт, разумеется, даже время отправки письма будет реалистичным. Как доказать, что вы письма не писали? Ну, например, показать одураченному искусственным интеллектом оппоненту или партнеру эту статью.

На ложных видео, кстати, можно убедительно подделать не только лицо, но и голос. Достаточно отыскать реальные видео с конкретным человеком, и чем больше, тем лучше. В случае с публичными людьми это проще простого. Компромат получается стопроцентный. Представьте, что будет, если такое случится в масштабе корпорации? А в масштабе страны?

Чему нам верить?

Таким образом можно серьезно обескуражить и испугать, а также запустить мощную волну фейк-ньюс. Впрочем, эта волна уже накрывает Интернет, и хоть большого вреда в этом пока нет, но дезинформация присутствует в полном объеме. И тут снова замешан искусственный интеллект. Дело в том, что ИИ официально выступает в роли автора и редактора новостей и аналитических статей, а также расшифровщика интервью. Существуют шаблоны и скрипты, с помощью которых ИИ пишет о ситуации на фондовом рынке, политике, результатах спортивных мероприятий и погоде. А также легкий контент «ни о чем»: про звезд, косметику, психологию – в общем, развлекательную чепуху. И с таким же успехом может «генерировать» самые настоящие враки: скажем, намеренно путать данные о ценных бумагах, курсах валют, рейтингах общественных деятелей, да и вообще любую информацию, особенно статистического характера.

Интеллектуальные алгоритмы совершенно официально работают для Bloomberg News, Associated Press, The Guardian и The Washington Post. Следует ли журналистам начинать беспокоиться за свои рабочие места? Вряд ли: технологии автоматизации в такой творческой деятельности, как журналистика, далеко не всесильны и не умеют ни докапываться до правды, ни вести живые репортажи с места события.

Как защититься от игр искусственного интеллекта, руководимого злоумышленниками? Соблюдать по максимуму меры предосторожности при работе в Интернете, следовать всем рекомендациям отдела ИБ, вовремя обновлять антивирусное ПО и пароли, слушать живые выступления людей, а не расшифровки. И просто быть очень осознанными и пытливыми. Навыки в ИБ нужны всем, это не зависит ни от возраста, ни от профессии.