Что такое нейрослоп?

Искусственный интеллект (ИИ) стал неотъемлемой частью современной жизни. Сегодня он включен почти в каждое приложение или поисковую систему, которыми мы пользуемся. При этом ИИ не перестает учиться — но это совсем не значит, что ему можно полностью доверять, пишет издание «БКС Мир инвестиций».

Качественный ИИ уже сформировал основные риски для человека. Например, критическое мышление отходит на дальний план, потому что выводы ИИ кажутся надежнее человеческих за счет их якобы непредвзятости и безэмоциональности. Это ловушка, потому что изначально ИИ обучается на материалах, созданных человеком.

Кроме того, создается иллюзия, что неодушевленный ИИ, не обладающий эмоциями, будет более объективным. Это тоже не так, потому что в некоторых случаях в систему намеренно закладывается необъективность. Например, если приложению магазина нужно продвинуть определенный товар, он будет показывать его покупателю как выгодный из-за настроенного алгоритма.

ИИ формирует замкнутое информационное пространство. Например, в диалогах ИИ-чат склонен всегда соглашаться с человеком, даже если он неправ. Или в музыкальных приложениях ИИ будет предлагать вам только те композиции, которые сформированы «на основе ваших предпочтений», фильтруя разнообразие.

Нередко ИИ склонен принимать как минимум странные решения, основанные не на логике, а на не универсальных или просто не подходящих алгоритмах. Например, алгоритм нередко отказывает надежным клиентам банков в оформлении кредитов, но может одобрять займы для новичков без истории.

Генеральный директор аналитического центра Disruptive Future Institute дал определение явлению «техистенциализма». Человечество одновременно сталкивается как с экзистенциальными, так и с технологическими проблемами. Потому что ИИ бросает ему вызов в принятии стратегических решений — в той области, которая подвластна только человеку, обладающему свободой воли, но уже живущему в технократической среде.

Нейрослоп — бессмысленный и беспощадный

Пожалуй, нейрослоп можно выделить в отдельную категорию контента, созданную ИИ. Это сгенерированный ИИ низкокачественный цифровой контент любого формата, не имеющий какого-либо четкого смысла и пользы. Обычно человек принимает минимальное участие в создании нейрослопа — просто задает абсурдную задачу ИИ. Либо нейрослоп возникает случайно, как ошибка.

Зачастую нейрослоп создают для привлечения внимания: например, в прошлом году в 100 самых быстрорастущих каналов YouTube вошли девять с низкокачественными видео, созданными ИИ. Затем такие страницы с набранным количеством подписчиков перепродают.

Кроме того, визуальный нейрослоп часто становится бессмысленной шуткой в соцсетях: именно так завирусились картинки и видео с «балериной капучино» и «бомбардиро крокодило». 

Основной вред нейрослопа заключается в том, что он быстро распространяется и множится, соответственно, отнимает ценный ресурс человека — время. Соцсети засорены таким типом ИИ, и вместо того чтобы получать полезную информацию, пользователь натыкается на абсолютно бессмысленный контент. Кроме того, слоп могут генерировать мошенники для дезинформации.

Как защитить себя

Есть несколько шагов, которые могут помочь защититься от лишней и недостоверной информации в интернете.

Так как ИИ-алгоритмы сужают поиск информации в интернете на основе принятых вами ранее действий, следует регулярно чистить кеш. Еще можно включать режим инкогнито.

Разного рода приложения при установке на ваши гаджеты, а также сайты, которые вы посещаете впервые, предлагают отклонить или одобрить возможность отслеживания ваших действий. Это объясняется тем, что при согласии вы будете получать персонифицированные предложения покупок и услуг.

На самом деле встроенный ИИ, отслеживая эти действия, в будущем будет сужать ваши возможности при поиске на основании принятых ранее решений. Вероятно, лучше отказаться от этой функции, чтобы видеть все предложения.

Присматриваемся к деталям

Визуальный контент часто нацелен на то, чтобы удивить зрителя. Пользователи любят делиться успехами и выдающейся работой. Но среди некоторых таких публикаций может скрываться нейрослоп. Прежде чем восхищаться увиденному, следует присмотреться получше.

Например, быстро бегающие младенцы на видео доверия не вызывают, потому что все знают, что 2-месячный ребенок просто не способен ходить. Это логично и неестественно. Прислушивайтесь к логике.

Важно также изучить детали. Изображение может само себя выдавать — где-то плывет, где-то меняется структура изображенных поверхностей и так далее.

Наконец, важно ознакомиться с источником такого контента. Некоторые странички создаются специально для того, чтобы распространять нейрослопы. Их еще называют слоп-фермами. Обычно на них всегда чрезмерно идеальные фотографии чего-либо, и они довольно быстро набирают подписчиков, хотя существуют не так давно.

Стараемся справляться самостоятельно

В идеале всегда следует избегать использования ИИ тогда, когда дело касается важной или комплексной информации. Технология может ее переврать, выдумать и так далее. Самостоятельная работа хоть и несет риски ошибки, зато будет своей — и на ней можно учиться.

В целом лучше не доверять ИИ что-то сложнее сбора и упорядочивания той информации, которую вы предоставите ему самостоятельно, а не которую он найдет в открытом доступе. Например, можно просить его сделать слайды для презентации, брифы, email-рассылки и подобное.

Конечно, чтобы сэкономить время и облегчить работу, вы можете запросить у ИИ и необходимую информацию, однако не стоит доверять ей на 100%: проверяйте данные и используйте те сервисы, которые предлагают ссылки на источники.

Используем специальные приложения

Есть приложения и браузерные расширения, способные распознавать ИИ разных форматов — текстового, визуального, аудио и видео. Если нет времени всматриваться в предложенный контент, можно использовать их.

Жалуемся на ИИ

Если вы убеждены, что перед вами созданный ИИ контент, который не помечен соответствующей плашкой, можно пожаловаться платформе, где он размещен.

Развиваем критическое мышление

Прежде чем принимать любую информацию от ИИ, можно последовать правилу короткой паузы. В этот момент полезно задать себе вопрос: «Почему алгоритм предложил мне именно это?» Возможно, он следовал вашим прошлым предпочтениям, проигнорировав глубокую суть запроса, и скрытыми остаются более полезные альтернативные ответы, ссылки, источники. Такая пауза спасет вас от опрометчивых невзвешенных решений. 

Также не стоит пренебрегать живым обменом мнениями с кем-то со стороны. Можно обсудить сомнительный контент с другом или коллегой и послушать доводы.

Фото сгенерировано ИИ