Я очень внимательно слежу за новостями об ИИ (искусственном интеллекте), в том числе за всеми противоречиями и проблемами. Я склонен согласиться с тем, что ИИ – это мощный инструмент, мы должны продолжать его развивать и использовать ответственно. Нам не нужно паниковать, и крайне ограничительные законы, скорее всего, не нужны и контрпродуктивны. Но есть законные опасения по поводу мощи ИИ, особенно в “неправильных” руках. Я также думаю, что самые серьезные нарушения в нашей жизни могут быть вызваны не кибертеррористами (хотя это вполне обоснованная проблема) или буйством искусственного интеллекта, а маркетингом. Предоставление компаниям, которые видят в нас только клиентов, возможности предсказывать каждый наш шаг заставляет меня задуматься.
Эта новость об искусственном интеллекте относится к последней категории – об использовании машинного обучения для прогнозирования того, какие песни понравятся людям. Кажется безобидным, но я думаю, что это развивает тенденцию, у которой есть серьезные недостатки. Вот что сделали исследователи:
Традиционно элементы песен отбирались из больших баз данных, чтобы определить лирические аспекты хитов. Мы использовали другой методологический подход, измеряя нейрофизиологические реакции на набор песен, предоставляемых сервисом потоковой передачи музыки, который выявлял хиты и провалы. Мы сравнили несколько статистических подходов, чтобы оценить точность прогнозирования каждого метода. Линейная статистическая модель, использующая два нейронных измерения, выявила совпадения с точностью 69%. Затем мы создали синтетический набор данных и применили машинное обучение в ансамбле, чтобы выявить присущие нейронным данным нелинейности. Эта модель классифицировала популярные песни с точностью до 97%.
Такой подход называется нейропредсказанием – он предсказывает симпатии и антипатии людей на основе активности их мозга и физиологических реакций (как детектор лжи, но по вашей реакции на музыку). Прежде всего, позвольте мне отметить, что в этом исследовании использовался синтетический набор данных и, следовательно, это просто доказательство концепции – теоретически этот подход может работать. Им нужно протестировать его в реальном мире и посмотреть, может ли он предсказывать попадания, а не просто сопоставлять модель с существующими попаданиями. Но давайте предположим, что это работает и точность составляет 97%. Что это будет означать для музыкальной индустрии и индустрии потокового вещания?
Положительным моментом, о котором говорится в статье, является то, что каждый день по всему миру выходит 24 000 новых песен, или 168 000 в неделю. Это огромное количество песен. Если у вас такой стриминговый сервис, как Pandora, как вы решаете, что транслировать? Вероятно, большинство из этих новых песен являются нишевыми, на иностранном языке или явно не очень хорошими. Но, вероятно, все равно остаются тысячи новых песен в неделю, которые проходят первоначальный фильтр. Затем они отбираются до 30 песен, которые Pandora будет транслировать в качестве своих новых песен недели. Проблема Pandora в том, что они не очень хорошо умеют предсказывать, какие песни станут хитами.
Однако, если они и другие стриминговые сервисы были близки к совершенству в своей способности предсказывать хиты, то они смогут лучше предоставлять своим слушателям то, что они хотят. Артисты, создавшие настоящие хиты, не останутся незамеченными. Система в целом станет более эффективной, и выиграют все. Более того, автор исследования Пол Зак объясняет::
“Если в будущем носимые нейробиологические технологии, подобные тем, которые мы использовали для этого исследования, станут обычным явлением, аудитории можно будет предложить подходящее развлечение, основанное на ее нейрофизиологии. Вместо того, чтобы предлагать сотни вариантов, им могут предложить всего два или три, что упростит и ускорит выбор музыки, которая им понравится”, — сказал Зак.
Это определенно на территории Black Mirror. Представьте, например, что вы носите на висках беспроводные электроды (едва заметные), которые подключаются к вашему смартфону. Когда вы слушаете музыку, регистрируется ваша неврологическая реакция, и искусственный интеллект определяет вашу реакцию. Это используется для прогнозирования того, понравится ли вам новая музыка. Но, конечно, эту же технологию можно использовать для прогнозирования любых ваших предпочтений, не только музыкальных. Это золотое дно в маркетинге. Возможно, кому-то придется придумать какое-нибудь забавное или по-настоящему полезное приложение для этой технологии, чтобы все захотели ее использовать. Но настоящей целью будет сбор большого объема маркетинговых данных.
Это лишь продолжение того, что уже происходит – при использовании наших приложений и посещении веб-сайтов собираются наши данные для таргетинга рекламы на нас. Это оправдано тем, что мы просто даем людям то, чего они, скорее всего, захотят, и в этом есть определенная польза. Но это также может сильно раздражать, а иногда и вызывать легкую дрожь.
Я также обеспокоен возможными культурными и психологическими последствиями (о чем многие люди говорили ранее). Идея о том, что все наши развлечения будут тщательно подбираться специально для нас, а затем транслироваться лично нам в качестве их привлекательности, также означает, что мы теряем что-то в культурном плане. Становится меньше общего культурного опыта. Мы все находимся в наших собственных «пузырях» кураторских развлечений. Это, конечно, распространяется и на информацию. Мы уже наблюдаем социальный ущерб, причиняемый различными сегментами общества, живущими в разных информационных экосистемах, которые управляются так, чтобы нажимать на свои идеологические и эмоциональные кнопки для максимального вовлечения. Мы все чаще живем во взаимно непонятных медиа-пузырях.
Я беспокоюсь, что при таком подходе что-то теряется даже для отдельного человека. Конечно, я хотел бы эффективно открывать для себя новую музыку (или фильмы, книги, телешоу и т.д.), которая мне, вероятно, понравится. Но это также может быть гарантией безопасности. Это достигается за счет поиска чего–то удивительного — чего-то, что ни один алгоритм не смог бы предсказать, что вам понравится. Как правило, людям нравятся копии того, что им уже нравится. Например, нам нравится музыка, которая была популярна во времена нашей юности. Шоу и фильмы часто служат для ностальгии. Но я также хочу, чтобы меня удивляли.
Кроме того, со временем симпатии и антипатии людей могут постепенно меняться, но только в том случае, если их вытесняют из зоны комфорта. Некоторые вещи приобретают вкус, но сначала вам это не понравится. Искусство может влиять на вас. Вы можете глубже понять искусство и оценить его по достоинству, что поначалу может вызвать у вас непонимание. Но я вижу конечную стадию этой технологии нейропредсказания в том, что искусственный интеллект укутает нас в теплые и удобные одеяла наших существующих вкусов. Это по-своему инфантилизирует и сдерживает экономический рост.
Я также обеспокоен тем, что подобные тенденции могут привести к медленной смерти – они подкрадываются к нам так медленно, особенно поколение за поколением, что мы не осознаем, что потеряли. Более вероятно, что старшее поколение почувствует, что было утрачено, но молодому поколению, которое ни о чем не догадывается, они будут казаться просто капризными старыми пердунами. Перенесемся на несколько поколений вперед и посмотрим, что мы имеем. Я бы очень не хотел показаться старым пердуном, и вообще я технофил, готовый осваивать новые технологии и новые способы ведения дел. Но я думаю, что нам действительно нужно хорошенько подумать о культуре чрезмерного кураторства. Иногда выбор пути наименьшего сопротивления не приводит нас к тому, к чему мы хотим прийти.
С другой стороны, я также вижу негативную культурную реакцию на эти тенденции. Молодое поколение, например, увлекается аналоговыми технологиями. Проигрыватели пластинок и виниловые пластинки переживают возрождение. Возможно, еще не поздно оценить то, что может быть утрачено в условиях цифровой жизни – непосредственность и интуитивность восприятия аналоговых материалов. Точно так же будущие поколения могут начать ценить преимущества развлечений, которые не были специально подготовлены специально для них, риск того, что что-то не понравится, или радость открытия чего-то удивительного.
