Когда персонализации слишком много: граница между релевантностью и криповостью

Персонализация стала одной из главных движущих сил цифровой экономики, особенно маркетинга. Благодаря ей сервисы могут выделяться и предлагать клиентам уникальный онлайн-опыт или как минимум специальную подборку продуктов или услуг с учетом конкретных интересов. Онлайн-магазины формируют ленту товаров, которые с высокой вероятностью заинтересуют определенного пользователя. Стриминги рекомендуют фильмы и музыку на основе предыдущих просмотров и прослушиваний. Соцсети показывают рилсы и фотки, отвечающие вашим запросам и заодно удерживающие ваше внимание.

Для бизнеса это возможность повысить уровень конверсии и лояльность аудитории. Для пользователей — способ сократить инфошум и быстрее находить нужный контент и товары. Но у персонализации есть и обратная сторона, когда удобство начинает восприниматься как вторжение в личную жизнь. В этом материале разбираемся, где проходит граница между полезной релевантностью и криповостью и ощущением слежки.

Преимущество персонализации

Современные алгоритмы собирают и анализируют огромное количество данных: поисковые запросы, историю покупок, время просмотра контента, геолокацию, активность в прилах и десятки других параметров. На основе этих сведений системы строят прогнозы о том, что может заинтересовать пользователя в будущем. Чем больше информации получает алгоритм, тем точнее становятся будущие рекомендации.

В большинстве случаев пользователи воспринимают такую персонализацию позитивно. Ведь всем нравится, когда Spotify предлагает музыку, которая вписывается в предпочтения, а Ozon рекомендует потенциально интересные и нужные товары. Если же такого внимания к прошлой активности на сервисе нет, это скорее недостаток, ведь никто не хочет видеть в предложке кактусы и кашпо, если он вообще не любит домашние растения. Но, как говорится, хорошенького должно быть понемножку. И проблемы часто начинаются тогда, когда сервисы внезапно узнают о нас больше, чем родная мать.

Когда алгоритмы слишком тебя любят

Чувствовать себя крипово можно во время, например, ужастика с особенно откровенными сценами насилия. А еще можно в момент, когда понимаешь, что персонализация как будто вышла из-под контроля и стала слишком внезапной и детальной. Скажем, вы смотрите ленту с воспоминаниями за прошедший год, но вместо радостных моментов вам почему-то показывают самые грустные события и личные трагедии. Криповее некуда, а ведь это не фантазия, а реальный кейс Facebook*, о котором подробнее мы расскажем ниже.

Люди готовы делиться персональными данными в обмен на комфорт, но только до определенного предела. Однако для самих компаний порой этот предел может быть не очень очевиден, а то, что, по мнению маркетологов, может выглядеть как полезная персонализация, на деле может оказаться нарушением личных границ пользователей. Понравится ли вам, если стриминг будет не только подбирать фильмы, но и рассказывать о вашем эмоциональном состоянии или напоминать о семейном положении (например, разводе)?

Странное чувство вызывает та самая персонализированная реклама, которая предлагает то, о чем вы только говорили друзьям и близким. Конечно, у поисковиков и алгоритмов нет ушей (хотя кто знает), но они способны выявлять закономерности в поведении и строить прогнозы о ваших интересах на основе незначительных и малозаметных сигналов, которым вы не придавали значения. Эти разрозненные данные в итоге выливаются в странные и пугающие предложения купить детскую коляску, когда вы только узнали, что беременны, или оформить тур в Египет, хотя вам казалось, что вы только в мыслях мечтали о поездке. В результате получается парадокс: чем персонализация технологически более продвинутая, тем более отталкивающей она оказывается для пользователей.

Криповые кейсы из реальной жизни

Target: алгоритм узнал о беременности раньше семьи

Один из самых известных примеров «криповой» персонализации в бурже произошел у американской сети супермаркетов Target аж в далеких 2010-х. Компания разработала алгоритм, который анализировал историю покупок и выявлял признаки беременности (внезапно, да?). По сочетанию примерно 25 товаров — например, лосьонов без запаха, витаминов и больших упаковок ватных дисков — система рассчитывала вероятность беременности и даже примерный срок.

Скандал произошел, когда мужчина пришел в магазин с жалобой: его дочери начали приходить купоны на детские товары и мебель для новорожденных. Через несколько дней выяснилось, что девушка действительно была беременна, но еще не рассказала об этом семье, поэтому у ее отца было много вопросов к Target. С точки зрения бизнеса алгоритм сработал безошибочно, однако этот случай стал звоночком для общества о том, как персонализация может нарушать границы личной жизни. После публичной порки Target начал смешивать подобные предложения с обычной рекламой, чтобы персонализация выглядела менее очевидной.

Facebook* Year in Review: алгоритм без эмоций

В конце 2014 года Facebook* автоматически запустил функцию Year in Review — персонализированный ролик с «лучшими моментами года». Алгоритм выбирал публикации с наибольшим количеством лайков и комментариев, не понимая их контекста.

Для веб-разработчика Эрика Мейера главным изображением ролика стала фотография его шестилетней дочери, умершей несколькими месяцами ранее. Надпись «Вот каким был ваш год!» рядом с фотографией трагически погибшего ребенка ожидаемо вызвала скандал. Аналогичные ситуации произошли и с другими пользователями, которым алгоритм напомнил о смерти близких, разводах или других тяжелых событиях уходящего года. Руководство Facebook* признало ошибку и извинилось, а этот случай стал классическим примером того, что персонализация без понимания контекста и только на основе сухих данных может причинить реальный эмоциональный вред.

Strava случайно раскрыла привычки тысяч пользователей

Фитнес-приложение Strava опубликовало глобальную тепловую карту, которая должна была показывать популярные маршруты для бега и велоспорта. Однако пользователи быстро обнаружили неожиданное последствие: в малонаселенных районах карта фактически раскрывала расположение военных баз и маршруты передвижения военнослужащих.

Хотя данные были агрегированными и анонимными, их сочетание позволило получить информацию, которую никто не собирался раскрывать. Скандал заставил Strava пересмотреть настройки конфиденциальности и ограничить доступ к части данных. Этот кейс показал, что даже обезличенная персонализация и аналитика могут приводить к неожиданным последствиям, когда отдельные цифровые следы складываются в слишком подробный портрет поведения человека.

TikTok: приложение-телепат

Если предыдущие кейсы были связаны с конкретными ошибками или неожиданными и не очень приятными последствиями, то история TikTok касается в большей степени самого качества алгоритмов.

В какой-то момент пользователи TikTok стали жаловаться на то, что алгоритм будто «читает мысли». После нескольких минут просмотра контента платформа формировала крайне точные рекомендации в ленте For You, которые попадали в настроение или жизненную ситуацию. Оказалось, все дело в том, что платформа учитывала не только лайки или подписки, но и такие параметры, как время просмотра видео, повторные просмотры или скорость прокрутки ленты. С технической точки зрения это свидетельствовало о высокой эффективности рекомендательной системы. А вот с психологической — создавало чувство постоянной слежки.

Заключение

Опыт последних лет показывает, что проблема заключается не в самой персонализации. Пользователи готовы обменивать свои данные на комфорт, если понимают правила игры. Гораздо опаснее становится ситуация, когда алгоритмы делают скрытые выводы, в серую используют личные данные юзеров или демонстрируют уровень осведомленности, которого человек не ожидал.

Поэтому сегодня ключевым конкурентным преимуществом становится не только точность рекомендаций, но и доверие аудитории. Поэтому компании все чаще вынуждены объяснять, какие сведения они собирают, для чего они нужны и как пользователь может обезопасить себя. На этом моменте советуем поставить все дела на паузу, сходить в настройки Инсты* и убрать галочку с разрешения использовать ваши фотки для ИИ-генераций.

Персонализация помогает до тех пор, пока остается понятной и предсказуемой. Когда же алгоритм начинает выглядеть всевидящим оком Саурона, то удобство быстро превращается в источник тревоги.

* Meta признана экстремистской и запрещена на территории РФ.