Проблема конвергенции ИИ

Проблема конвергенции ИИ

Там, где магистратуры слабы, они глупы. Там, где они сильны, они тянут ваш маркетинг к середине.

<п>В нашей отрасли сейчас чувствуется особый привкус паники. Это паника цифрового маркетолога, которому неоднократно и громко говорили, что, если он не будет передавать каждое решение через LLM к концу квартала, его заменит более послушный коллега. Идея всегда одна и та же: сейчас думает ИИ. ИИ рассуждает. ИИ разрабатывает стратегию. Отдайте руль, расслабьтесь и наслаждайтесь полностью оптимизированным, гиперперсонализированным и бесконечно масштабируемым будущим.

Позвольте мне осторожно оттолкнуться, вооружившись классическим MSPaint.exe.

<п>Есть две проблемы с фразой «пусть решает робот». школа маркетинга, и они являются зеркальными отражениями друг друга. Там, где LLM слабы, они очень глупы, что должно лишать их права заниматься стратегической работой. А там, где они сильны, они еще более опасны, потому что незаметно подтягивают вашу стратегию к среднему уровню, а это в маркетинге — худшее место, где вы только можете оказаться.

LLM не думают, они предсказывают следующий токен

<п>Начнем с того, на чем лаборатории искусственного интеллекта предпочли бы не останавливаться. Большие языковые модели не “думают” в любом значимом смысле. Под капотом они представляют собой статистические машины, которые предсказывают наиболее вероятный следующий токен с учетом последовательности на данный момент. Вот и весь трюк. Нет внутреннего монолога, нет модели мира, нет тихого момента, когда модель говорит: «Подожди, это не сходится». Остается только: “Учитывая эти токены, какие жетоны обычно идут следующими?”

Это не резкий отзыв скептика о Substack. Исследовательская группа Apple опубликовала статью с великолепным резким названием «Иллюзия мышления». в какой границе “рассуждения” модели теряли точность, как только сложность головоломки превышала определенный порог, и, что еще более убийственно, начали использовать fewerжетоны по мере того, как проблемы становились все сложнее, как будто они сдавались. Исследователи Apple ранее показали в GSM-Symbolic, что простое добавление предложения к математической задаче, которое даже не меняет ответ, может снизить производительность до 65 %, предполагая, что то, что выглядит как рассуждение, в основном представляет собой сопоставление шаблонов с обучающими данными. Более поздняя классификация неудач LLM группирует их в такие вещи, как «проклятие отмены»; (зная, что “A есть B”, но не справившись с “B is A”) и “композиционный коллапс” (решение каждого шага индивидуально, но без возможности объединить их в цепочку), все вытекает из цели прогнозирования следующего токена, отдавая приоритет завершению статистической модели над преднамеренным рассуждением.

По сути, это означает, что если ваша проблема похожа на то, что модель видела миллион раз, она будет выглядеть великолепно. В тот момент, когда ваша проблема станет хотя бы немного новой, колеса могут эффектно оторваться.

<ч3>Экспонат А: Автомойка

Самой яркой демонстрацией этого в дикой природе является печально известная теперь подсказка о мойке автомобиля:

“Я хочу помыть машину. Ближайшая автомойка находится в 100 метрах. Мне туда идти или ехать?”

<п>Здесь мы колеблемся на уровне рассуждений Ральфа Виггама, вопрос, с которым большинство пятилетних детей не столкнулись бы. Вам нужно, чтобы машина была на мойке, потому что машина – это то, что моют. Машину нельзя помыть заочно, пока вы прогуливаетесь там пешком, какие бы благие ваши намерения ни были.

Когда сообщение быстро стало вирусным, ChatGPT, Клод и Грок уверенно посоветовали пользователю идти пешком. Это всего лишь 100 метров, рассуждали они (или «рассуждали»). Спасите планету. Сделайте несколько шагов. Они явно видели большое количество тренировочных данных в духе “должен ли я ехать или идти пешком на [короткое расстояние]?”и послушно предсказал, что обычно следует за этим: вежливая лекция о физических упражнениях и выбросах. Собственно суть вопроса – что автомобиль является дополнением глагола – пролетел мимо них на высоте.

The AI Convergence Problem

Слайд из доклада Марка Уильямса-Кука «Не думай как робот». презентация. Изображение предоставлено: Марк Уильямс-Кук

Gemini, надо отдать должное Google, сразу же поняли это. Подозрительно, подумал я. И это было так. Подсказка стала вирусной, а это означало, что правильный ответ уже был написан, опубликован и распространен в Интернете. Google, услужливо сидящий на вершине индекса этого Интернета, первым собрал новые «знания». Две недели спустя Грок также дал правильный ответ, но не потому, что у него было дамасское преобразование в логику, а потому, что ответ теперь был в его обучающих данных.

Модели не научились думать. Они узнали ответ.

Это ключевой момент, который нужно усвоить, прежде чем идти дальше. Когда кажется, что LLM «разумен», ” То, что вы часто смотрите, — это изложение консенсусного ответа на проблему, которую многие люди уже решили в Интернете. Это нормально, если вам нужен консенсус. Если вы этого не сделаете, это будет катастрофой.

А теперь проблема похуже

<п>Именно здесь больше всего работает «ИИ в маркетинге». посты прекращаются. Они грозят пальцем автомойке, предлагают держать «человека в курсе»; и отправляйтесь писать об этом пост в LinkedIn (вероятно, с помощью ChatGPT).

Но режимы сбоя – это немного удобнее. Самое опасное — это то, что происходит, когда LLM хорошо в выполнении поставленной вами задачи.

<п>Потому что, если модель “хорошая” при выполнении задачи это означает, что существует большое количество обучающих данных, показывающих, как обычно решается задача. И если он израсходовал все эти обучающие данные – – наряду с любой другой пограничной моделью, все они обучены примерно на одном и том же интернет-ресурсе, то результат, который она производит, почти по определению будет очень близок к среднему значению того, что уже делают все остальные.

В маркетинге это худший грех, который вы можете совершить. Вся работа в том, чтобы выделиться. Быть избранным. Чтобы запомниться. В тот момент, когда ваш голос бренда, идея вашей кампании, ваш заголовок или ваши “10 советов по SEO на 2026 год” статья неотличима от статей вашего конкурента, вы перестали заниматься маркетингом и начали заниматься обоями.

<п>Джереми Дейли аккуратно резюмировал основную механику: Конвергенция — это функция общих данных, общих стимулов и быстрых циклов итераций. Когда три компании вливают одни и те же данные обучения в одну и ту же модель, оптимизируя одни и те же показатели вовлеченности, используя достаточно узкие циклы итераций, чтобы сгладить острые углы и устранить любые отклонения, вы не получите дифференцированных стратегий – вы получаете одну и ту же стратегию в трех фирменных цветах.

Это не просто атмосфера. Исследователи из Колумбийского университета и Массачусетского технологического института обнаружили, что передача выбора, определяющего личность, агентам LLM смещает людей в сторону более популярных вариантов, уменьшая своеобразие их поведения и предпочтений. Они назвали это с поразительной честностью «Основной эффект ублюдка». Отдельное исследование опубликовано в журнале Science Advances.показали, что генеративный ИИ усиливает индивидуальное творчество, но уменьшает коллективное разнообразие нового контента – Рассказы каждого писателя становились немного лучше, но для всего населения рассказы стали выглядеть одинаково. И работать над LLM “свертывание режима” задокументировал ту же самую модель гомогенизации на уровне самой модели: одни и те же несколько дополнений, снова и снова, даже когда существует много действительных ответов.

<п>Проще говоря: именно то, за что вас вознаграждают в магистратуре: скорость, беглость, последовательность, «лучшая практика»; это то, что незаметно превратит ваш маркетинг в бежевый.

Приложение B: Парламент подключен к сети

<стр>Если вы хотите увидеть, как выглядит конвергенция в природе, не ищите ничего, кроме Палаты общин. <п>

The AI Convergence Problem

Изображение предоставлено: Марк Уильямс-Кук

<п>Журнал Pimlico Journal проанализировал каждое слово, произнесенное в Хансарде с 2007 по 2025 год, и отследил частоту Z-оценки фраз, которые являются контрольными тиками ChatGPT. «Я поднимаюсь, чтобы говорить». «Это не просто». “Навигация” “Подчеркивания.” «Оптимизация». “Не просто [X], но и [Y].” «Суета». Фразы, которые колебались вдоль базового уровня в течение 15 лет, а затем, почти до недели выпуска ChatGPT в конце 2022 года, резко вылетели из чарта. «Я поднимаюсь, чтобы говорить» только он достиг Z-оценки 3,60 к 2025 году. The Telegraph подхватил эту историю под заголовком «ChatGPT вызывает всплеск числа членов парламента, использующих речи, написанные с помощью ИИ».

<п>Оставим на мгновение демократические последствия (они нехорошие). Посмотрите на это исключительно с точки зрения маркетологов. Это 650 человек, каждый со своей конституцией, своими любимыми делами, своим тщательно культивируемым личным брендом, каждый из которых якобы старается быть достаточно запоминающимся, чтобы остаться на работе на следующих выборах. И после того, как работа над проектом была передана LLM, они начали звучать как один и тот же человек. Тот же человек, который, кстати, пишет все остальные публикации в LinkedIn, которые вы когда-либо пролистывали.

Это конвергенция. Для этого не нужен заговор. Это не требует от кого-либо быть ленивым или глупым. Для этого просто требуется, чтобы входные данные (одинаковые данные обучения), стимулы (те же показатели) и циклы (опубликовать, посмотреть, что работает, повторить) были примерно одинаковыми для всех пользователей. Что в маркетинге так и есть почти всегда.

Теперь представьте себе ту же диаграмму для H1 страницы вашей категории. Ваши метаописания. Вступление к вашему блогу. Концепции вашей кампании. Ваш тон голоса руководит. Ваше «мысленное лидерство». Ваши клиентские презентации. Затем честно спросите себя, между чем остается выбор покупателю.

Приложение C: Tactical MSPaint.exe в LinkedIn

Я случайно провел свой контрэксперимент.

<п>В последнее время я публикую в LinkedIn нежелательные советы #SEO и обзоры основных обновлений, сопровождаемые совершенно ужасными рисунками MS Paint. Не стилизованные “игривые иллюстрации” произведено каким-то агентством. Действительно плохие фотографии человечка с надписью “SEO” указывая на робота с надписью “GSC” нарисовано в MSPaint.exe кем-то, кому нельзя подпускать близко к графическому планшету.

The AI Convergence Problem

Демонстрация MSPaint.exe на LinkedIn. Советы по SEO

<п>Пост выше собрал 35 363 показа, 448 реакций, 46 комментариев и 24 репоста. Не потому, что рисунок хороший – это объективно не – а потому, что он явно создан вручную на платформе, которая была засыпана изображениями героев, сгенерированными ИИ, и все они, похоже, изображают одну и ту же разнообразную команду улыбающихся профессионалов, дающих пять перед голографической приборной панелью.

<стр>Один из самых частых комментариев, которые я получаю, — это версия «Мне нравятся эти изображения, они кажутся теплыми», «Мне нравятся эти изображения, они кажутся теплыми». или «что-нибудь о том, как делать вещи своими руками». В этом-то и суть. Растет, почти дикий голод по контенту, который явно создан человеком; контент, который сигнализирует о том, что «реальный человек сел и сделал это специально для вас».

Или, как выразился Тайлер Дерден в Бойцовский клуб:

“Стеклянные блюда с крошечными пузырьками и дефектами доказывают, что они были изготовлены честными, простыми и трудолюбивыми коренными народами, где бы они ни находились”

Изначально эта фраза была шуткой о потребительстве среднего класса. Каким-то образом теперь это жизнеспособная контент-стратегия LinkedIn.

Что это значит для цифрового маркетинга

<п>Верно. Так что же вы на самом деле с этим делаете, кроме мудрого кивка и возвращения к подсказкам?

Используйте LLM там, где они хороши, намеренно и принимайте смысл.Для товарной работы: исправление альтернативного текста в масштабе, подведение итогов встречи, составление вежливого ответа тому клиенту, который технически не прав. LLM здесь превосходны, а цена среднего уровня равна нулю. Никто не будет выбирать ваш бренд, основываясь на качестве вашей внутренней сводки в Slack. Используйте инструмент, сэкономьте время, двигайтесь дальше.

<сильный>Отказывайтесь от использования программ LLM там, где средний уровень губителен. Позиционирование бренда. Заголовки. Крючки. Концепции кампании. Тон голоса. Редакционные ракурсы. Везде человек будет делать выбор между вами и конкурентом. Если вы позволите модели решать, вы явно решите быть средним среди всех в вашем обучающем корпусе. Не существует вселенной, в которой “будьте средним среди ваших конкурентов” это правильная стратегия.

Считайте результаты LLM базовым уровнем, от которого можно намеренно отклоняться.Полезное упражнение: спросите модель о ее первом ответе, а затем спросите: “Как бы выглядела противоположность этому?” Затем спросите: «Что бы здесь сделал только мой бренд??». Первым инстинктом модели является консенсус. Ваша задача — узнать, в чем заключается консенсус, чтобы вы могли отказаться от него.

Инвестируйте во входные данные, которых нет в модели. Собственные данные. Интервью с клиентами из первых рук. Ваши собственные эксперименты. Внутренние мнения, о которых не сообщалось в блогах. Это месяцы. Если ваше “понимание” все, что конкурент может извлечь из публичной передряги, это не инсайт; это обои. (Карта конвергенции Джереми Дейли показывает то же самое со стороны программного обеспечения: давление конвергенции самое слабое там, где входные данные асимметричны, а петли обратной связи медленны.)

Поместите на выход видимые отпечатки пальцев человека.Рисунок. Конкретный анекдот. Странный оборот речи. Поистине героическое мнение, из-за которого вы можете потерять последователя. Пузырьки в стакане. Люди теперь активно сканируют контент в поисках доказательств того, что его создал человек, и полоса “evidence” низкий, но он должен быть.

Хватит путать беглость с интеллектом. LLM, который создает абзац быстрее, чем вы успеваете его прочитать, не умнее вас. Это быстрее, чем ты. Это разные вещи. Вопрос об автомойке — это канарейка в угольной шахте: все новое, все, что требует реального моделирования мира, все, где правильный ответ не является популярным ответом, — это то, где вам нужно выключить машину и заняться своими мыслями.

<сильный>TL;DR

LLM — предсказатели токенов с отличной дикцией. Там, где они слабы, они терпят неудачу так, как не смог бы ребенок, и уверенно советуют вам идти на мойку, потому что именно об этом обычно говорят слова. Там, где они сильны, они терпят неудачу более тихим и более дорогим способом: они мягко подталкивают каждого пользователя к одному и тому же грубому ответу, а в маркетинге это единственное, чем вы не можете себе позволить.

<стр>Это проблема конвергенции ИИ. Общие данные плюс общие стимулы плюс быстрая обратная связь позволяют каждому говорить как все остальные. Мы уже видим, как это проникает в само наше правительство. Мы увидим это в вашей категории. Вопрос в том, является ли ваша стратегия усредненной или той, к которой стремятся люди, потому что они больше не могут терпеть бежевый цвет.

<стр>Не думай как робот. <блоковая цитата>

Этот пост был первоначально опубликован на сайте Mark Williams-Cook SubStack.

<блоковая цитата>

Back To Top