<стр>Системы ответов вознаграждают вас за создание именно того контента, который незаметно отравляет колодец, из которого они пьют.

<п>Это не моральное требование и не предупреждение о том, что вас могут поймать. Это описание механизма, который несколько групп исследователей уже задокументировали с разных точек зрения, и как только вы увидите, как эти части сочетаются друг с другом, значительная часть запутанного поведения в поиске ИИ перестанет сбивать с толку. Я собираюсь пройтись по этому вопросу, используя настоящую терминологию, потому что настоящая терминология — это то, где на самом деле живет понимание, а затем изложу каждый фрагмент простым языком, чтобы он был доступен каждому. <п>Прежде чем идти дальше, поместите две кривые рядом, потому что вместе они объясняют, почему это важно сейчас, а не когда-нибудь. Что касается предложения, согласно анализу десятков тысяч страниц Graphite, более половины недавно опубликованных англоязычных веб-статей уже созданы с помощью искусственного интеллекта. Что касается спроса, то большую часть запросов собираются взять на себя машины: Жорди Рибас из Microsoft, который управляет поиском и искусственным интеллектом, заявил, что через несколько лет агенты искусственного интеллекта смогут выполнить в тысячу раз больше запросов, чем весь человеческий поиск, вместе взятый. Сеть наполнена страницами, написанными машинами, в тот самый момент, когда машинные читатели собираются стать ее доминирующей аудиторией. Оба конца канала одновременно становятся синтетическими.

Одна вещь, на которую следует обратить внимание: есть большая вероятность, что вы уже слышали о том, что я предлагаю вам сделать в конце этой статьи. Но я готов поспорить, что вы не слышали, почему и как работают системы, которые приведут к переменам, которые я предсказываю. TL;DR – люди побеждают.

<п>Теперь начнём с того, что меня больше всего удивило.

Системы имеют большой палец на шкале машинного текста

Машинописный текст несет в себе обнаруживаемую структурную сигнатуру, отпечаток поколения, и исследования по обнаружению рассматривают эту сигнатуру как вероятностную, а не достоверную, сильный сигнал, а не штамп. Отлично. Важно не то, что отпечаток пальца существует, как мы предполагали некоторое время, а то, что с ним делают поисковые системы, и ответ оказывается противоположным тому, что ожидает большинство людей.

Появляется все больше рецензируемых работ о том, что исследователи называют предвзятостью источника, называемой невидимой предвзятостью релевантностив одной влиятельной газете. Проще говоря: поисковые системы, компоненты, которые решают, какие страницы использовать для построения ответа, отдают измеримое предпочтение машинописному тексту. Они первыми тянутся к нему и оценивают его выше, даже если страница, написанная человеком, так же хорошо отвечает на вопрос. Исследование SIGIR, в котором был назван этот эффект, обнаружило, что модели поиска ставят элементы, созданные ИИ, выше человеческих без релевантного обоснования для продвижения, что расширяет более ранние выводы о той же предвзятости при поиске по простому тексту. Основное объяснение заключается в том, что машинописный текст имеет тенденцию быть более гладким и статистически более предсказуемым дословно — свойство, измеряемое так называемым недоумением, которое не имеет никакого отношения к системе ответов, носящей то же имя, и модели поиска, похоже, считают, что этой плавности легче доверять. Причина все еще обсуждается. Эффект повторяется. На данный момент отпечаток пальца не является ответственностью. Это преимущество.

<п>На практике это выглядит так. Две страницы одинаково хорошо отвечают на один и тот же вопрос: одна написана человеком, а другая — моделью. При наличии обоих вариантов поисковая система обращается к сгенерированному варианту не потому, что он более точен, а потому, что его плавная, равномерно предсказуемая формулировка воспринимается как более надежная для системы, обученной на огромном объеме именно такого типа текста. Человеческая сторона была не хуже. Это просто не звучало так, как машина научилась ожидать хорошего ответа, и это ожидание теперь является преимуществом в рейтинге, которое вы ничего не сделали, чтобы заработать, а ваш конкурент-человек не сделал ничего, чтобы потерять.

Данные LLM для принятия решений

Немного синтетики в бассейне становится много в ответах

Теперь добавьте время к этому предпочтению. В документе веб-конференции 2026 года было смоделировано то, что происходит, когда машинный контент продолжает накапливаться в пуле, из которого извлекаются системы ответов, и было дано имя режима отказа: схлопывание извлечения. Их контролируемый эксперимент заслуживает внимания сам по себе. Они начали с реальных результатов поиска, затем шаг за шагом добавляли машинно написанные, оптимизированные для SEO страницы, пока синтетический контент не составил две трети доступного пула.

Вот число, которое имеет значение. При таком загрязнении пула на две трети более 80% того, что фактически было получено в ответах, было синтетическим. Скажем прямо: скромное большинство машинописных страниц в пуле создало подавляющее большинство машинописных источников в готовых ответах, потому что эти страницы были созданы для того, чтобы обмануть сигналы ранжирования, и поэтому они были выбраны далеко не пропорционально их доле. Смещение от первой секции – это усилитель. Немного синтетики в бассейне становится слишком синтетическим в ответах.

<п>Представьте себе это, ответив на один вопрос, скажем, сколько времени нужно пробиотикам, чтобы подействовать. Вначале десятью источниками, к которым может обратиться система ответов, могут быть поясняющий врач, университетская страница о здоровье, производитель пищевых добавок, длинная ветка на форуме и пара авторитетных издателей, посвященных вопросам здравоохранения, – настоящее разнообразие происхождения и точек зрения. Двадцать раундов синтетического накопления спустя восемь из этих десяти слотов представляют собой почти идентичные машинописные статьи, каждая из которых перефразирует один и тот же небольшой набор утверждений, отличающихся главным образом логотипом вверху. Полученный вами ответ по-прежнему читается нормально. Сейчас он почти полностью собран из копий копий, а разногласия и текстуры, которые раньше существовали в этом списке источников, просто утихли.

Циферблат, на который все смотрят, остается зеленым

Это та часть, которая должна привлечь ваше внимание. Несмотря на все это загрязнение, точность ответов практически не изменилась и составила от 68% до 70%. Исследователи называют это обманчиво здоровым.состояние, и версия на простом языке — единственная причина, по которой существует эта статья: ответы по-прежнему звучат правильно, поэтому снаружи ничего не выглядит сломанным, в то время как внутри источники, питающие эти ответы, сузились до преимущественно синтетических, а реальное разнообразие источников рухнуло. Система выглядит нормально на одном циферблате, который смотрит большинство людей, а полый циферблат почти никто не смотрит.

Конкретно, вот в чем ловушка. Команда, занимающаяся контентом, открывает панель управления видимостью с помощью искусственного интеллекта и видит, что уровень цитируемости стабильный, а может быть, и растет. На экране все зеленое. Чего на экране не видно, так это того, что три или четыре источника, появляющиеся рядом с ними в этих ответах, которые год назад представляли собой восемь или десять действительно разных источников, теперь представляют собой группу почти дубликатов, повторяющих одни и те же утверждения в одной и той же форме. Команда по-прежнему цитируется, поэтому инструмент сообщает о работоспособности. Информационная среда, в которой находится их цитата, незаметно сузилась до эха. Присутствие сохранилось, разнообразие рухнуло, и на приборной панели всегда была только одна из этих двух вещей.

<п>Этот разрыв — урок измерения, и его легко вернуть назад. Если вы отслеживаете, как часто система ответов цитирует вас, то здорово выглядящее число подскажет вам, что вас всплывают при определенном запуске. Это ничего не говорит вам о том, превращается ли пул вокруг вас в однообразие, а частота цитирования в повторяющихся подсказках — это направленное чтение того, как вы представлены, а не чистый подсчет спроса.

Почему это не может просто прийти к новой норме

<п>Итак, если отпечаток пальца предпочтителен и пул гомогенизируется, зачем называть это отравленным колодцем, а не стабильным равновесием ? Потому что система потребляет свою собственную продукцию, и у нас есть убедительные доказательства того, что это происходит с течением времени. Исследование коллапса моделей, проведенное Nature, показало, что модели, обученные на рекурсивно сгенерированных данных, деградируют в последующих поколениях, так же, как фотокопия фотокопии теряет немного точности с каждым проходом, пока изображение не превращается в кашу. Уровень поиска, который все чаще основывает свои ответы на машинных источниках, созданных теми же моделями, представляет собой более медленный этап этого цикла. У систем есть причина для выживания, и авторы краха поиска прямо заявляют об этом, рекомендуя организациям относиться к проверенному, проверенному человеком контенту как к стратегическому активу и начать отслеживать происхождение и разнообразие источников, а не только точность.

<п>И вот мысль, которая важна. Сейчас платформы заявляют, что они нейтральны в отношении того, как создается контент. В собственном руководстве Google по функциям искусственного интеллекта прямо говорится, что компанию волнует, полезен ли контент, а не то, как он был создан. Таким образом, три силы указывают одновременно в разных направлениях: документально подтвержденная предвзятость настоящего времени, которая отдает предпочтение машинному тексту, заявленная нейтральность платформы, которая не вознаграждает и не наказывает ее, и структурное давление выживания, которое в конечном итоге должно подтолкнуть эти системы к тому, чтобы отдавать предпочтение проверенным человеком разнообразным источникам. Я не могу сказать вам дату, когда эти силы разрешатся или какая из них победит. Я могу вам сказать, что ставка на то, что нынешняя предвзятость сохранится навсегда, — это ставка против той силы, которую системы’ собственная дальнейшая функция зависит от. И мои деньги? Это то, что контент, созданный людьми, со временем становится более ценным.

Что с этим делать

Ничто из того, что следует здесь, не является общей гигиеной контента, и каждое из них перемещает следы в определенный механизм, упомянутый выше.

Создать то, что синтетический пул не может воспроизвести. Единственная категория контента, которую структурно не может создать гомогенизирующий, самоссылающийся пул, – это оригинальные доказательства: собственные данные, первичные исследования, тестирование из первых рук, прямая отчетность. Все, что пишет языковая модель, получено из того, что уже существует. По-настоящему новая информация должна попасть в систему извне, принесенная кем-то, кто пошел и нашел ее. Это не просто качественная игра; это именно тот материал, который сохраняет разнообразие источников, которые, по мнению исследователей, понадобятся системе. В примере с пробиотиками все восемь повторяющихся страниц повторяют одни и те же утверждения; тот, который провел настоящий тест или опубликовал реальные данные потребления, является единственным источником в наборе, который не мог быть создан копией, и именно это затрудняет его замену.

Сделайте свое происхождение разборчивым.Если грядущее давление будет направлено на предоставление привилегий проверенным человеком источникам, практический шаг в ближайшем будущем должен быть безошибочно идентифицируемым как таковой: четкое авторство, настоящие учетные данные, прикрепленные к реальным людям, поиск читателя или машины, которую может проверить, послужной список, который существует публично. Вы работаете над тем, чтобы стать своего рода узлом, который система, знающая о происхождении, как только она появится, сможет распознать и сохранить. Имя доверяло исследователям, проверенным людьми контенту как стратегическому активу. Задача состоит в том, чтобы убедиться, что вы четко находитесь внутри этого набора, прежде чем это станет иметь значение.

Не оптимизируйте свой путь к отпечатку пальца. Это неудобный вариант, потому что та же самая оптимизация, которая сегодня выигрывает при поиске, является причиной коллапса завтра. Я не говорю вам отказаться от структуры и ясности. Я говорю вам, что если ваш контент структурно неотличим от машинно-генерируемого наполнителя, вы сделали ставку на предвзятость, которую у системы есть причина выживания. Изгородь должна быть проверяемо человеческой, если она учитывается в доказательствах, авторстве и суждениях, которые модель не может создать.

<сильный>Ставка

Здесь это не выходит. Контент, который сегодня побеждает в системах ответов, находится на пути к столкновению с тем, что нужно этим системам, чтобы вообще продолжать работать. Практики, создающие несинтетический, ясный и доказательный узел, не гонятся за нынешней предвзятостью. Они готовятся к исправлению, которое необходимо для выживания системы. Это более медленная игра, чем оптимизация с учетом предпочтений поиска в этом квартале, и именно на нее я бы вложил свои деньги.

Этот пост был первоначально опубликован на сайте Duane Forrester Decodes.