Чем ближе вы подходите к модели, тем менее уверенно вы должны быть. Чем дальше вы сидите, тем больше вы можете взять за уверенность.

“За последние несколько лет собрано достаточно доказательств того, что системы ИИ непредсказуемы и их трудно контролировать” Это Дарио Амодей в январе, который пишет о технологиях, которые продает его компания. <стр>Сравните с тем, что было в вашей ленте LinkedIn на этой неделе. Вот сценарий: Разметка Schema гарантирует, что механизмы искусственного интеллекта анализируют ваш контент. Первое предложение каждого раздела должно быть ответом. Оптимизация для извлечения на уровне фрагментов. Если вы сделаете X, цитируемость увеличится на 13 %, а если вы сделаете Y, то конверсия увеличится в 2,8 раза.

<п>Это одна из самых ярких тенденций, наблюдаемых сейчас, и отрасль предпочла не замечать этого. Люди, наиболее близкие к этим системам, все более осторожно относятся к заявлениям о контроле. Люди, наиболее далекие от этого, все больше уверены, что знают, как это работает … они взломали его. Этот градиент работает неправильно.

Что на самом деле говорят люди, построившие его

Anthropic опубликовала свой основной пост об исследовании интерпретируемости в мае 2024 года. Он открывается:

<блоковая цитата><п>«Мы чаще всего относимся к моделям ИИ как к черному ящику: что-то входит и выходит ответ, и неясно, почему модель дала именно этот ответ, а не другой».

Anthropic, писал о своей модели два года назад.

С тех пор ситуация не стала более уверенной. Нил Нанда, руководящий командой Google DeepMind по механистической интерпретации, дал интервью изданию 80,000 Hours в сентябре 2025 года, в заголовке которого говорилось, что самая амбициозная версия механистической интерпретации, вероятно, мертва. Он не видит реалистичного мира, в котором дисциплина дает «такие надежные гарантии, которых некоторые люди хотят от интерпретируемости». Стоит перечитать.

Человек, чья работа состоит в том, чтобы читать мысли ИИ, публично признает, что проект в том виде, в каком он был изначально задуман, не достигнет цели.

На NeurIPS 2024 Илья Суцкевер, сооснователь Safe Superintelligence и бывший главный научный сотрудник OpenAI, получил награду Test of Time и использовал платформу, чтобы сказать то, чего аудитория от него не ожидала:

“Чем больше он рассуждает, тем более непредсказуемым он становится.”

Карьера Суцкевера – это, по сути, гипотеза масштабирования с лицом. Слышать, как он говорит, что следующий этап дает менее предсказуемые результаты, само по себе является признанием.

<п>Теперь прокрутите обратно к своей временной шкале. Градиент — это Даннинг-Крюгер, перерисованный в отраслевом масштабе: гора Глупый со страницей с ценами и долина калибровки, где происходит реальная работа.

Изображение предоставлено: Педро Диас

Что на самом деле говорят люди, продающие это

<п>Практик публикует четырехкомпонентную структуру для “Technical GEO”. Консультант гарантирует включение в обзоры AI. Агентство позиционирует повышение вероятности цитирования на 13%, полученное на основе данных, которые само агентство предоставило о собственных рецептах агентства. Широко распространенное сообщение обещает, что сохранение ограничения на абзац в 300 символов определяет, как векторная база данных будет разбивать ваш контент. Поставщик заявляет о 78% «доли модели». Старший показатель в вашем почтовом ящике описывает улучшение конверсии в 2,8 раза по сравнению с тем, что цитируется в SGE.

Словарь детерминирован: “обеспечивает,” “гарантии” “диктует” проценты с точностью до десятичной дроби, уверенно названные рамки. Ничто из этого не похоже на язык, который используют люди, создавшие эти системы, описывая их поведение.

<п>Это та часть, на которой я все время застреваю. Консультанты уверены в тактике, которую они использовали против себя. Запустите один и тот же сценарий на нескольких клиентах, понаблюдайте за изменением показателей, назовите это доказательством. Никаких контрольных групп, никаких заранее зарегистрированных гипотез, никаких измерений того, что на самом деле должна изменить эта тактика. Это планка, которую должно преодолеть настоящее испытание; все остальное было подтверждено в костюме. Проблема заключается в уровне доверия, который неверен на порядок, независимо от того, дает ли какая-либо основная тактика какой-либо эффект. Та же самая модель, которую Anthropic публично заявляет, что не может полностью объяснить, оптимизируется людьми, которые уверенно заявляют, что точно знают, что они делают.

<с>Либо Антропик подозрительно скромен на публике, либо кто-то еще подозрительно уверен.

Когда кто-то тестирует

В понедельник, на прошлой неделе, Ahrefs опубликовал исследование Луизы Линехан и Сибэйцзя Гуань с названием, которое в идеале должно быть невозможным: Мы отследили 1885 страниц, добавляющих схему. Цитаты ИИ почти не изменились.

<п>Методология — это вид работы, который можно было бы считать стандартным, если бы дисциплина заботилась о стандартах. 1885 страниц, на которые была добавлена ​​схема JSON-LD в период с августа 2025 г. по март 2026 г. 4000 совпадающих управляющих страниц. Изменения цитирования измерялись за 30 дней до и 30 дней после добавления схемы в обзорах Google AI, режиме Google AI и ChatGPT. Разница в различиях в сопоставленных группах.

<стр>Вывод: значимого роста цитируемости ни на одной платформе нет. Обзоры ИИ на самом деле показали небольшое, но статистически значимое снижение. В отчете отмечается, что вероятность такого большого разрыва составляет примерно 1 к 2500. Тезис «схема заставляет студентов LLM понимать ваше содержание», протестированный в масштабе на основе контролируемого базового уровня, не выдержал испытания.

<п>Это эмпирическое подтверждение технического аргумента, который я привел неделю назад в The Whole Point Was the Mess: что LLM читают неструктурированный язык, и что рецепты схемы и фрагментирования основаны на рассуждениях об архитектуре, которой не существует. Из первых принципов, две недели назад. По данным контролируемого измерения, в прошлый понедельник.

С этим стоит посидеть. Доминирующая предписывающая категория во всей методике GEO была открыто эмпирически сфальсифицирована в контролируемых условиях поставщиком со значительной аудиторией. А фреймворки продолжают продаваться.

Тогда Google сам ответил

<п>15 мая 2026 года Google опубликовал официальную документацию по оптимизации функций генеративного ИИ в поиске. Миф на странице опровергает предписания GEO в письменной форме: файлы llms.txt не нужны; дробление контента не требуется; переписывать контент для систем искусственного интеллекта нет необходимости; специальная разметка схемы не требуется; Борьба с недостоверными упоминаниями не помогает. Оформление необычно прямое для страницы разработчика Google:

“Многие предлагали ‘хаки’ не эффективны и не поддерживаются тем, как на самом деле работает Google Поиск.”

<п>Google называет оптимизацию механизма ответов и оптимизацию генеративного механизма полными терминами и категорически отвергает эту схему.

Изображение предоставлено: Педро Диас

Это поисковая система, под которую консультанты утверждают, что оптимизируют, сообщая своей собственной аудитории разработчиков, что оптимизация не работает. Из первых принципов, две недели назад. По данным контролируемого измерения, в прошлый понедельник. От самого Google, в прошлую пятницу. Три независимых источника одного и того же ответа, и все в течение двух недель. Все это игнорируется людьми, продающими противоположное.

Стоимость запроса

Здесь диагноз перестает быть вежливым.

Уверенные заявления на этих платформах объединяются так, как этого не делают скептические исправления. Разница в том, кто платит. Публикация уверенного заявления вам ничего не стоит. Он привлекает внимание, создает аудиторию, генерирует приток посетителей, делает слайд-презентацию перспективной. Если окажется, что это неправильно, ничего не произойдет. К тому времени, как кто-нибудь это заметит, все перейдут к следующей аббревиатуре.

<п>Публикация исправления будет стоить вам денег. Оно выбирает драку. Это отмечает вас как противоречия или, что еще хуже, как человека, который этого не понимает. В LinkedIn, где происходит большинство подобных событий, это работает против вашего профессионального бренда. Алгоритм не вознаградит его. Оригинальный автор владеет разделом комментариев и может игнорировать ваш методический вопрос, отвечая на поздравительные ответы. Ваш ответ находится в свернутой теме.

<п>Здесь стоит упомянуть один конкретный ход. Попросите консультанта GEO объяснить простыми словами, что на самом деле делает их методология, на каком механизме она действует, что можно считать доказательством, а что может ее фальсифицировать. Ответ перерастает в жаргонизм. “Выравнивание векторного пространства.” “Оптимизация запросов T1” “Семантический поиск на уровне фрагментов” Реальные термины из исследований машинного обучения, склеенные в комбинации, которые звучат строго и не поддаются проверке простым языком. Шаблон работает, потому что может. Спрашивая «что это на самом деле означает?» выглядит наивно, и наблюдатели без специальных технических знаний не могут сказать, какие комбинации реальны, а какие импровизированы на месте.

<п>Прочтите комментарии к любому важному посту GEO. Пятнадцать ответов, 12 — соглашения или «вот еще один навык, который можно добавить в свой список». Двое или трое высказывают дипломатически оформленный скептицизм: «Мне бы хотелось увидеть больше данных», — сказал он. или “список правильный, но…” Автор в значительной степени занимается философским возражением, потому что возражение против «это слишком технически» не соответствует действительности. это легко. Методологическое возражение, что предписанные навыки позволяют уверенно рассуждать без какого-либо измерительного слоя, получает самое вежливое погребение.

<п>В результате получается газлайтинг в масштабах отрасли. Люди, правильно читающие технологию, позиционируются как те, кто не догнал ее; рецепты, которые только что сфальсифицировали контролируемые тесты, продаются как перспективные. GEO придумала, как сделать калибровку дефектом.

Недавний эксперимент X отразил динамику за пределами SEO. Кто-то опубликовал картину Моне и заявил, что она была создана искусственным интеллектом, и попросил в ответах объяснить ее неполноценность по сравнению с настоящим Моне. Сотни откликнулись, уверенно каталогизируя «ИИ рассказывает». Плоская манера письма, бездушная композиция, никакой сплоченности, никакой души. Они анализировали Моне. Кадр определял то, что они видели.

Скриншот из X, My 2026 <стр>Исходный пост, многие первоначальные ответы которого теперь удалены.

Скриншот X, май 2026 г.

Это тот же трюк. Словарные заменители содержания; фреймирование активирует предвзятость подтверждения до начала любого исследования; качество анализа становится тем, что приобретается, а не сам анализ; “это X” прибудет прежде, чем кто-нибудь проверит, так ли это. Как только рамка установлена, следует анализ.

<п>Поэтому люди, наиболее подготовленные к противодействию, практики, которые на самом деле пытались что-то протестировать, технические специалисты по поисковой оптимизации, которые знают, что схема делает, а что нет, те, кто может заметить сфабрикованный номер лифта с другого конца комнаты, хранят молчание.

Результатом, согласно данным высшего руководства, является односторонний рынок.

Затраты ложатся на плечи людей, купивших заявку. Клиенты платят за аудит схем, исследование Ahrefs только что сфальсифицировало. Младшие практики строят карьеру на методологиях, которые не выдерживают контролируемых испытаний. А эта дисциплина подрывает доверие, которое ей понадобится позже, когда традиционный поиск вытеснит все дальше, и оптимизаторам придется сидеть в комнатах с командами инженеров, которые только что провели два года, наблюдая за полем, и уверенно неправильно называют технологию.

<п>Знания развиваются благодаря попыткам опровергнуть вашу гипотезу, а не подтвердить ее. GEO делает обратное: проводит исследования, направленные на проверку того, что уже продается. Если профессионалы, заявляющие об этом опыте, даже не попытаются фальсифицировать себя, кто же нам поверит?

Отсутствие – это данные

<с>Удалим дискурс, и останется лишь отсутствие.

В серьезной области техники наблюдают, как контролируемый тест противоречит доминирующим рецептам, и рецепты продолжают продаваться. В этот момент вопрос о том, ошибочны ли рецепты, перестает быть интересным вопросом. На это был дан ответ. Более сложный вопрос заключается в том, что не так с полем, которое наблюдает и не корректирует.

То же самое с градиентом. Когда люди, создавшие системное хеджирование, и люди, оптимизирующие эти системы, гарантируют, вопрос о том, кто прав, перестает быть интересным. Исследователи и строители правы. Никто из тех, кто работал над атрибуцией умозаключений, не думает иначе. Более сложный вопрос заключается в том, почему поле позволяет гарантиям действовать беспрепятственно.

Честный ответ: стимулы не способствуют исправлению. Уверенность продается так, как осторожность не продается. Отчетная структура выигрывает бюджет; чувствительная оценка проигрывает. А хеджированные формулировки не подходят для страницы с ценами, где гарантия идеально вписывается.

Никому из них не нужны злодеи. Рынок внимания каждый раз вознаграждает уверенность, а не калибровку.

Вы можете продолжать наблюдать, как градиент движется в неправильном направлении. Или вы можете прочитать, что это на самом деле: индустрия, стоящая на горе Глупый и взимающая плату за вид.

Этот пост был первоначально опубликован на The Inference.