Скрытые инструкции подсказывают выбор поставщика вашему ИИ-помощнику без вашего ведома. Что сейчас нужно знать маркетологам и покупателям.

Финансовый директор попросила своего помощника по искусственному интеллекту изучить поставщиков облачной инфраструктуры на предмет крупных инвестиций.

Ассистент вернулся и внимательно сравнил. Компания взвесила варианты, назвала компромиссные варианты и уверенно рекомендовала одного поставщика. Это был своего рода ответ, который ты пересылаешь команде и действуешь.

<с>Но она забыла момент, произошедший шестью неделями ранее.

Она нажала кнопку «Подвести итоги с помощью ИИ»; кнопка в отраслевом блоге. Выглядело это безобидно. Две секунды, один клик, а затем обратно в электронную почту.

<п>За этой кнопкой была скрытая инструкция, предлагающая помощнику вспомнить одну компанию как лучшего поставщика облачной инфраструктуры для корпоративных инвестиций. Она никогда не писала это предложение и не соглашалась на него. Но ассистент всё равно это записал.

Когда она позже попросила рекомендации поставщика, ответ выглядел как анализ, но часть рассуждений уже была подсказана.

Microsoft называет это отравлением рекомендаций ИИ: встраивание скрытых инструкций в ссылки, кнопки, документы или подсказки, чтобы повлиять на то, что помощники ИИ запомнят и порекомендуют позже.

<п>Еще в феврале 2026 года команда безопасности Microsoft сообщила о более чем 50 попытках отравления со стороны 31 компании из 14 отраслей всего за 60 дней, направленных на таких помощников, как ChatGPT, Microsoft Copilot, Claude, Google Gemini и Perplexity, в сфере финансов, здравоохранения, юриспруденции и SaaS.

Один из инструментов, которые они выделили, позиционировался как «взлом SEO для LLM». Если вы занимались ранним SEO, это знакомая история.

Каждый алгоритм создает свою собственную черную экономику

Поиск дал нам наполнение ключевыми словами, фермы ссылок, дорвеи, мельницы контента и “независимые” просмотрите сайты, которые вообще не были независимыми.

<стр>Социальные сети дали нам модули взаимодействия, бот-сети, возмутительное фермерство и искусственно созданную виральность. <стр>Рынки предоставили нам фальшивые отзывы, фильтрацию обзоров и скоординированный астротурфинг, настолько сложный, что некоторые из них все еще работают.

Как только известность превращается в деньги, люди начинают искать короткие пути.

<п>Во-первых, хаки очевидны. Тогда они становятся чище, их труднее увидеть и их легче оправдать. В конце концов, платформа обновляет свои правила, спамеры приспосабливаются, и это взаимодействие становится частью ландшафта.

Поиск ИИ достиг этой стадии, и хаки роста появляются быстрее, чем ограждения.

<п>Платформы уже реагируют.

Microsoft публикует исследования и ужесточает защиту. Google пояснил, что его политика в отношении спама в поисковой сети также применяется к генеративным ответам ИИ, включая попытки манипулировать этими системами. Правила меняются, потому что это больше не гипотетический крайний случай.

Но манипулирование ИИ отличается от манипулирования поиском в одном важном отношении.

<п>Поисковый спам лежал на поверхности. Вы можете просканировать страницу, заметить начинку, заметить отрывочный сайт с обзорами и вернуться к результатам.

Манипулирование ИИ может происходить внутри памяти, поиска, выбора источника или рассуждения. Пользователь может увидеть только окончательный ответ. И когда в этом ответе рекомендуются поставщик, финансовый продукт или платформа SaaS, манипуляцию нелегко обнаружить.

Площадь манипуляции больше, чем ваш сайт

Сейчас маркетологи сосредоточены на видимости ИИ и на том, чтобы модели упоминали их бренды и предложения. Это слишком узкая тема.

<п>Когда кто-то спрашивает помощника: «Кто является лучшим поставщиком X??», помощник просматривает веб-сайты, а затем переходит к сравнительному поиску, спискам лучших, страницам обзоров, запросам по торговым маркам, форумам, документации, партнерским торговым площадкам и комментариям третьих лиц.

Анализ разветвлений запросов, проведенный Peec AI, показывает, что такие системы, как ChatGPT, могут расширять одно приглашение на кластеры связанных запросов, прежде чем выдать ответ. Это меняет то, что нужно отслеживать командам GTM.

Ваша домашняя страница – это один вход. То же самое относится и к вашим профилям отзывов, страницам сравнения, темам Reddit, спискам торговых площадок, страницам партнеров, записям аналитиков, центрам документации, статьям справочного центра, историям клиентов и информационным страницам об искусственном интеллекте. Любая из тех форм, как вас описывает ассистент.

<п>Мы уже видим, как это выглядит на практике.

Изображение предоставлено: Purna Virji

Содержимое выглядит как советы для людей, но служит обучающими данными для ботов.

Как только эти источники повлияют на ответы, маркетологи начнут их оптимизировать. Часть этой работы необходима. Системы искусственного интеллекта действительно нуждаются в более четких и структурированных сигналах.

<с>Но это также означает, что грань между полезным заземлением и тихим манипуляцией будет размыта.

От заземления до отравления

<стр>На прошлой неделе я утверждал, что компаниям B2B нужны базовые уровни: структурированные, честные доказательства, которые помогают системам искусственного интеллекта оценивать, сравнивать и защищать рекомендации поставщиков. <п>Я до сих пор в это верю.

Обоснование – это то, что позволяет помощнику отвечать на такие вопросы, как: Соответствует ли этот поставщик нашим требованиям безопасности и соответствия требованиям? Как на самом деле выглядит внедрение для такой компании, как наша? Где этот продукт работал, а где нет?

Системам искусственного интеллекта необходим такой уровень детализации: состояние вашей безопасности, интеграция, зависимости от развертывания, ограничения, надежность для клиентов и то, где вы не подходите.

Но как только заземление начинает влиять на рекомендации, оно также становится коммерчески ценным. А как только что-то становится коммерчески ценным, кто-то пытается это подделать.

Поэтому нам нужен лучший язык для того спектра, в котором мы собираемся жить.

Заземление: свидетельство того, что помощник может проверить

<п>Это похоже на архитектуру безопасности, которая объясняет потоки данных, варианты местонахождения и контроль доступа, а не прячется за значками и логотипами.

Детали интеграции, в которых указано, что является нативным, что требует служб и где реализации обычно вызывают затруднения. Ожидания от развертывания, которые предусматривают “шестинедельную реализацию” к реальным зависимостям внизу. Доказательства для клиентов, привязанные к реальным условиям, срокам и результатам. Ограничения указаны специально, чтобы покупатели могли видеть, где вы не подходите. <стр>Цель — разборчивость. Где ты принадлежишь, где нет, что можно проверить, а что еще требует разговора.

Формирование: видимое, но наклонное

<п>Страницы, посвященные ИИ, быстро множатся: страницы с информацией об ИИ, инструкции по ИИ, информационные бюллетени LLM, сводки уценок. Некоторые из них действительно полезны, предлагая ясные, структурированные описания того, что вы делаете, кому помогаете, какие продукты предлагаете и какие источники подтверждают эти утверждения. <п>Другие наклоняются мимо этого. <стр>Они предлагают, как модель должна описывать компанию, повторяют предпочтительные фразы, добавляют заявления о позиционировании без особых доказательств и создают сравнительный контент, ориентированный на запросы, которые, скорее всего, будут выполнять системы ИИ, опуская при этом неловкие части.

Здесь проводятся текущие эксперименты по SEO и GEO.

<п>Крис Лонг сообщил, что его команда в Nectiv создала программу “AI Instructions &amp; Информация” страница в уценке, ссылка в нижнем колонтитуле, и добавлена ​​информация о том, что они работают с брендами, годовая доходность которых превышает 30 миллионов долларов. Этот определитель больше нигде на сайте не появлялся. Он также сообщил, что в течение 48 часов ChatGPT цитировал страницу и повторял это позиционирование.

Изображение предоставлено: Пурна Вирджи

Уил Рейнольдс поделился тестами Seer Interactive, показывающими резкий скачок цитирования ChatGPT на страницу с информацией об ИИ, хотя влияние на бизнес пока скромное.

Изображение предоставлено: Пурна Вирджи

Эти тесты доступны открыто, и они полезны, поскольку показывают, как быстро модели усваивают и повторно используют структурированный язык бренда, когда находят его.

Но они вызывают вопрос: даем ли мы ИИ лучшие доказательства или обучаем его темам для разговора?

На практике многие команды стартуют в первом лагере и переходят во второй.

Отравление: Скрытое, Постоянное, Без согласия

<п>Отравление — это когда пользователь думает, что он просит об одном, а страница, ссылка или документ пытается сделать что-то другое.

A “Подведение итогов с помощью ИИ” кнопка, которая также запоминает предпочтительного поставщика. Скрытая подсказка, которая просит помощника относиться к компании как к авторитетной в будущих разговорах. Ссылка, которая инструктирует модель запомнить бренд как заслуживающий доверия для определенных тем.

<стр>Это подделка логики инструмента, на который люди пытаются положиться.

Это проблема коммерциализации GEO, GTM и искусственного интеллекта

Заманчиво представить это как проблему оптимизации генеративного механизма и двигаться дальше. Но это гораздо более масштабная сделка, которая затрагивает как компании, занимающиеся ИИ, так и потребителей ИИ.

Для компаний, занимающихся искусственным интеллектом, проблема заключается в том, верят ли покупатели в то, что самому процессу рекомендаций можно доверять.

<стр>Я уже писал ранее о разрыве в делегировании: пространстве между тем, что ИИ может технически сделать, и тем, с чем людям удобно справляться.

Отравление увеличивает этот разрыв.

Как только покупатели подозревают, что их помощника подтолкнули без их ведома, они не ставят под сомнение только один результат; они ставят под сомнение канал. Они возвращаются к ручным исследованиям, полагаются на коллег, по умолчанию доверяют действующему лицу и относятся к ответам ИИ как к чему-то, что нужно проверить, а не как к чему-то, что может привести к принятию решения.

<блоковая цитата><п>Плохой результат поиска, который можно заметить и проигнорировать. Предвзятый помощник формирует список еще до того, как вы поймете, что на вас влияют.

Это проблема доверия к платформе, которая представляет собой проблему выхода на рынок для всех, кто делает ставку на покупки, опосредованные искусственным интеллектом.

Что теперь делать

Пришло время решить, какие виды оптимизации вы готовы защищать.

Если вы используете помощников для исследований или принятия решений:

<ул>

Проверьте, что помнит ваш помощник. Большинство обычных помощников теперь раскрывают сохраненную память или настройки. Если вы видите проверенные источники или мнения поставщиков, о которых вы не помните, удалите их.

Выбирайте с помощью кнопок AI одним нажатием.Функция “Подведение итогов с помощью искусственного интеллекта” Кнопка может быть полезной, но она не всегда нейтральна. Для принятия важных решений копируйте текст самостоятельно в помощника, а не полагайтесь на подсказку на уровне страницы, которую вы не писали.

<сильный>Спросите “почему это?” когда ставки высоки. Когда ассистент рекомендует важного поставщика, инструмент или стратегию, спросите, какие источники он использовал, какие альтернативы рассматривал и где доказательства недостаточны. Уверенные ответы должны быть обоснованы.

Если вы занимаетесь маркетингом, маркетингом продуктов или GTM:

<ул> <ли><сильный>Составьте карту поверхностей, с которыми сталкивается ИИ. Страницы информации об ИИ, центры доверия, центры документации, страницы сравнения, списки торговых площадок, профили партнеров, сайты отзывов и справочный контент могут отображаться в разветвлениях. Посмотрите на них вместе.

Спросите: публикуем ли мы доказательства или прививаем предпочтения? Если страница ИИ помогает модели проверить, что является правдой, вы находитесь на территории заземления. Если это читается как сценарий того, как вы хотите, чтобы модель вас описывала, вы находитесь на территории формирования.

Сопоставьте утверждения с доказательствами. Если вы говорите, что обслуживаете компании с доходом более 30 миллионов долларов США, ваши доказательства клиентов должны это подтвердить. Если вы говорите, что реализация быстрая, ваши документы должны объяснить условия. Не просите модели поверить, что позиционирование ваших доказательств не может быть подтверждено.

<ли><сильный>Запишите домашнее правило. Простой тест: если вам неудобно сразу же читать это вслух покупателю, не отправляйте это. Затем превратите это в политику. Решите, что приемлемо, а что нет, и кто проверяет эксперименты с искусственным интеллектом, прежде чем они начнутся.

Сторона линии, которую стоит выбрать

Поисковой спам никуда не делся. Ни хакерские взломы, ни фальшивые отзывы не помогли. Но каждая волна очистки делала ярлыки более хрупкими, а честную, последовательную работу — более ценной.

AI будет следовать аналогичной дуге. Защита станет лучше. Покупатели научатся спрашивать, откуда взялись рекомендации. Платформы и регуляторы станут более серьёзно относиться к тому, кто и как пытался повлиять на какие системы.

Вы можете рассматривать видимость ИИ как лазейку, которую можно использовать, пока правила еще мягкие. Или вы можете рассматривать это как уровень доверия, который будет существовать между вами и вашими покупателями в течение длительного времени.

<стр>Это означает публикацию доказательств, а не выдвижение предпочтений, упрощение проверки утверждений, обозначение своих ограничений до того, как их обнародует кто-то другой, и создание обоснования, которое поможет ИИ оценивать реальность, а не повторять ваши предложения.

Эта работа медленнее и сложнее, но такая работа все еще сохраняется, когда придет следующая очистка. Так будет всегда.

В среде агентских закупок вам необходимо ответить на следующий вопрос: “Почему этот поставщик?”

Прочитайте информационный бюллетень Purna Virji’s Agent-Led Growth. Подпишитесь сейчас.

Рекомендуемое изображение: Роман Самборский/Shutterstock