Генеральный директор Google Сундар Пичаи заявил, что информационная экосистема богаче, чем искусственный интеллект

Генеральный директор Google Сундар Пичаи заявил, что информационная экосистема богаче, чем искусственный интеллект

<стр>Генеральный директор Google Сундар Пичаи задал простой вопрос, чтобы раскрыть, как, по его мнению, ИИ на самом деле вписывается в жизнь людей.

<стр>В недавнем интервью BBC Сундар Пичаи подчеркивает, что ИИ не является автономным источником информации. Он подтвердил, что ИИ работает вместе с поиском и что ИИ и поиск имеют свое применение. Пичаи также сказал, что ИИ не является заменой ни поиска, ни информационной экосистемы, ни настоящих экспертов в предметной области.

Ряд твитов и статей неверно истолковали высказывания Пичаи, в том числе сообщение BBC News в социальных сетях, в котором резюмируется интервью со словами: «Не доверяйте слепо тому, что говорит вам ИИ».

Твит BBC News

<п>

Эта формулировка ошибочно предполагает, что Пичаи сказал: «Не доверяйте ИИ». Но Пичаи имел в виду не это. Его полный ответ подчеркивает, что ИИ не является отдельным источником информации, что информационная экосистема — это нечто большее.

ИИ совершает ошибки, поэтому возникает заземление

<п>Сундар Пичаи только что закончил описание того, как через несколько лет ИИ откроет новые возможности и создаст новые виды рабочих мест, основанные на том, что люди могут делать с ИИ. Он привел пример создания полнометражного фильма.

В ответ на это заявление интервьюер задал Пичаи вопрос о ошибочности ИИ, заявив, что описанное Пичаи основано на предположении, что ИИ работает.

Заявление Пичаи в целом касалось того, как люди будут использовать ИИ через несколько лет. Вопрос интервьюера был узко сосредоточен на точности и правдивости ИИ. В разговоре между интервьюером и Пичаи присутствовала эта динамика: интервьюер продолжал сужать фокус внимания на ИИ изолированно, а Пичаи продолжал расширять фокус на более широкую информационную экосистему, в рамках которой существует ИИ.

Интервьюер продолжает давить на Пичаи вариациями одного и того же узкого вопроса:

<ул>

  • Надежен ли ИИ?
  • Разве ИИ не делает информацию менее достоверной?
  • Разве Google не должен нести ответственность, потому что эта модель была изобретена там?
  • Пичаи неоднократно отвечает, помещая ИИ в более широкий контекст:

    <ул>

  • AI — не единственная система, которую используют люди.
  • Поиск и другие заземленные источники по-прежнему необходимы.
  • <ли>Журналистика, врачи, учителя и другие эксперты имеют значение.

  • Информационная экосистема больше, чем ИИ.
  • Интервьюер продолжал увеличивать масштаб, чтобы рассмотреть ИИ “tree,” и Пичаи ответил уменьшением масштаба, чтобы объяснить ИИ в контексте информационной экосистемы “forest.”forest.” Это ключ к пониманию того, что имеет в виду Пичаи в своих ответах.

    В ответ на заявления Пичаи о том, как ИИ изменит общество в ближайшие годы, интервьюер спросил о правдивости ИИ сегодня:

    “Итак, все надежды, шумиха, оценки, социальная выгода от этой трансформации, которую вы только что описали, вы строили на центральном предположении, что технология функционирует, что она работает.

    Позвольте мне предложить один простой тест Gemini, вашего быстро развивающегося конкурента ChatGPT. Всегда ли это точно? Говорит ли это правду?”

    Пичаи объяснил, что генеративный ИИ не является источником истины, он просто делает статистический прогноз того, как реагировать. В этом контексте он сказал, что Google Search — это то, что обосновывает ИИ фактами и истиной. Заземление — это система привязки генеративного ИИ к реальным фактам вместо того, чтобы полагаться на его обучающие данные.

    Пичаи ответил:

    <блоковая цитата><п>«Послушайте, мы усердно работаем с научной точки зрения, чтобы обосновать это на реальной информации. И есть области, часть того, что мы сделали с Gemini, — это привнесли возможности Google Search. Поэтому он использует поиск Google как инструмент, позволяющий попытаться ответить и дать ответы более точно. Но есть моменты: в этих моделях ИИ принципиально есть технология, с помощью которой они предсказывают, что будет дальше, и они склонны к ошибкам.”

    <х2>Используйте инструменты для того, в чем они хороши

    В следующей части ответа Пичаи подчеркивается тот факт, что искусственный интеллект и поиск — это инструменты, которые люди используют для разных целей. Он подчеркивает, что ИИ — это не отдельная технология, пришедшая на смену поиску. Он посоветовал использовать каждый инструмент для «того, в чем он хорош».

    Пичаи объяснил:

    “Сегодня, я думаю, мы гордимся объемом работы, которую мы вкладываем, чтобы предоставить максимально точную информацию. Но современные технологии искусственного интеллекта склонны к некоторым ошибкам.

    Вот почему люди также используют Google Поиск, и у нас есть другие продукты, которые более ориентированы на предоставление точной информации, верно? Но те же инструменты полезны, если вы хотите что-то творчески написать.

    <п>Поэтому вам нужно научиться использовать эти инструменты для того, в чем они хороши, а не слепо доверять всему, что они говорят».

    Не одна автономная система: информационная экосистема имеет значение

    <стр>Интервьюер повторил заявление Пичаи о том, что нельзя слепо доверять, а затем снова поставил под сомнение его надежность.

    Интервьюер спросил:

    “ОК, не доверяйте слепо.

    <п>Но позвольте мне предположить, что на вас лежит особая ответственность, потому что вся эта модель, тип модели, модель трансформера, буква Т в ChatGPT, была изобретена здесь, под вами. И вы знаете, что это вероятность. И мне просто интересно, согласны ли вы с тем, что конечный результат всех этих фантастических инвестиций заключается в том, что информация становится менее достоверной?”

    Пичаи вернулся к своему первому ответу, что ИИ – это еще не все, что существует, что ИИ – это всего лишь один источник информации из очень многих источников, в том числе от реальных экспертов-людей. Интервьюер пытался убедить Пичаи говорить о генеративном ИИ, и Пичаи ответил, что это не просто ИИ.

    Пичаи объяснил:

    “Я думаю, если вы создаете только автономные системы и полагаетесь только на это, это будет правдой.

    <п>Вот почему я думаю, что нам необходимо создать информационную экосистему… должно быть намного богаче, чем просто технология искусственного интеллекта, являющаяся единственным продуктом.

    …Правда имеет значение. Журналистика имеет значение. Сегодня все, что нас окружает, имеет значение, верно? <стр>Итак, если вы ученик, вы разговариваете со своим учителем. <стр>Если вы как потребитель идете к врачу, вы хотите доверять своему врачу.

    Да, это всё имеет значение.”

    Пичаи считает, что ИИ существует в рамках более широкого мира, инструментов, человеческих знаний и опыта, а не как его замена. Его акцент на учителях, врачах и журналистике показывает, что человеческий опыт остается высоким стандартом истины и точности. Пичаи отказался отвечать на вопросы, рассматривая ИИ как единственную систему ответов. Вместо этого он продолжал подчеркивать, что ИИ — это лишь часть того, откуда мы получаем информацию.

    Вот почему ответ Пичаи нельзя свести к фразе-приманке типа «Не доверяйте слепо тому, что говорит вам ИИ», — говорит Сундар Пичаи из Google.” Более глубокое послание касается того, что он и, соответственно, Google рассматривают ИИ как один из многих инструментов.

    Смотрите интервью примерно на 10-й минуте: