Когда тревога по поводу ИИ охватила Кремниевую долину, почему a16z выбрали «игнорировать»?

В связи с массовым распространением статьи «Происходит важное событие» и вызванной ею паникой по поводу ИИ, недавно блогер David Oks опубликовал опровержение.

В своей статье он отметил, что текущая паника о грядущем «массовом безработице из-за ИИ» сильно преувеличена.

David Oks считает, что замещение труда зависит от «относительных преимуществ», а не от «абсолютных возможностей». Пока «человек + ИИ» в совокупности производит больше, чем ИИ в одиночку, люди не будут быстро вытеснены.

Реальный мир полон «узких мест», вызванных институтами, организацией и человеческой природой, — эти факторы определяют, что распространение технологий происходит постепенно, а не взрывным образом.

Кроме того, спрос обладает эластичностью, повышение эффективности зачастую ведет к увеличению, а не сокращению потребности в рабочей силе.

«ИИ кардинально изменит общество, но процесс будет медленным и неравномерным. Обычные люди не должны паниковать», — говорит он.

David Oks — американский блогер и исследователь, одновременно являющийся исследовательским партнером венчурной компании a16z.

Ниже — полный текст его статьи —

Два дня назад на Твиттере человек по имени Matt Shumer опубликовал статью под названием «Происходит важное событие».

Практически сразу эта статья стала вирусной. На сегодняшний день ее просмотры достигли почти 100 миллионов и продолжают расти.

Более того, ее широко перепостили люди с противоположными взглядами: например, консервативный комментатор Matt Walsh назвал ее «очень хорошей статьей», а либеральный Mehdi Hasan — «возможно, самая достойная внимания статья сегодня, на этой неделе или даже в этом месяце».

Я слышал, как многие говорили, что эту статью активно пересылают родители, братья, сестры и друзья.

Я предполагаю, что в итоге эта статья станет самой читаемой длинной статьей этого года.

Причина, по которой она так тронула так много людей, вполне очевидна.

Для большинства обычных пользователей «искусственный интеллект» — это просто бесплатная версия ChatGPT, которая помогает отвечать на вопросы, писать письма.

Но сейчас люди начинают осознавать, что ИИ станет мощной реальной силой.

Этот год — год, когда обычные люди начали всерьез задумываться о том, как ИИ изменит их жизнь. И первым делом они думают: не заберет ли ИИ их работу, сделает ли их навыки бесполезными, ухудшит ли их жизнь.

Паника распространяется. «The Atlantic» пишет о безработице из-за ИИ, Берни Сандерс говорит о массовых увольнениях, а Matt Walsh заявляет: «ИИ уничтожит миллионы рабочих мест».

Это уже происходит. Всё меняется. Надвигается лавина.

Большинство обсуждаемых сейчас вопросов скоро станут неактуальными. Мы вступаем в эпоху паники.

Поэтому, в такой момент, если кто-то из «индустрии ИИ» напишет статью о том, что мы находимся в ситуации, похожей на февраль 2020 года — как тогда, когда уровень заражения коронавирусом стремительно рос — это будет очень уместно.

Он подразумевает, что, как и с пандемией, искусственный интеллект скоро войдет в жизнь обычных людей с невероятной силой удара; и единственный способ подготовиться — подписаться на ИИ-продукты, копить деньги, тратить час в день на работу с ИИ, а также следить за Matt Shumer, чтобы «в любой момент знать, какой модель сейчас лучше всего».

На самом деле, это не очень хорошая статья — большая часть, очевидно, сгенерирована ИИ, и сам Shumer это признает — но в распространении любой точки зрения важен не только ее содержание, но и своевременность и позиционирование. А у Shumer с этим все идеально.

Я считаю, что ни одна статья не повлияет так глубоко на восприятие ИИ обычными людьми, как эта. Она станет знаковым текстом эпохи.

И это очень плохо. Проблема не в том, что ее написал ИИ, а в том, что ее оценка влияния ИИ — по сути — ошибочна.

Я не считаю, что мы находимся в ситуации, похожей на преддверие пандемии 2020 года. Я не думаю, что обычным людям стоит слишком сильно волноваться по поводу ИИ. И я не считаю, что выводы из этой статьи — о грядущей массовой безработице, кардинальных переменах за несколько месяцев, «лавине, которая уже началась» — соответствуют реальности.

Боюсь, такие недоразумения могут привести к катастрофическим последствиям.

Я говорю это не потому, что не верю в ИИ. Напротив, я считаю, что ИИ станет чрезвычайно важной технологией, и его конечное влияние будет сравнимо с изобретением электричества или паровой машины, а возможно, станет одним из самых значимых открытий в истории человечества. Будущее обязательно будет кардинально отличаться от прошлого.

Но это не значит, что мы находимся в «феврале 2020 года». Я искренне не верю, что нас ждет массовая безработица, внезапное прекращение человеческого труда или что-то подобное «лавине».

В ближайшие годы ситуация может казаться странной, особенно если вы постоянно следите за новостями об ИИ. Но влияние ИИ на реальный мир будет медленнее и менее равномерным, чем предполагает Shumer. Человеческий труд не исчезнет быстро. И даже если люди будут тратить час в день на работу с ИИ, в целом их жизнь не ухудшится.

Настоящее замещение труда — гораздо сложнее, чем кажется

ИИ станет невероятно мощным: он будет постоянно удивлять нас, его возможности будут расти, и скорость этого роста будет ускоряться. Уже сейчас многие задачи выполняет ИИ так же хорошо, как квалифицированный человек, и таких задач становится все больше.

Но это не означает, что человеческий труд будет массово вытеснен.

Ключ к пониманию замещения труда — в сравнительных преимуществах, а не в абсолютных возможностях.

Проблема не в том, сможет ли ИИ выполнить какую-то задачу человека, а в том, что — при участии человека — совокупный результат будет лучше, чем у ИИ в одиночку.

Иными словами, участие человека должно повышать итоговое производство. Это принципиально иной вопрос. Даже если ИИ превосходит человека по каждой отдельной задаче, если «человек + ИИ» дает больший результат, то с экономической точки зрения есть смысл сохранять участие человека.

Например, в программировании, даже при очень сильных возможностях ИИ, «человек + машина» (так называемый «киборг») все равно лучше, чем работа ИИ без человека — потому что нужно задавать предпочтения, учитывать требования компании и клиентов.

Это хорошая новость для работников, поскольку их производительность растет. Пока спрос эластичен, перспективы для человеческого труда остаются оптимистичными. (Возможно, поэтому после выпуска Claude Code за год количество инженеров только увеличилось.)

По мере роста возможностей ИИ, роль человека в дополнении к нему может постепенно снижаться, но «киборгная эпоха» продлится дольше, чем думают многие.

Мир без человеческого дополнения — это крайний сценарий: когда ИИ в любой задаче и при любых условиях превосходит человека полностью, и участие человека не требуется вовсе. Такой сценарий нереален.

Проблема не в том, что модели недостаточно хороши, а в том, что реальный мир полон «человеческих узких мест».

Мир управляется людьми, а сами люди — это низкоэффективные, эмоциональные, консервативные, конкурирующие и легко пугающиеся существа. Пока эти узкие места существуют, нужны люди, чтобы их преодолевать.

Узкие места — это всё

Почти всякая неэффективность в различных сферах происходит из-за человеческих факторов: законы и регулирование, корпоративная культура, скрытый опыт, личные конфликты, отраслевые стандарты, офисная политика, государственное управление, иерархия, бюрократия, зависимость от отношений, предпочтение нарративам и брендам, изменение вкусов, ограниченное понимание, и самое главное — сопротивление переменам.

В долгосрочной перспективе технологии постепенно разрушат эти узкие места, как вода медленно шлифует камень. Но это требует времени. Общие технологии, такие как электричество, — это десятилетия повышения производительности. Распространение ИИ может идти быстрее, но узкие места остаются.

Это объясняет, почему, несмотря на мощь моделей, в реальности замена рабочих мест ограничена.

GPT-3 вышел шесть лет назад, GPT-4 — три года назад, и даже в таких отраслях, как обслуживание клиентов, где автоматизация кажется очевидной, массовых увольнений не происходит.

Изменения идут постепенно, скорее как распространение технологии, а не как цунами.

Интеллект сам по себе — не ограничивающий фактор, важны организации и институты.

Даже при абсолютных преимуществах ИИ, спрос на человеческий труд может расти

Почему, при наличии абсолютных преимуществ у ИИ, человеческий труд все еще может увеличиваться? Потому что эластичность спроса гораздо выше, чем мы думаем. Это — парадокс Джевонса: повышение эффективности ведет к росту общего спроса.

Пример — программное обеспечение.

Каждое повышение эффективности программирования (более высокоуровневые языки, фреймворки, инструменты) в итоге приводит к росту спроса на программное обеспечение и увеличению числа инженеров. Если ИИ значительно повысит производительность, спрос на софт может еще больше взлететь.

Пока человек и ИИ остаются в стадии дополнения, это в целом выгодно для работников.

Даже если работы не требуется, люди все равно будут придумывать новые профессии

В долгосрочной перспективе роль человека в дополнении к ИИ может стать почти нулевой. Но этот процесс будет очень долгим, и до этого момента мы, возможно, уже войдем в эпоху высокого благосостояния.

История показывает, что при каждом повышении производительности люди используют дополнительные ресурсы для новых профессий и занятий.

От сельскохозяйственного излишка до сегодняшних бариста, йога-инструкторов, подкастеров, стримеров — в будущем появится еще больше необычных и интересных профессий.

Обычные люди не должны волноваться

Мое мнение — изменения, вызванные ИИ, в целом будут гораздо мягче, чем думают многие.

Конечно, кто-то потеряет работу, кому-то потребуется переквалификация, кто-то не сможет адаптироваться. Но переход будет постепенным.

Пандемия — не лучший пример. Обычный офисный работник — тот, кто не интересуется Anthropic и регулярно инвестирует в индексные фонды — скорее всего, не столкнется с проблемами из-за ИИ.

Многие вещи со временем улучшатся, некоторые — ухудшатся, а многое останется без изменений. Людям просто нужно постепенно менять подход к работе, не впадая в панику.

В ближайшие годы возможны неопределенность и хаос, но настоящие риски, скорее всего, связаны не с технологией, а с социальными и политическими реакциями.

Если общество услышит, что «ИИ скоро вызовет лавину безработицы», — это может привести не к тому, что люди начнут учиться ИИ, а к росту популизма, требующего жестких ограничений, запрета дата-центров, гарантии работы на всю жизнь и даже законодательных барьеров для развития технологий.

Если ИИ действительно принесет рост производительности, прогресс в медицине и науке, и откроет новую эпоху человеческой цивилизации, — такой откат станет огромной социальной потерей.

Возможно, лучше всего — дать обществу понять, что ИИ очень силен и быстро развивается, — и при этом не пугать людей.

Они справятся.