Будущее человечества vs частный капитал: что стоит за призывами притормозить ИИ

ИИ-индустрия в последние дни заговорила о собственных рисках громче обычного. Сначала о возможной потере контроля заявили бывшие сотрудники самых передовых компаний отрасли, а следом и их CEO почти одновременно предложили сбавить темп. Политики же, наоборот, сбавлять отказываются, ведь гонка за лидерство зашла уже довольно далеко. Но насколько реальны угрозы и оправдан весь алармизм, есть ли на рынке пузырь и какую роль во всём этом отвёл себе Казахстан — в материале National Business Kazakhstan.

Призывы притормозить развитие ИИ звучат далеко не впервые. Ещё в 2023 году представители отрасли предлагали приостановить обучение моделей мощнее GPT-4, а возможную потерю контроля ставили в один ряд с пандемией и ядерной войной. Паузы не случилось, а сегодня в разговоре ещё больше сгущают краски. Модели стали гораздо умнее, получили больше самостоятельности и уже способны находить уязвимости в чужих системах.

Агентность, рекурсивное самоулучшение, кибератаки, мошенничество и социальная инженерия заставляют индустрию думать уже не только о скорости развития, но и о том, как удержать разбушевавшуюся технологию под контролем.

Кто первым сбавит темп?

Независимый исследователь и продакт-эксперт в области финтеха и кибербезопасности Адриан Жунусов предлагает не искать для происходящего одно объяснение. Призывы замедлиться сами по себе ещё не доказывают, что рынок готовится к обвалу, а рост выручки компаний не отменяет технологических рисков.

Современные модели ещё не достигли уровня искусственного сверхинтеллекта — системы, способной превзойти человека почти во всех интеллектуальных задачах. Однако, как отмечает Жунусов, быстрее всего у моделей развиваются автономность, способность строить долгосрочные планы и обходить ограничения, что и вызывает обеспокоенность.

«Опасность такой системы не в злом умысле — это образ из кино. Проблема в сочетании высоких способностей, автономности и доступа к реальным инструментам. Такая система не обязана быть враждебной, чтобы представлять угрозу. Поэтому разумная последовательность здесь одна — сначала проверяемая безопасность, потом масштабное развёртывание, о чём сейчас как раз и говорят во всём мире», — объясняет эксперт.

Примечательно, что с необходимостью сбавить темп впервые публично согласились руководители сразу четырёх главных конкурентов — Anthropic, OpenAI, xAI и Google DeepMind. Однако, уточняет Жунусов, полностью останавливать разработку никто из них не предлагает.

«Речь идёт об управляемом темпе, независимом аудите с доступом внутри компаний, единых проверяемых стандартах для разработчиков передовых моделей и международной координации. То есть не о запрете прогресса, а о том, чтобы безопасность и контроль успевали за возможностями технологии».

Но публичное согласие ещё не означает готовности замедлиться в одиночку, хотя саму угрозу уже не отрицают. Но первым сбавлять скорость по-прежнему никто не хочет. Особенно правительства разных стран, для которых это соперничество уже давно перешло в плоскость нацбезопасности и суверенитета.

Ставки растут: жизни людей или частный капитал?

И всё же синхронные предупреждения руководителей крупнейших ИИ-компаний вызывают неудобный вопрос. Действительно ли они думают только о безопасности или заодно готовят рынок к возможному падению?

Поводы так думать найти нетрудно. По обновлённому прогнозу Gartner, мировые расходы на ИИ в 2026 году могут достичь 2,59 трлн долларов — на 47 % больше, чем годом ранее. Здесь учитывают не только разработку моделей, но и инфраструктуру, программы и услуги. При этом при таких затратах ожидаемую экономию ИИ приносит далеко не всегда — достаточно вспомнить кейс в Meta, где замена части сотрудников на ИИ привела к таким сбоям, что план пришлось перенести до «лучших времен».

Сомнений добавило и решение OpenAI отложить выход на биржу. Сэм Альтман назвал 2026 год неподходящим моментом для IPO и объяснил отсрочку необходимостью сначала решить вопросы безопасности. Со стороны это действительно может выглядеть как попытка переждать не самый удобный для размещения период.

Однако Жунусов признаков скорого схлопывания рынка пока не видит.

«Объёмы заёмного финансирования и капитальных затрат действительно внушительные, а часть инфраструктурных инвестиций ещё должна доказать свою окупаемость. Но выручка ведущих ИИ-компаний растёт, а модели внедряют уже не на уровне пилотных проектов, а в основные процессы — разработку, поддержку, аналитику и работу с документами. Поэтому тезис о пузыре, на мой взгляд, выглядит натянутым».

Перенос IPO OpenAI эксперт тоже считает скорее ставкой на долгий цикл, чем попыткой спасти капитал перед обвалом.

Не в гонке, но в игре

Для Казахстана эта тема тоже близка. Страна сделала большую ставку на ИИ, участвует в международных инициативах и создаёт долину ЦОДов.

Вложения в ИИ-стартапы, к примеру, выросли с примерно 14 млн долларов в 2023 году до 73 млн в 2025-м. А на инфраструктуру по соглашениям с Firebird и NVIDIA планируют направить 10 млрд долларов, что точно поднимет статистику ещё на несколько пунктов.

Вопрос только в том, насколько эта ставка поможет развивать собственные технологии, а не просто поставлять ресурсы более развитым экономикам.

Гендиректор NDDEV Данил Силантьев, участвующий в цифровизации Централизованной библиотечной системы Алматы, считает, что возможное замедление глобальной гонки по Казахстану почти не ударит. Нынешних возможностей стране пока достаточно.

«У Казахстана уже есть необходимая инфраструктура для работы с ИИ, и её возможности пока далеко не исчерпаны. Нам нужно время на адаптацию и обкатку решений. Компаний, которые приходят к ИИ и автоматизации, будет становиться больше, поэтому внутренний рынок может развиваться и на нынешнем поколении моделей», — считает Силантьев.

Казахстан за лидерство в этой гонке пусть открыто и не борется, но и от выбранного курса пока не отказывается. Поэтому, по мнению Силантьева, возможное замедление может пойти нам на пользу и дать время довести уже начатые проекты до практического применения. А если пузырь всё-таки сдуется, это станет проверкой того, насколько устойчивой оказался казахстанский подход в ИИ-индустрии.