Пришел лесник – сильный и умный (с высоким IQ) – и всех разогнал
Трамп вчера объявил, что идеальный ограничитель для ИИ у Америки уже есть – сам Трамп. Сильный и умный (с высоким IQ): все необходимые характеристики президент предусмотрительно перечислил сам в своей соцсети Truth Social. Заодно досталось “ангелочку” Дарио Амодеи, а главным выгодоприобретателем всей этой свалки был назначен Китай.
Позже президент позвонил Дженсену Хуангу прямо во время выступления главы Nvidia на конференции и по громкой связи заверил собравшихся: роботы мир не захватят, останавливать индустрию незачем. Продавец чипов для этой индустрии согласился.
ИИ-бум – одна из главных экономических ставок Трампа: сейчас это инвестиции в дата-центры и лаборатории, в будущем – рост производительности, который Амодеи обещал чуть ли не громче всех. Тормозить эту историю и рисковать преимуществом перед Китаем президенту невыгодно.
Пекин поддержал международное сотрудничество, но выступил против запугивания и недобросовестной конкуренции – отсылка к предложению Амодеи ограничивать возможности Китая экспортным контролем.
Но самую интересную позицию высказал Дэвид Сакс – бывший советник Трампа по ИИ и нынешний сопредседатель президентского совета по науке и технологиям. Его позиция проста:
Хотите тормозить – так тормозите.
По мнению Сакса, Anthropic и OpenAI образовали дуополию на рынке фронтирного ИИ, поэтому для торможения им достаточно договориться между собой.
Общие ограничения Сакс не поддерживает: по его мнению, предложенная система надзора и согласования темпов разработки закрепит лидерство Anthropic и OpenAI. Он называет это regulatory capture – попыткой подстроить регулирование под себя.
Здесь и проходит главный конфликт. Сакс предлагает компаниям отвечать за свои продукты и напоминает: инциденты вроде атаки ИИ-агентов на Hugging Face могут обернуться огромными судебными издержками.
Лаборатории же боятся потерять лидерство: пока одна ограничивает разработку, остальные продолжают гонку.
А в истории есть еще как минимум две стороны. Инвесторы рассчитывают на рост стоимости лабораторий, клиенты — на рост продуктивности с выходом новых моделей. Но клиентам нужны и гарантии безопасности: по данным The Information, Nvidia уже ограничивает использование моделей Anthropic менее чувствительными задачами из-за опасений за свои данные.
Сначала я собирался пройтись по лабораториям: риски ИИ обсуждают десятилетиями, а руководители компаний годами обещают AGI и суперинтеллект. Почему же теперь, когда мощный ИИ замаячил на горизонте, они выглядят такими неподготовленными?
Похоже, возможности ИИ растут быстрее, чем готовность лабораторий, властей и бизнеса ими управлять. Предсказывать появление суперинтеллекта оказалось проще, чем договориться, что делать при его приближении.
Но за само признание “возможно, мы не готовы к такой скорости” я бы лаборатории не пинал. Если за разговор о рисках сразу начинают возить лицом по полу, это создает отличный стимул в следующий раз промолчать. При этом признание проблемы не снимает ответственности за её решение.
Договориться о безопасности будет дорого для всех: лабораториям, возможно, придется отложить разработки, инвесторам – принять более медленный рост, государствам – соблюдать взаимные ограничения. Причем еще нужно показать, что эти уступки действительно снижают риски. Если каждый готов тормозить только за счет остальных, все так и останется разговором.
—
В собственной работе с ИИ тоже приходится разбираться с границами самостоятельности. Что разрешить агенту технически — рассказываю в гайде по правам доступа, файлам и подтверждениям. А как объяснить модели, когда действовать самой, когда уточнять и чего вообще не добавлять от себя — в руководстве по GPT-6 и Claude Fable 5.1.
