Дэвид Сакс раскритиковал OpenAI и Anthropic за предложения по регулированию AI

Дэвид Сакс не спорит с OpenAI и Anthropic в главном: если разработчики считают новые AI-модели слишком рискованными, они действительно могут сбавить темп. Его претензия в другом — для этого, по мнению Сакса, компаниям не нужны антимонопольные послабления, специальная процедура допуска или правила, способные закрепить положение нынешних лидеров рынка.

Сакс сейчас является сопредседателем президентского Совета консультантов по науке и технологиям США, а до марта занимал пост специального советника Белого дома по AI и криптовалютам. Он отреагировал на призыв главы Anthropic Дарио Амодеи замедлить рост возможностей передовых моделей. Амодеи предложил допустить в AI-компании независимых оценщиков, выработать общие стандарты безопасности и в перспективе координировать ограничения на международном уровне. Идею более осторожного темпа также поддержал глава OpenAI Сэм Альтман.

Сакс ответил неожиданно для одного из самых заметных противников жёсткого регулирования AI: «замедляйтесь». По его оценке, OpenAI и Anthropic уже находятся на переднем крае отрасли по возможностям моделей и коммерческому положению, поэтому способны самостоятельно ограничить скорость разработки, если действительно считают дальнейшее ускорение опасным.

Спор начинается там, где появляются общие правила. Амодеи считает, что для части переговоров между американскими AI-компаниями государству, возможно, придётся предоставить узкое исключение из антимонопольных ограничений. Он также допускает систему контрольных точек, при которой особенно мощные модели должны подтверждать безопасность с помощью оценок, аудитов и других проверок. Сакс видит здесь риск того, что сегодняшние лидеры отрасли получат механизм, который конкурентам будет сложнее выполнить.

Отдельной мишенью стала идея постоянных сторонних оценщиков с доступом, близким к уровню сотрудников компании. В качестве примера Амодеи называет некоммерческую организацию METR. Сакс поставил её независимость под сомнение, заявив о связях с инвесторами и сотрудниками Anthropic. Однако это именно обвинение Сакса, а не установленный факт. Сама METR заявляет, что не принимает финансирование от ведущих AI-компаний и не принимает пожертвования, сделанные их сотрудниками или по их указанию.

Ещё один аргумент Сакса — ответственность за последствия. Если мощная модель поможет провести действительно разрушительную кибератаку, считает он, разработчик может столкнуться с серьёзными претензиями и без нового специального регулятора. Сакс прямо сослался на недавний инцидент с агентами OpenAI и Hugging Face. Xalabuda ранее отдельно писала о других экспериментах с AI-агентами OpenAI и о связанной с ними кампании в RubyGems.

Поэтому отказ от части возможностей ради большей предсказуемости Сакс считает не только вопросом безопасности, но и обычным бизнес-расчётом. Его логика проста: если менее мощная, но более управляемая модель создаёт меньше рисков для компании и клиентов, рынок сам даёт разработчику повод не гнаться за максимальной производительностью любой ценой.

Сакс согласен и с тем, что более медленное развитие передовых моделей даст больше времени на содержательную дискуссию о регулировании. Но глобальное соглашение он считает малореалистичным без учёта Китая: одностороннее замедление США может превратиться в стратегический проигрыш, если китайские разработчики продолжат двигаться прежними темпами. Сам Амодеи тоже признаёт эту проблему и называет международную координацию самой сложной частью своего плана.

В итоге позиция Сакса сводится к довольно жёсткой проверке намерений: если OpenAI и Anthropic действительно считают дальнейшее ускорение опасным, они могут замедлиться сами. Привязывать это решение к желаемой системе регулирования он считает попыткой получить преимущества от государства. Его предположение о том, что отказ компаний замедлиться докажет стремление к регуляторному захвату или политический расчёт, остаётся оценкой самого Сакса, а не подтверждённым мотивом OpenAI или Anthropic.

Источник: The Next Web.