Anthropic случайно отключила Claude для бизнеса

Компания Anthropic внезапно отключила доступ к своему AI-ассистенту Claude для компании Belo, фактически остановив работу более чем 60 сотрудников. Причиной стало якобы нарушение политики использования, однако никаких конкретных деталей предоставлено не было.

Блокировка произошла в пятницу и сопровождалась лишь автоматическим письмом. Единственным способом обжалования решения оказалась Google-форма, что вызвало резкую критику со стороны пострадавшей стороны. По словам CEO Belo Патрисио Молины, отключение «остановило работу 60 сотрудников», поскольку ключевые процессы компании были завязаны на интеграции и историю взаимодействия с AI.

Ситуация быстро получила огласку в соцсетях, после чего доступ к сервису был восстановлен примерно через 15 часов. Позже выяснилось, что блокировка произошла из-за «false positive» — ошибки автоматической системы модерации.

Инцидент вызвал волну обсуждений среди пользователей, многие из которых заявили, что сталкивались с аналогичными блокировками и не получали ответа через форму поддержки в течение месяцев.

Сам Молина назвал произошедшее уроком: не стоит полностью зависеть от одного поставщика технологий. Эксперты отмечают, что подобные риски актуальны не только для AI-сервисов, но и для облачной инфраструктуры и систем аутентификации.

На фоне стремительного роста рынка Artificial Intelligence подобные случаи поднимают вопросы о надежности сервисов и прозрачности механизмов модерации. Особенно это критично для бизнеса, где даже кратковременный простой может привести к серьезным потерям.

При этом альтернативы, такие как локальный запуск моделей, требуют значительных ресурсов и экспертизы, что делает их менее доступными для большинства компаний.

Источник: Tom’s Hardware