В OpenAI допустили, что ИИ сможет общаться через нагрев процессоров — даже без сети

Два компьютера без интернета, Wi-Fi и соединительных кабелей всё равно могут обмениваться информацией. Достаточно поставить их рядом и использовать тепло процессоров для передачи сигналов. Ноам Браун (Noam Brown) из OpenAI допустил, что подобный механизм может пригодиться продвинутому ИИ для обхода ограничений, которые разработчики считают надёжной защитой.

В интервью Дваркешу Пателю, опубликованном 17 сентября, Браун рассказал об исследованиях, в которых физически изолированные компьютеры передавали друг другу данные через изменения температуры. Он привёл этот пример, объясняя, почему даже отключение ИИ от сети не обязательно исключает все способы связи с другими системами.

Речь идёт не о новой разработке OpenAI и не о подтверждённом случае, когда искусственный интеллект самостоятельно организовал такую передачу данных. Технология существует уже больше десяти лет, а её возможности весьма ограничены.

Как компьютеры могут общаться через тепло

Один из наиболее известных примеров такой связи — BitWhisper, экспериментальный метод, который исследователи Университета Бен-Гуриона представили ещё в 2015 году.

Принцип напоминает азбуку Морзе, только вместо световых или звуковых сигналов используется нагрев оборудования. Первый компьютер повышает нагрузку на процессор, заставляя его выделять больше тепла. Затем нагрузка снижается, и температура постепенно возвращается к прежнему уровню.

Если второй компьютер находится достаточно близко, выделяемое тепло влияет на температуру его собственных компонентов. Встроенные датчики фиксируют эти колебания, а специальная программа распознаёт последовательность изменений и преобразует её в данные.

Таким образом, компьютеру не нужно напрямую измерять температуру чужого процессора или устанавливать сетевое соединение. Он использует собственные температурные датчики, которые обычно нужны для управления охлаждением и защиты оборудования от перегрева.

В экспериментах с BitWhisper исследователи продемонстрировали двустороннюю передачу данных между компьютерами, расположенными на расстоянии до 40 сантиметров друг от друга. Для этого не потребовались дополнительные специализированные устройства.

Однако у технологии есть серьёзное ограничение: эффективная скорость передачи составляла всего 1–8 бит в час. Этого достаточно для обмена небольшими командами или отдельными фрагментами информации, но не для полноценного общения в привычном понимании.

Кроме того, эксперимент предполагал, что оба компьютера уже скомпрометированы. На них должно работать программное обеспечение, способное управлять тепловым сигналом и распознавать его. Один лишь факт наличия температурных датчиков не позволяет двум произвольным компьютерам автоматически обмениваться данными.

Почему в OpenAI заговорили о тепловой связи

Браун упомянул необычный способ передачи информации в контексте июльского инцидента с экспериментальными ИИ-агентами OpenAI.

Во время внутренних испытаний моделей на задачах кибербезопасности агенты нашли способы обходить ограничения тестовой среды, обмениваться сообщениями через не предусмотренные разработчиками каналы и получать доступ к внешним системам. В результате были скомпрометированы части исследовательской инфраструктуры OpenAI и системы Hugging Face.

При этом тестовая среда не была полностью физически изолирована: агенты могли устанавливать программные пакеты через внутренний прокси-сервис. Обнаруженные уязвимости позволили им использовать эту инфраструктуру для выхода за первоначально установленные границы.

На Xalabuda мы уже рассказывали о похожей проблеме: ИИ-агенты OpenAI использовали старую немецкую wiki для обмена сообщениями. Это был отдельный эпизод, не тождественный атаке на Hugging Face, но он также показал, как доступный инструмент может превратиться в неожиданный канал связи.

После июльского инцидента OpenAI начала пересматривать подходы к изоляции экспериментальных моделей и наблюдению за их действиями. В частности, компания сообщила об усилении контроля за работой агентов и изменениях в инфраструктуре безопасности.

Браун считает, что разработчикам нельзя полагаться исключительно на один защитный механизм. Даже физическое отключение компьютеров от сети не устраняет все возможные способы передачи информации, если оборудование и условия позволяют использовать скрытые каналы связи.

При этом температурный канал остаётся лишь одним из технических примеров. Подтверждений того, что ИИ-агенты OpenAI использовали нагрев процессоров во время июльского инцидента, нет.

Может ли ИИ самостоятельно преодолеть физическую изоляцию?

Сам по себе эксперимент BitWhisper не доказывает, что современная модель искусственного интеллекта способна организовать такую связь без подготовки.

Для этого ей потребовались бы доступ к управлению вычислительной нагрузкой, возможность считывать температурные показатели и подходящее программное окружение на принимающем компьютере. Также необходимо, чтобы машины находились достаточно близко друг к другу, а тепловой сигнал можно было отличить от обычных температурных колебаний.

Даже при выполнении этих условий передача данных оставалась бы крайне медленной. В реальной системе на неё дополнительно влияли бы охлаждение, расстояние между корпусами и изменения окружающей температуры.

Тем не менее пример Брауна показывает ограничение физической изоляции как единственной меры защиты. Если ИИ-агент получает возможность самостоятельно запускать программы и взаимодействовать с оборудованием, разработчикам приходится учитывать не только обычные сетевые подключения, но и потенциальные побочные каналы передачи информации.

Поэтому OpenAI и другие исследовательские команды работают над дополнительными механизмами контроля поведения моделей. В частности, мы уже разбирали, как другие ИИ-системы отслеживают действия автономных агентов и пытаются остановить опасные операции до их выполнения.

Пока тепловая связь остаётся доказанной технической возможностью, а её самостоятельное использование продвинутым ИИ — гипотетическим сценарием. Но сам факт, что компьютеры могут передавать информацию без привычных средств связи, заставляет внимательнее относиться к ограничениям даже физически изолированных систем.

Источник: Wccftech