Внутри OpenAI уже проходят стресс-тесты: сотрудники моделируют сценарии, при которых ИИ выходит из-под контроля или становится инструментом для проведения атак. Эти учения стали ответом на растущие риски безопасности, подтвержденные недавним взломом южнокорейских банков. Согласно отчету CrowdStrike, злоумышленники успешно применили модель DeepSeek для кражи данных, а затем использовали Claude Code для поиска каналов сбыта похищенной информации.
Разработчики ИИ в США готовят экстренный протокол отключения
Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic инициировали серию закрытых консультаций по предотвращению киберкатастроф. Лидеры индустрии опасаются, что масштабный сбой в работе критической инфраструктуры, вызванный использованием нейросетей, спровоцирует политический кризис и жесткие санкции со стороны администрации Дональда Трампа.
На фоне этих инцидентов в Вашингтоне обсуждают внедрение «красной кнопки» — механизма принудительного отключения передовых нейросетей. Идея находит поддержку у законодателей обеих партий, однако технические эксперты скептичны. Они указывают на неконтролируемое распространение открытых моделей и глубокую интеграцию ИИ в мировую экономику, что делает тотальный запрет практически невыполнимым. Несмотря на тревожные прогнозы некоторых специалистов, предрекающих критические сбои в ближайший год, реальная угроза остается предметом острых дискуссий между разработчиками и регуляторами.
Комментарии (0)
Пока нет комментариев. Будьте первым!