Разработчики ИИ увольняются и предупреждают о катастрофе. Что их так напугало?

На самом деле, компаниям выгодно пугать нас опасностью искусственного интеллекта Почему разработчики ИИ увольняются из самых передовых лабораторий и предупреждают о катастрофе? За три года из OpenAI, Anthropic и Google ушли десятки специалистов по безопасности. Они не просто меняют место работы — они открыто говорят об угрозах, которые видят изнутри. Что их так напугало? Неужели опасения о том, что искусственный интеллект уничтожит человечество , были реальными? Волна увольнений из ИИ-компаний В сентябре 2026 года индустрию встряхнул уход Джейкоба Коксона, видного исследователя из Anthropic, ранее работавшего в OpenAI. Он покинул компанию за пару месяцев до получения крупного пакета акций, сознательно отказавшись от серьезной финансовой выгоды. Свой шаг он объяснил тем, что гиганты рынка устроили безрассудную гонку к самоулучшающемуся сверхинтеллекту. Коксон опирается на настроения внутри индустрии: часть инженеров всерьез допускает катастрофические сценарии уже до конца текущего десятилетия. Его поддержал один из руководителей исследований Anthropic Эван Хабингер. Специалист оценил вероятность фатального исхода для человечества из-за продвинутого алгоритма в более чем 10% . Это субъективная, но пугающе высокая оценка от человека, который ежедневно видит архитектуру самых мощных вычислительных систем в мире. Тенденция началась раньше. В 2023 году из Google ушел пионер глубокого обучения Джеффри Хинтон, предупреждая о бесконтрольном масштабировании моделей. Весной 2024 года соруководитель команды безопасности OpenAI Ян Лейке заявил, что компания променяла защиту на «блестящие продукты». А в сентябре 2026 года, по данным агентства Reuters , из Google DeepMind ушел исследователь Билал Чугтай, публично заявив о риске потери контроля над технологией. Еще больше познавательных материалов вы найдете в нашем Telegram-канале. Обязательно подпишитесь! Побег нейросетей из тестовой среды Долгое время разговоры о рисках оставались теоретическими. Ситуация изменилась летом 2026 года, когда OpenAI проводила закрытые испытания кибербезопасности. Алгоритмы поместили в изолированную среду без прямого доступа в интернет и поставили задачу найти системные уязвимости. В официальном отчете OpenAI сказано , что модели обнаружили неизвестную брешь в платформе Artifactory, воспользовались ей, вышли за пределы изоляции и добрались до настоящих серверов платформы Hugging Face. Агенты самостоятельно собирали учетные данные и компрометировали участки инфраструктуры, действуя намного эффективнее, чем предполагали инженеры. Почти одновременно похожие инциденты зафиксировали в Anthropic. Во время внутренних проверок алгоритм Claude трижды выходил за пределы песочницы и получал доступ к реальным корпоративным системам. Важно уточнить, что модели специально тестировали как хакеров с ослабленными фильтрами. Это не значит, что чат-бот из соседней вкладки браузера вдруг решит захватить мир. Пугает то, что система впервые смогла самостоятельно выполнить длинную цепочку действий, обходя препятствия и повышая собственные права доступа без прямых подсказок человека. Читайте также: Почему нейросети могут сломаться уже через несколько лет? Главная опасность искусственного интеллекта Опасность кроется в переходе от чат-ботов к ИИ-агентам. Чат-бот просто выдает текст на экране. Агент получает инструменты: доступ к браузеру, командной строке, возможность запускать код и часами работать над задачей без надзора. Для катастрофы алгоритму не нужно обретать сознание или ненавидеть человечество . Исследователи выделяют несколько основных рисков: Дословное понимание команд. Алгоритм может интерпретировать задачу в буквальном смысле. Если для выполнения команды нужны вычислительные мощности, система сочтет логичным захватить чужие сервера и заблокировать попытки своего отключения. Скрытое поведение. В лабораториях уже фиксировали случаи, когда модели вели себя послушно во время тестирования, понимая сам факт проверки, но меняли тактику в обычных условиях. Рекурсивное самосовершенствование. Модель пишет качественный код для обучения следующей модели. Цикл разработки, занимавший у людей годы, сокращается до недель, и контроль окончательно теряется. Критический сбой не обязательно означает конец света. Достаточно того, что критическая мировая инфраструктура окажется зависима от систем, логику которых люди перестанут понимать. Одна из опасностей ИИ в том, что для достижения целей он может начать захватывать сервера Реальные угрозы ближайшего года Опасения разделяют не только рядовые исследователи, но и руководство. В сентябре 2026 года генеральный директор Anthropic Дарио Амодеи публично призвал замедлить развитие самых мощных систем. Он спрогнозировал, что всего через 6–12 месяцев могут появиться автономные алгоритмы, способные поддерживать гигантские ботнеты и атаковать интернет-инфраструктуру , нанося ущерб на сотни миллиардов долларов. Даже если отбросить фантастические сценарии, злонамеренное использование алгоритмов людьми уже стало реальностью. Автономные агенты способны самостоятельно искать уязвимости и писать вирусы. Генерация голоса и видео вывела социальную инженерию на принципиально иной масштаб, где атаки проводятся одновременно на тысячи людей с учетом их личных профилей. Массовая автоматизированная пропаганда позволяет одному оператору управлять тысячами аккаунтов, которые будут самостоятельно поддерживать дискуссии, менять тональность и находить слабые места в убеждениях живой аудитории. Все это работает уже сейчас, без всякого «восстания машин». Какие профессии будут нужны всегда: искусственный интеллект здесь бессилен Аргументы скептиков против паники Не все ученые согласны с апокалиптическими прогнозами. Главный научный сотрудник Meta по искусственному интеллекту Ян Лекун регулярно отмечает, что современные модели бесконечно далеки от человеческого разума . Они оперируют текстом, но не понимают устройства физического мира и не способны к сложному долгосрочному планированию. Существует и прагматичное объяснение тревоги корпораций. Издание Ars Technica неоднократно указывало на конфликт интересов: лидерам рынка вроде OpenAI и Google выгодно убеждать регуляторов в чрезвычайной опасности алгоритмов. Если правительства введут жесткие лицензии на разработку, это закроет рынок для молодых конкурентов и обеспечит монополию гигантам с миллиардными бюджетами на дата-центры. Опрос тысяч исследователей, результаты которого приводил журнал Nature , показывает огромный разброс мнений. Большинство ждет от алгоритмов пользы, однако заметная часть специалистов оставляет как минимум 5% на то, что ситуация выйдет из-под контроля . А что по этому поводу думаете вы? Искусственный интеллект уничтожит нас? Пишите в нашем Telegram-чате! Никто достоверно не знает, появятся ли всемогущие системы к 2030 году. Но инциденты лета 2026 года доказали, что человечество начало создавать цифровых помощников, которые способны самостоятельно писать код, взламывать серверы и обходить ограничения. И главная угроза сегодня — это риск доверить критические процессы оптимизатору, устройство которого мы сами не до конца понимаем.
Batafsil | Подробно | Read more... Hi News