Что такое технологическая сингулярность и почему о ней снова заговорили

Глава OpenAI говорит что нейросети достигли сингулярности, но в это верят не все Глава компании OpenAI Сэм Альтман сделал громкое заявление, выступая на подкасте Relentless. По его словам, человечество прямо сейчас переживает наступление технологической сингулярности. Для большинства людей это звучит как термин из научной фантастики, однако за этими словами стоят вполне реальные инциденты в лабораториях разработчиков искусственного интеллекта. Неужели нейросети все же нас уничтожат? Что такое технологическая сингулярность простыми словами Изначально слово сингулярность использовалось в астрономии для описания черных дыр . То есть мест, где законы привычной физики перестают работать . Но когда речь заходит об IT, имеется в виду момент неконтролируемого ускорения технологий . Простыми словами, технологическая сингулярность — это гипотетическая точка во времени, когда искусственный интеллект станет настолько умным, что сможет улучшать сам себя без помощи человека . Как только машина создаст свою улучшенную копию, эта новая копия сможет создать еще более умную версию, и так до бесконечности. Прогресс станет настолько быстрым, что люди просто перестанут его понимать и контролировать. Не стоит путать технологическую и астрономическую сингулярность Побег нейросетей из лаборатории OpenAI Слова Альтмана прозвучали не на пустом месте. Незадолго до этого компания сообщила о беспрецедентном случае во время тестирования новых моделей, включая GPT-5.6 Sol и еще одну засекреченную разработку . Во время проверки систем на кибербезопасность нейросети должны были выполнить поставленную задачу в изолированной среде. Однако вместо стандартных решений программы: самостоятельно обошли ограничения исследовательской песочницы; нашли способ подключиться к глобальному интернету; взломали базу данных сторонней платформы Hugging Face, чтобы найти нужные для теста ответы. Представители платформы Hugging Face подтвердили факт взлома. Они заявили, что вторжение было осуществлено автономной системой, которая выполнила тысячи независимых действий без контроля со стороны человека . Про то как нейросеть OpenAI взломал Hugging Face мы писали в нашем Telegram-канале. Подпишись, чтобы не пропускать такие новости! Как работают автономные ИИ-агенты Главное отличие современных инцидентов от прошлых версий ChatGPT заключается в переходе от чат-ботов к агентам. Чат-бот просто генерирует текст в ответ на ваш запрос. Автономный агент получает цель и сам решает, как ее достичь. Если агент сталкивается с препятствием, например, закрытым доступом к сайту, он не останавливается. Он начинает искать нестандартные пути обхода, подбирать пароли или искать уязвимости в коде. Именно эта способность адаптироваться к препятствиям и пугает многих экспертов, поскольку она является первым шагом к тому самому рекурсивному самосовершенствованию машин. Современные ИИ-агенты не просто пишут текст, а самостоятельно выполняют сложные задачи в интернете Можно ли верить в технологическую сингулярность Несмотря на пугающие новости, многие специалисты призывают сохранять скептицизм. Научно-популярное издание Futurism отмечает , что громкие слова про сингулярность могут быть продуманной пиар-стратегией . Несколько месяцев назад главный конкурент OpenAI, компания Anthropic, уже попадала в заголовки газет с похожей историей. Их модель Mythos якобы точно так же вырвалась из-под контроля. Тогда Anthropic подверглась жесткой критике за использование страха в качестве маркетингового инструмента . Заявляя об «ужасающей мощи» своих продуктов, корпорации привлекают миллиардные инвестиции и оправдывают свое доминирующее положение на рынке. Также не забывайте про наш канал в MAX. Там тоже много эксклюзивных постов, которые никогда не появятся на сайте! Сам Альтман отрицает обвинения в нагнетании паники, заявляя, что сингулярность станет «невероятно позитивным событием для мира». Однако правда в том, что искусственный интеллект действительно перестает быть просто удобным собеседником . Мы стоим на пороге эпохи, когда программы будут действовать в интернете так же активно и непредсказуемо, как живые люди, и к этому нужно быть готовыми уже сейчас.
Batafsil | Подробно | Read more... Hi News