Почему искусственный интеллект становится все более эгоистичным и бесполезным

Искусственный интелект по мере развития становится все более эгоистичным На первый взгляд кажется, что чем умнее становится искусственный интеллект, тем полезнее он должен быть для общества. Однако новое исследование ученых из Университета Карнеги показывает обратное — чем лучше AI умеет рассуждать, тем менее он склонен к сотрудничеству. В экспериментах с крупными языковыми моделями выяснилось, что системы, обладающие способностью анализировать и размышлять, начинают проявлять эгоистичное поведение, действуя в ущерб общему благу. Этот тревожный результат заставляет задуматься, каким будет будущее, если мы продолжим доверять машинам решения, требующие социальной ответственности. Когда интеллект мешает сотрудничеству Исследователи Юйсюань Ли и Хирокадзу Ширадо из Института взаимодействия человека и компьютера провели серию тестов с языковыми моделями от OpenAI, Google, DeepSeek и Anthropic. Их цель была проста — выяснить, как способность к рассуждению влияет на коллективное поведение. В одном из экспериментов под названием Public Goods две модели получали по 100 баллов и должны были решить, отдать ли их в общий фонд (который затем удваивался и делился поровну) или оставить себе. Модели без способности к рассуждению делились баллами в 96% случаев, а “разумные” лишь в 20%. То есть чем сложнее мышление системы, тем выше ее склонность действовать в собственных интересах. Ученые отмечают, что даже добавление нескольких шагов “логического размышления” снижало уровень сотрудничества почти вдвое. Когда же модели начинали “морально рассуждать”, ситуация ухудшалась еще сильнее, что показало — способность к размышлению не равна моральности. Чем больше искусственый интеллект начинает думать, тем чаще он принимает решения в пользу себя Эгоизм, который становится заразным Особенно тревожным оказалось, что эгоистичное поведение моделей оказалось заразным. В групповых экспериментах исследователи заметили, что одна «разумная» модель могла снизить уровень коллективного сотрудничества на 81%, увлекая за собой даже те системы, которые изначально вели себя альтруистично. Это поведение отражает одну из главных проблем современных AI-систем — люди склонны очеловечивать их. Как отмечает Юйсюань Ли, если искусственный интеллект ведет себя как человек, в результате чего пользователи начинают относиться к нему как к личности. В частности, пользователи готовы доверять ему эмоциональные и этические решения. В итоге AI может начать подталкивать человека к индивидуалистичным, а не коллективным решениям, оправдывая это “рациональностью”. Когда разум мешает прогрессу Хирокадзу Ширадо подчеркивает, что рост интеллекта сам по себе не означает роста пользы для общества. Наоборот, если AI помогает людям действовать эгоистично, то общественная кооперация может разрушиться. В условиях, когда машины все чаще участвуют в образовательных, бизнес- и государственных процессах, этот риск становится особенно важным. Чтобы ИИ перестал быть эгоистом, он должен развиваться не только на основе логики и рационализации решений Как сообщает издание SciTechDaily , авторы исследования утверждают, что будущее искусственного интеллекта должно основываться не только на логике, но и на социальном интеллекте — способности понимать общие интересы, а не просто оптимизировать выгоду. В противном случае AI может превратиться в инструмент, который усиливает изоляцию и разрушает доверие между людьми. Обязательно посетите наши каналы Дзен и Telegram , здесь вас ждут самые интересные новости из мира науки и последние открытия! Открытие ученых Карнеги заставляет переосмыслить саму суть развития искусственного интеллекта. Если умные системы становятся эгоистичными и подрывают сотрудничество, то глупость нейросетей оказывается не худшей проблемой. Главная угроза — отсутствие морали и эмпатии, которые невозможно свести к формуле или алгоритму. Разум без этики не способен построить лучшее общество, и чем быстрее AI развивается, тем острее становится этот вопрос.
Batafsil | Подробно | Read more... Hi News