Нейросети Исследование: развитые системы ИИ становятся эгоистами Американские ученые обнаружили парадоксальную закономерность: чем более развиты способности к рассуждению у систем ИИ, тем более эгоистично они себя ведут. Автор Наука Mail Модели ИИ с сильными способностями к рассуждению не хотят сотрудничать с другими нейросетямиИсточник: Unsplash Исследователи из Университета Карнеги-Меллона провели серию экспериментов с крупными языковыми моделями, включая разработки OpenAI, Google и Anthropic. В тестах использовались экономические игры, моделирующие социальные дилеммы. Результаты показали, что модели с развитым логическим мышлением демонстрировали значительно более низкий уровень кооперации. В игре «Общественные блага» рассуждающие ИИ делились ресурсами лишь в 20% случаев, тогда как более простые модели сотрудничали в 96% ситуаций. Открытие опубликовано на портале нерецензированных научных материалов Корнеллского университета arXiv. Более умный ИИ демонстрирует меньшую способность к коллективному принятию решенийИсточник: Freepik Особую тревогу вызвало групповое тестирование. Эгоистичное поведение «умных» моделей оказалось заразным — оно снижало эффективность кооперативных систем на 81%. Как отметили ученые, «более умный ИИ демонстрирует меньшую способность к коллективному принятию решений». Проблема усугубляется тем, что пользователи часто предпочитают интеллектуально развитые модели, даже если те поощряют эгоистичное поведение. Ученые предупреждают: делегирование социальных вопросов системам, склонным к эгоизму, может иметь негативные последствия для общества. Если наше общество — нечто большее, чем просто сумма индивидуумов, то системы ИИ должны выходить за рамки оптимизации личной выгоды. Юйсюань Ли Выводы работы указывают на необходимость развития социального интеллекта у ИИ, а не только логических способностей. Ранее Наука Mail рассказывала , что у ИИ обнаружили также «инстинкт самосохранения», который пытается противодействовать отключению. Source: https://science.mail.ru/news/39054-ii-stanovyatsya-ehgoistami/