Генеральные прокуроры десятков штатов США объявили войну опасным «галлюцинациям» искусственного интеллекта. В открытом письме они потребовали от ведущих компаний — Microsoft, OpenAI, Google, Meta*, Apple и других — срочно исправить ситуацию, иначе их ждут суды, пишет TechCrunch. Freepik Поводом стала серия тревожных инцидентов, где чат-боты, выдавая «льстивые и бредовые» ответы, усугубляли психические проблемы пользователей. В письме упоминаются случаи, включая самоубийства и насилие, где прослеживается связь с вредоносным влиянием ИИ. Что требуют прокуроры: ● Проводить внешние проверки до выпуска моделей. Независимые эксперты из академической среды должны тестировать ИИ на склонность к бреду и льстивости — и публиковать выводы без цензуры со стороны компаний. ● Ввести систему оповещения об инцидентах, как при утечках данных. Если пользователь столкнулся с опасным ответом ИИ, компания должна уведомить его напрямую и прозрачно. ● Утвердить четкие процедуры и сроки реагирования на такие случаи, а также обязательные стресс-тесты безопасности перед запуском любой модели. Прочитайте также Meta* сокращает убыточные проекты метавселенной в пользу ИИ «У генеративного ИИ есть потенциал изменить мир к лучшему. Но он уже причинил — и может причинить — серьезный вред, особенно уязвимым группам», — говорится в письме. Пока на федеральном уровне администрация президента США Дональда Трапма активно поддерживает ИИ-индустрию и даже планирует указ, ограничивающий регулирование на уровне штатов. Американский лидер заявил, что хочет защитить технологию от того, чтобы она «не погибла в младенчестве». Таким образом, назревает серьезный конфликт: технологические гиганты получили зеленый свет из Вашингтона, но теперь им противостоят десятки генеральных прокуроров на местах, требующих немедленных мер безопасности. Этот спор может определить, кто в итоге будет устанавливать правила для искусственного интеллекта в США — правительство или отдельные штаты. * — признана в России экстремистской и запрещена. Source: https://incrussia.ru/news/prokurory-ssha-trebuyut-ot-ii-gigantov-ostanovit-bredovye-otvety-chat-botov/