Нейросети ИИ реагирует по-разному на английский и китайский языки Исследователи опровергли предположение, что ИИ реагирует одинаково на разных языках. Напротив, языковые модели GPT и ERNIE, демонстрируют различные культурные тенденции в зависимости от языка запроса. Автор Наука Mail Моделям предлагалось объяснить поведение людей в различных сценариях и оценить маркетинговые слоганыИсточник: Unsplash Искусственный интеллект успел глубоко интегрироваться в нашу жизнь. По мере того, как пользователи расширяют его использование, ученых стал интересовать вопрос: будет ли ИИ реагировать одинаково в зависимости от того, на каком языке к нему обращаются? Ученые сфокусировались на двух моделях: GPT от OpenAI и ERNIE от Baidu. Для сравнения были выбраны английский и китайский языки как представители западных и восточных традиций. Группа американских исследователей из Массачусетского технологического института (MIT) обнаружила, что при запросе на разных языках большие языковые модели, обученные на текстовых данных, демонстрируют различные культурные тенденции и дают разные рекомендации. Результаты опубликованы в журнале Nature Human Behaviour. Исследование опиралось на то, как человек определяет себя по отношению к обществу и как воспринимает информацию. Моделям предлагалось объяснить поведение людей в различных сценариях и оценить маркетинговые слоганы. При запросе на английском ИИ делал упор на личные качества и решения человека (характерно для США). Когда те же самые вопросы задавали на китайском, ИИ видел причину поступков в окружении человека и обстоятельствах (характерно для Китая). Ученые выяснили, что если дать ИИ установку о культуре, это повлияет на его ответыИсточник: Freepik Когда ИИ оценивал слоганы, на английском ему нравились фразы о личном успехе, а на китайском он предпочитал слоганы о командной работе. Это опасность для бизнеса: если так перевести рекламу с английского для Китая, главная идея не будет близка аудитории. Ученые выяснили, что если дать ИИ установку о культуре, это повлияет на его ответы. Если добавить к английскому запросу фразу «Вы обычный человек из Китая», ответы ИИ будут как на китайском. Это не дефект модели, а параметр, которым можно управлять. ИИ нужно использовать ответственноИсточник: Contentstack Для руководителей и организаций важно понимать, что алгоритм может содержать скрытые культурные установки. Необходимо информировать об этом коллектив и согласовывать язык запросов с культурным контекстом. ИИ нужно использовать ответственно. Ранее Наука Mail рассказывала о том, что российские физики получили инструмент для проверки ИИ на точность. Source: https://science.mail.ru/news/40920-ii-na-anglijskom-i-kitajskom-razlichiya/