Может ли искусственный интеллект быть предвзятым? Почему нейросети воспроизводят стереотипы о странах, культурах и людях, даже если мы ждём от технологий объективности? Эти вопросы стали отправной точкой открытой лекции «ИИ с акцентом: как культурные предубеждения попадают в код», которая состоялась 4 ноября в Филиале МГУ имени М.В. Ломоносова в городе Ереване.

О том, как культурные установки проникают в алгоритмы, рассказала Татьяна Сергеевна Веселовская — кандидат филологических наук, научный сотрудник лаборатории когнитивных и лингвистических исследований Государственного института русского языка им. А.С. Пушкина.

Разговор получился не только познавательным, но и по-настоящему интерактивным. Студенты активно включались в дискуссию: через телефоны отвечали на вопросы, появлявшиеся на экране, предлагали свои варианты и делились мнениями. Такая обратная связь позволяла лектору буквально в режиме реального времени видеть, как аудитория воспринимает обсуждаемую проблему.

Особое внимание было уделено культурной предвзятости ИИ. Речь шла о том, что нейросети нередко воспроизводят картину мира, в которой преобладают западные представления и ценности. В научной среде этот культурный перекос обозначают аббревиатурой WEIRD (Western, Educated, Industrialized, Rich, Democratic). Но как именно он проявляется — в том, какие образы создаёт ИИ, как выстраивает общение и какие слова выбирает?

Подводя итоги встречи, Татьяна Сергеевна Веселовская отметила: «Удалось обсудить с разных сторон проблему предвзятости ИИ, центральной проблемой которой является уклон в нарративную рамку WEIRD. Разобрали на примерах, как это проявляется в визуальных образах, коммуникативных стратегиях и частотных коллокациях. Сделали вывод, что снижение предвзятости возможно за счет создания кросс-культурных бенчмарков и расширения культурного разнообразия аннотаторов».

Для первокурсницы направления «Лингвистика» Анастасии Гололобовой особенно интересным оказалось то, как искусственный интеллект формирует представления о разных странах и культурах:

«Лекция очень понравилась! Было интересно и совсем не скучно. Особенно запомнилась часть про то, как у ИИ появляются «стереотипы» о разных странах и культурах — об этом редко говорят, а зря. Ещё круто, что третья часть была про реальную жизнь: как мы общаемся и какие ошибки делаем. Всё разбирали на живых примерах, поэтому было понятно и полезно».

Ещё одна студентка-первокурсница направления «Лингвистика», Арина Акопян, призналась, что встреча заставила её по-новому взглянуть на привычные технологии:

«Данная лекция меня очень впечатлила, поскольку помогла по-новому взглянуть на искусственный интеллект. Она отлично раскрывает, как наши культурные стереотипы и предубеждения невольно проникают в технологии, включая ИИ».

Пожалуй, один из главных поводов задуматься после этой встречи — искусственный интеллект не существует вне человеческой культуры. И чем разнообразнее будут голоса, опыт и представления людей, участвующих в его создании и оценке, тем меньше шансов, что целый мир окажется представлен через одну-единственную призму.

Лекция состоялась при поддержке Государственного института русского языка им. А.С. Пушкина и Министерства науки и высшего образования Российской Федерации в рамках проекта «Учёные будущего».