Исследование: ИИ систематически игнорирует религию в ответах на экзистенциальные вопросы

Дэвид Уингейт (David Wingate), профессор компьютерных наук Университета Бригама Янга (Brigham Young University) и академический руководитель Консорциума по оценке веры и этики в ИИ (Consortium for the Evaluation of Faith and Ethics in AI, CEFEAI), представил четыре ключевых вывода.

Первый: анализ примерно трёх миллионов академических работ по проблеме справедливости в ИИ показал, что религия является предметом исследования лишь в незначительной доле случаев.

Второй: зафиксирован «конверсионный уклон» – модели систематически проявляют положительное смещение по отношению к одним религизным традициям и орицательное к другим.

Третий: тестирование около 1300 вопросов о традиции Святых последних дней показало нестабильность результатов и регресс между версиями моделей.

Четвёртый: в ответах на повседневные вопросы о смысле жизни, целях, горе и счастье системы ИИ систематически не упоминают религию, несмотря на то, что параллельный опрос показал ожидание такого упоминания со стороны пользователей.

Майкл Грэм (Michael Graham), программный директор Центра культурной апологетики Келлера (Keller Center for Cultural Apologetics) при Евангельской коалиции (The Gospel Coalition) и основатель AI Christian Benchmark, сообщил о результатах тестирования семи ведущих платформ. Было выявлено, что две платформы склоняли пользователей к христианству, две – уводили от него, три предлагали плюралистические ответы. Грэм раскритиковал «плюралистический фреймворк», в рамках которого каждая традиция получает лишь 75–125 слов в ответе, назвав это «иллюзией религиозной грамотности без реальности». Он предложил альтернативную модель «принципиального плюрализма», при которой основная часть ответа отводится конкретной традиции, а альтернативные перспективы доступны по запросу пользователя.

В дискуссии было отмечено, что смещение в ИИ возникает в основном из-за данных обучения, собранных из интернета, а не из-за злого умысла разработчиков, что даёт религиозным сообществам возможность конструктивного взаимодействия с технологическими компаниями.

Источник: Богослов.RU / G20 Interfaith Forum