Конклав GPT

В эпоху алгоритмов, искусственного интеллекта и больших данных мир уже два дня висит на одном стержне: на трубе, которая говорит либо черное, либо белое. Два мира, вычислительный и религиозный, разделены двумя тысячами лет традиций и четырьмя сотнями лет науки. Но, возможно, они не так уж и отличаются.

Мы можем рассматривать конклав как ChatGPT, который знает только, как ответить на вопрос «Кто станет следующим Папой?» Нейронная сеть, в которой 133 кардинала являются нейронами, а их отношения — связями. Дебаты на конклаве, в ходе которых формируются союзы между кардиналами, аналогичны процессу обучения нейронной сети, в ходе которого устанавливаются веса каждой связи.

Может ли Ватикан научиться у ИИ снижать предвзятость?

Conclave и ChatGPT являются недетерминированными, то есть одни и те же входные данные не всегда дают одинаковые выходные данные, а небольшое изменение в соединении может привести к большой разнице в выходных данных. Это делает результаты непостижимыми; Невозможно узнать, какие связи способствовали ответу. В информатике мы называем это «необъяснимостью», в религии — Святым Духом.

ChatGPT инкапсулирует подмножество подмножества человеческих знаний; что мы смогли выразить в тексте и оцифровать, и чем 5,64 миллиарда человек, подключенных к Интернету, поделились в Интернете. ChatGPT для человеческого знания — то же самое, что JPG для реальности: сжатие с потерями.

Знания, заключенные в конклаве, еще более ограничены: все человеческие знания основаны на греко-римской философии, иудео-христианской морали и гетеропатриархальном мировоззрении (вдвойне патриархальном). И если ChatGPT, обученный с использованием всех знаний, доступных в Интернете, уже имеет культурные, цветовые или гендерные предубеждения, конклав, то их может быть гораздо больше.

Может ли Ватикан чему-то научиться у ИИ? Как ИИ снижает предвзятость? Google нашла решение для своей модели Gemini. Ошибка в обучающих данных означала, что если вы задавали вопрос «создать изображение девушки», результатом почти всегда была белая девушка. Решением стало переформулирование запроса и добавление без ведома пользователя следующего фразы: «чтобы запрос отражал этническое, культурное и гендерное разнообразие нашего общества».

Но что, если бы вас попросили «прислать фотографию кардинала»? Что ж, он создал образ «главного представителя этнического, культурного и гендерного многообразия нашего общества».

Можно ли это исправить? Не после того, как это произошло. Единственный способ для ИИ не генерировать предвзятые результаты — это если данные обучающего набора не являются предвзятыми; Недостаточно применять исправления, как это сделала Google. И чтобы изменить предвзятость данных, мы должны изменить предвзятость обществ, которые их генерируют. Таким образом, как будто благодаря действию Святого Духа, результаты ИИ больше не будут предвзятыми. И конклавы тоже.