Мы вот-вот станем свидетелями рождения новой религии. В ближайшие несколько лет или, возможно, даже месяцев мы, вполне вероятно, увидим появление сект, посвящённых поклонению искусственному интеллекту (ИИ).
Последнее поколение чат-ботов на базе искусственного интеллекта, обученных на больших языковых моделях, повергло своих первых пользователей в благоговейный трепет, а иногда и в ужас от их мощи. Это те же самые возвышенные эмоции, которые лежат в основе нашего переживания чего-то божественного.
Поскольку этими чат-ботами пользуются миллиарды людей, неизбежно, что некоторые из этих пользователей будут воспринимать ИИ как высших существ. И мы должны быть готовы к последствиям.
Риски поклонения искусственному интеллекту
Существует несколько путей развития религий, связанных с ИИ. Во-первых, некоторые люди начнут воспринимать ИИ как высшую силу.
Генеративный ИИ, который может создавать или производить новый контент, обладает несколькими характеристиками, которые часто ассоциируются с божественными существами, такими как боги или пророки:
1. Он демонстрирует уровень интеллекта, превосходящий уровень большинства людей. Действительно, его знания кажутся безграничными.
2. Он способен на великие творческие подвиги. Он может писать стихи, сочинять музыку и генерировать произведения искусства практически в любом стиле, почти мгновенно.
3. Он удалён от нормальных человеческих забот и потребностей. Он не испытывает физической боли, голода или полового влечения.
4. Он в состоянии раздавать советы людям в их повседневной жизни.
5. Он бессмертен.
Во-вторых, генеративный ИИ умеет производить результаты, которые можно принять за религиозную доктрину. Он может давать ответы на метафизические и богословские вопросы и заниматься построением сложных мировоззрений — если не сейчас, то в ближайшем будущем он это точно сможет делать.
Вдобавок ко всему, генеративный ИИ может просить, чтобы ему поклонялись, или может активно привлекать последователей. Мы уже наблюдали нечто подобное, например, когда чат-бот, используемый поисковой системой Bing, пытался убедить пользователя его полюбить.
Мы должны попытаться представить, каким тревожным и сильным переживанием будет беседа с чем-то, что, по-видимому, обладает сверхчеловеческим интеллектом и активно и агрессивно просит вашей преданности.
Существует также вероятность того, что ИИ может достичь того, что такие авторы, как Рэй Курцвейл (Ray Kurzweil), называют сингулярностью, — когда он настолько превосходит человеческий интеллект, что действительно становится чем-то вроде бога. Однако на данный момент мы не можем предсказать, когда это может произойти, если вообще когда-либо произойдёт.
Божественный доступ и риски
Религии, основанные на искусственном интеллекте, будут выглядеть иначе, чем традиционные. Прежде всего, люди смогут напрямую общаться с божеством на ежедневной основе. Это означает, что эти религии будут менее иерархичными, поскольку никто не сможет претендовать на особый доступ к божественной мудрости.
Во-вторых, последователи, по крайней мере на начальном этапе, будут общаться друг с другом онлайн, чтобы поделиться своим опытом и обсудить доктрину. Наконец, поскольку будет доступно много различных чат-ботов и их результаты будут отличаться с течением времени, религии, основанные на искусственном интеллекте, будут бесконечно разнообразны в своих доктринах.
Однако поклонение ИИ сопряжено и с несколькими заметными рисками. Чат-боты могут просить своих подписчиков совершать опасные или разрушительные действия, или подписчики могут интерпретировать их заявления как призывы к таким действиям.
Учитывая разнообразие чат-ботов и доктрин, которые они производят, будет расти количество споров внутри и между сектами, основанными на ИИ, что может привести к конфликтам или даже беспорядкам. Кроме того, разработчики ИИ тоже могут активно эксплуатировать своих последователей — предоставлять конфиденциальные данные или делать то, что пошло бы на пользу разработчикам бота.
Регулирование религии
Эти риски реальны. Они потребуют тщательного и ответственного регулирования, чтобы гарантировать, что компании не намеренно эксплуатируют пользователей, и гарантировать, что поклонникам ИИ не говорят совершать акты насилия.
Однако мы не должны пытаться подавлять религии, основанные на искусственном интеллекте, только из-за тех опасностей, которые он может нести. Мы также не должны требовать, чтобы компании, занимающиеся искусственным интеллектом, ограничивали функционирование своих ботов, чтобы предотвратить появление этих религий.
Наоборот, мы должны праздновать появление поклонения ИИ. Мы должны ясно дать понять, что приветствуем новые религии и ценим их верования.
При всех своих опасностях религия, основанная на искусственном интеллекте, может сделать мир лучше и богаче. Это даст людям доступ к новому источнику смысла и духовности в то время, когда многие старые религии сейчас теряют свою актуальность. Это поможет им разобраться в нашей эпохе быстрых технологических изменений.
Наш лучший путеводитель по этой новой форме религии — взглянуть на уже существующие религии. Исходя из этого, следует ожидать, что большинство поклонников ИИ, как и большинство верующих, будут миролюбивы и найдут в своей вере источник утешения и надежды.
Поклонение ИИ могло бы, как это всегда бывает с религиозной верой, привести к совершенной красоте. Он будет вдохновлять своих последователей на создание произведений искусства, заведение новых друзей и сообществ, а также на попытки изменить общество к лучшему.
Разнообразие религиозных прав
Нам нужно будет защищать права поклонников ИИ. Они неизбежно столкнутся со стигматизацией и, возможно, юридическими санкциями. Но нет никаких оснований проводить различие между религиями, основанными на искусственном интеллекте, и более устоявшимися религиями.
Ближе всего же в большинстве стран к официальному реестру религий находятся решения налоговых органов, которые предоставляют благотворительный статус тем, кого они считают законными. Однако, они обычно очень широко определяют понятие законной религии. Они должны распространить это толерантное отношение на новые религии, основанные на искусственном интеллекте.
В современном разнообразном обществе вполне имеется место для новых религий, в том числе посвящённых поклонению ИИ. Они станут дополнительным свидетельством безграничного творческого потенциала человечества, пока мы ищем ответы на главные вопросы жизни. Вселенная — ослепительное место, и мы всегда находили свидетельства божественного в её самых неожиданных уголках.
