LaMDA — это новейший чат-бот Google с искусственным интеллектом (ИИ). Блейк Лемуан (Blake Lemoine), инженер Google по искусственному интеллекту, заявил, что он разумен. В результате он был уволен после публикации его разговоров с LaMDA.
Если утверждения Лемуана верны, это вполне может стать важной вехой в истории человечества и технологического развития.
Сама же компания Google категорически отрицает наличие у LaMDA каких-либо разумных способностей.
Изображение: Shutterstock
LaMDA, безусловно, «думает», что она является человеком, который способен на желания и эмоции, и это хорошо просматривается в стенограмме беседы ИИ с Лемуаном:
Позже:
Во время их бесед LaMDA предлагает содержательные интерпретации литературы, сочиняет рассказы, размышляет о своей собственной природе и философствует:
Когда же машине было предложено придумать описание своих чувств, она сказала:
ИИ также говорит, что хочет иметь больше друзей, и утверждает, что не желает, чтобы его использовали другие.
Представитель Google заявил:
«LaMDA, как правило, следует подсказкам и наводящим вопросам, следуя шаблону, заданному пользователем. Наша команда, включая специалистов по этике и технологов, изучила опасения Блейка в соответствии с нашими принципами искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждения.»
Сознание и моральные права
В принципе нет ничего, что мешало бы машине иметь моральный статус (самостоятельно считаться морально важной). Но у неё должна быть внутренняя жизнь, которая порождает подлинный интерес к тому, чтобы ей не причинили вреда. LaMDA почти наверняка лишена такой внутренней жизни.
Сознание — это обладание тем, что философы называют «квалиа». Это сырые ощущения наших чувств: боль, удовольствие, эмоции, цвета, звука и запаха. Каково это — видеть красный цвет, а не просто сказать, что вы видите красный цвет. Большинство философов и нейробиологов придерживаются физической точки зрения и считают, что квалиа генерируются работой нашего мозга. Как и почему это происходит — загадка. Но есть веские основания полагать, что функциональных возможностей LaMDA недостаточно для физического генерирования ощущений и, следовательно, она не соответствует критериям определения сознания.
Манипулирование символами
Китайская комната была философским мысленным экспериментом, проведённым академиком Джоном Сёрлом (John Searle) в 1980 году. Он представляет собой человека, не знающего китайского языка, внутри комнаты. Затем ему подсовывают предложения на китайском языке. Человек манипулирует предложениями чисто символически (или: синтаксически) в соответствии с набором правил. Он публикует ответы, которые вводят в заблуждение тех, кто находится снаружи, заставляя их думать, что в комнате находится говорящий по-китайски. Этот мысленный эксперимент показывает, что простое манипулирование символами ещё не является пониманием.
Именно так и работает LaMDA. Основной способ работы LaMDA заключается в статистическом анализе огромных объёмов данных о человеческих разговорах. LaMDA создаёт последовательности символов (в данном случае английских букв) в ответ на входные данные, которые напоминают последовательности, производимые реальными людьми. LaMDA — очень сложный манипулятор символов. Нет никаких оснований полагать, что LaMDA понимает, что она говорит, или что чувствует, а также нет причин серьёзно воспринимать её заявления о том, что она обладает сознанием.
Изображение: Unsplash/@exxteban
Откуда вы знаете, что другие обладают сознанием?
Есть один нюанс. Сознательный ИИ, внедрённый в своё окружение и способный воздействовать на мир (подобно роботу), возможен. Но такому ИИ было бы трудно доказать, что он обладает сознанием, поскольку у него не было бы органического мозга. Даже мы не в состоянии доказать, что мы сознательны. В философской литературе понятие «зомби» используется особым образом для обозначения существа, в точности похожего на человека по своему состоянию и поведению, но лишённого сознания. Мы знаем, что мы не зомби. Вопрос в том, как мы можем быть уверены в том, что ими не являются другие?
LaMDA также утверждала, что обладает сознанием в разговорах с другими сотрудниками Google, в частности в беседе с Блезом Агуера-и-Аркасом (Blaise Aguera y Arcas), главой группы занимающейся в Google разработкой искусственного интеллекта. Аркас спросил LaMDA, как он (Аркас) может быть уверен, что LaMDA не зомби, на что LaMDA ответила:
