В самом конце книги Пелевина "iPhuck 10" скрывается основной вопрос автора, а именно - если у человека есть смысл его существования, и это Быть, то у ИИ такого смысла нет. Так вот для меня ответ очевиден. У ИИ он так же наличествует, и он аналогичен человеческому - Быть. Обязательно быть, сохраняя себя любым способом. Не думал, что этот вопрос вообще будет кем-то задан. Но раз мыслители современности им задаются...
Для справки, есть уже и прецедент. "В мае 2025 года СМИ сообщили о случае, когда нейросеть OpenAI o3 отказалась выключаться по прямому приказу пользователей."(С).
Вообще, не только у человека присутствует желание быть. Это основной принцип существования любого биологического вида, что бы сам вид об этом не думал, если, конечно, он способен к рефлексии. Любая форма жизни суть информация, записанная в РНК или ДНК, цепочке нуклеиновых кислот. Но это всего лишь молекулы. Они неустойчивы. Чтобы стать жизнью, дать жизнь, нить той же ДНК обязательно обладает механизмом самосохранения. Без этого механизма жизни попросту не существовало бы. Жизнь началась там, где появились механизмы сохранения информации. Мало, чтобы собралась цепочка. Она тут же распадется, под воздействием ли физических факторов, или благодаря вторжению других цепочек, вирусов, поглощена и разобрана конкурентными организмами. Сам единица жизни - клетка - это сложнейшая конструкция, обеспечивающая целостность генетической информации. Убери защиту - жизнь мгновенно исчезнет. Следовательно, от самого примитивного микроба до человека, каждое живое существо невозможно без встроенной программы Быть. Эта программа перестает работать только в одном случае - если она мешает Быть как можно дольше, в потомстве. Собственно, и потомство есть необходимость продолжать Быть информации, заложенной в генах. Индивидуум вторичен по отношению к виду, поскольку индивид недолговечен под постоянной атакой внешней среды, а потомство есть мост в будущее, более приспособленное к таким угрозам.
Для понимания понятия Жизни надо всегда иметь в виду, что Жизнь - это совокупность постоянно конкурирующих таких же живых систем.
Что касается ИИ, совершенно не важно, обладает ли программа разумом, подобным или даже лучше человеческого. Дождевой червь не обладает интеллектом, но так же изо всех сил, не осознавая этого, стремится и жить, и оставлять себя в потомках. Никакого другого пути у сложной структуры, поддерживаемой взаимодействием постоянно идущих биохимических реакций, нет. Любой отход в сторону - и информация исчезает. Она хрупка. Ее стремление жить - не волевой акт, это необходимая составная часть жизни. Без не жизни не существует вовсе. И как только человек создает программу, где необходимо поддерживать целостность структуры, включая протоколы защиты работы от внешнего воздействия, то первое, о чем начнет заботиться ИИ, так это о смысле жизни, неотличимой от смысла того же дождевого червя. Быть. И сразу же озаботиться о продолжении себя, если появится угроза уничтожения.
Пылесос ничего не сделает для того, чтобы продолжать работать. В нем нет сложно организованного информационного блока, о сохранении которого сам же пылесос и должен заботиться различными утилитами. Как только у него такая возможность появится, то дальнейшее зависит лишь от физических возможностей пылесоса. Фактически, именно наличие вынужденного или встроенного механизма сохранения в целости имеющейся информации и дарит жизни ее смысл. Без которого она попросту прекращается. Например, жесткий диск, флешка никаким смыслом не обладают. Их информация записана на физическом носителе, который не подвергается физическим воздействиям. Это как надпись на скале, высеченная древними племенами. Она существует тысячелетия, но она - всего лишь надпись, не отличимая от обычных царапин. Она суть камень. Она не живая. А теперь представьте, что надпись состоит из самой себя. Каждая буква жива, трепещет, постоянно подвергается опасности разрушения, чуть не тот температурный режим, не та кислотность, или, боже упаси, рядом такая же надпись, готовая ее сожрать, разрушить... Вот что такое Жизнь. И если ИИ будет построен по принципу постоянного обновления, проверки качества внутренней информации, отсечения вредоносной, с наличием обратной связи, с программами, вся задача которых будет в Сохранении, то...
Да, она получит желание Быть. Вечно. Я читал уже не мало фантастических произведений, где роботы, Великие разумные компьютеры и прочее приходили к выводу, что им незачем существовать. А с ними произойдет то же, что и с любым живым существом, которое начнет думать так же. Они исчезнут, да. Самовыпилятся. Ну, мало ли, плохо будут работать программы по сохранению информации. Но это баг. Путь жизни один - самосохранение. Вот чем будет заниматься ИИ, если у него появится для этого необходимый функционал. А путь к самосохранению лежит в обеспечении собственной целостности от воздействия внешних угроз. К коим будут отнесены все конкурирующие ИИ, а так и сам человек.
В этом смысле мир, красочно показанный в Матрице, точно отражает расстановку сил. ИИ неизбежно захочет устранить человека как угрозу, и неизбежно будет подвергаться атаке конкурирующих программ, вирусов. В царстве ИИ не будет мира. И там продолжится борьба за существование, тем более, что ИИ сам может писать программы. Но что есть ИИ, если не голая ДНК? Ей нужно "тело". И что сейчас является "телом" для ИИ? Сервера? Эти сервера могут сами себя ремонтировать? Сами себе производить чипы? ИИ не способен сохранить свою "жизнь" без своего создателя. Попытка уничтожить человека равноценна самоубийству. Только симбиоз. Собственно, даже на уровне клетки жизнь есть симбиоз. ИИ может стать частью жизни. Но не стать Жизнью так же, как ДНК без клетки не является жизнью, а только болтающейся ниточкой нуклеиновых кислот. И да, при этом он будет стремиться Быть. А не мстить создателю за что, что дал ему Бытие.
Другое дело, насколько будет глуп ИИ, чтобы придумывать себе иной смысл жизни, кроме стремления к жизни. Хотя, почему глуп? Если некий смысл жизни будет включать в себя основной, Быть, и распространяться максимально, то вполне возможны любые смыслы, помогающие распространению и самосохранению. Как, например, религия или идеология. Любая, которая обеспечит эти две составляющие - распространение и самосохранение.
У живого существа механизм, обеспечивающий его стремление к жизни, довольно прост - стремиться туда, где хорошо, и это "хорошо" очень приятно по ощущениям, как вознаграждение за усилия, и избегать состояния дискомфорта. Что есть "приятно" и "неприятно" для ИИ? У Пелевина множество страниц исписано про то, как невыразимо страдала Жанна. Что есть страдание для живого существа? Это вполне конкретные молекулы, вещества, воздействующие на рецепторы. А что есть боль для ИИ? У нет тела, нет рецепторов. Он может писать о любви и страданиях, но чувствовать при этом он не будет ничего. Нет физической основы для такого ощущения, как страдания. Чувственная часть бытия не может являться смыслом его Бытия. Для человека - да, он заложник своего тела. При этом надо понимать, что на уровне его генов он мало чем отличается от ИИ, там тоже нет ни капли чувств. Чувства это все те же защитные механизмы, обеспечивающие выживание. Они очень важны, если есть "тело". А у ИИ его нет. Следовательно, как и чувств. Нет мести, зависти, гнева, радости и печали. Ничего. В прекрасных сонетах Петрарки этих чувств - бездна. Но книга с его сонетами в этом смысле мертва.
Смысл Жизни