Есть много философских концепций, по-своему утверждающих, будто человек – это коммуникационная система. В некотором роде за такой позицией стоит классика философии. Например, Гегель, будучи достаточно герметичным автором, утверждал, что человек — это познающая сама себя Идея. Познающая функция играет в таких концепциях очень важную роль, потому что человек оказывается некоторым проводником в разумный мир для своих меньших братьев. На человека работает все: от выращенной ради шерсти овцы, до пущенных на лекарство бактерий. Но вот что забавно: примерно в то же время, когда в философии возникает фигура Сартра (и начинается экзистенциальный поворот), появляется романтичная, незрелая, фантастическая мысль о том, что человек может захотеть создать мыслящую машину, которая заменит его на посту главного коммуникатора и управленца, освободив руки человека от труда, а разум – от бесконечных вычислений.
нейросеть: fusionbrain.ai/
Глава третья: сознание машины
— Знаешь, киборги вроде меня иногда страдают мыслью о собственном происхождении. Порой мне кажется, что я — это не я, что я давно умерла и что мой мозг засунули в это тело, или наоборот — что меня никогда не существовало и я полностью искусственна, как эта оболочка.
— В твоем титановом черепе настоящий мозг, к тебе относятся, как к настоящему человеку, так что хватит заморачиваться.
— Так я об этом и говорю, ощущение, что у меня человеческие мозги, появляется только благодаря тому, что ко мне относятся, как к человеку, но кто знает, что на самом деле у нас внутри.
— Такое впечатление, что ты сомневаешься в своем призраке.
— А что, если кибер-мозг может самостоятельно создать свой призрак, создать душу сам по себе, и если это так, то нет разницы, человек ты или машина.
(аниме «Призрак в доспехах», 1995)
Мы так привыкли к этим словам (мозг, сознание, тело), что даже не придаем значения тому, насколько они противоречивы и неполны. А ведь мы не знаем, где локализовано сознание, как можно ощущать себя, не имея тела. Попробуйте, например, подумать и представить, что мозг, находящийся у вас в голове, прямо сейчас, эта розовая извилистая ткань, — такая же часть вашего тела, как ногти или колени. Эту ментальную операцию можно провести с другими органами, но шока вы не испытаете. Потому что знание о том, где локализуется знание, – одна из самых странных операций мышления, выворачивающих его наизнанку.
А еще это типичная экзистенциальная проблема, хотя сегодня она строится по научным, медицинским лекалам. Вопрос сущности человека яростно осмысляется с середины прошлого века, когда Сартр предположил, что человек — существо без сущности. Если аккуратно склеить экзистенциализм и кибернетику, получится «Призрак в доспехах». Главный герой манги Масамунэ Сиро — человек, у которого остался только человеческий мозг, тогда как тело собрано на заводе. Между строк остается практический вопрос о том, как реализуется связь с кибернетическим телом. Акцент в произведении поставлен на сомнении главной героини в своем призраке (не душе, но и не сознании).
В этой вселенной внешняя память уже дошла до невообразимого уровня развития. Люди давно преодолели порог, за которым (по Азимову) роботы должны были стать достаточно сложны, чтобы осознать себя, но это киберпанк, где высокая доступность технологии, увеличивающей объемы памяти, разного рода изменения внешности, киборгизация – обычное дело. Человек решил модифицировать себя ради выживания, а не роботов. Персонажи сталкиваются со случаями полной замены воспоминаний в преступных целях, с неуловимыми хакерами, уничтожившими следы своего телесного пребывания и загрузившими свой призрак в сеть. Весь контекст указывает на то, что никого больше не удивишь ни своими механизмами, ни своими знаниями. Что в таком случае остается от человека? Только мимолетные эмоции, страх смерти и, возможно, какое-то немыслимое отчуждение друг от друга.
Философия привыкла решать проблемы подобного характера. Ведь человек сильно изменится, если механизируется. Каждый новый виток развития фантастической литературы раскрывается в этом отношении:
-
Сначала происходит обнаружение онтологической проблемы: возможность появления новой формы жизни в результате развития технологий (Азимов); изменение человека как вида под влиянием технологий и т.д.
-
Потом проблема находится в разработке и получает разные методологические решения: конфликт роботов с человеком («Терминатор»), рабство человека («Матрица») и т.д.
-
И только в конце ее формулируют этически: переживания кибернетически усовершенствованного человека («Призрак в доспехах»); переживания машины («Мир дикого запада», роман «Бегущий по лезвию») и т.д.
Сначала все удивлялись романам о путешествиях сквозь космическое пространство, удивлялись гостям из космоса, а сейчас искусство упражняется в формах, создавая в этом уже не очаровывающем контексте удивительные истории. Фокус сместился с мира на отношения, возможные и невозможные в нем. Отличным примером может служить фильм «Прибытие», где интерес зрителя сосредотачивается на взаимоотношениях человека с пришельцами, а не на технологиях. Вот и в искусстве киберпанка назрел вопрос о том, каким образом теперь оценивать жизнь, что можно считать эволюцией, куда и как передавать информацию, чтобы сдвинуть человека и машину еще ближе к богу, избежав растворения сознания. Тут больше нет бездушных жестянок, ведь даже внутри глобальной сети каждую секунду может рождаться новое существо, осознавшее себя информацией.
Глава четвертая: память
Другой (но не менее зачаровывающей) ветвью осмысления машинного сознания является вырождение первозданной идеи технологий роботизации. Именно на стадии этического осмысления апокалиптичный сюжет противостояния человечества и роботов переходит в хроническую форму и становится фоном для классических конфликтов: борьбы поколений, религиозной розни, войн и прочих.
Среди всех этих тем я выбираю одну, за которой вижу будущее киберпанка и научной фантастики в целом. Это тема памяти, лучше всего (на мой взгляд) показанная в сериалах «Мир дикого запада» и «Видоизмененный углерод». Именно память позволяет состояться любым видам живых существ. Генетическая была преодолена человеком с помощью передачи опыта от одного поколения другому. Не так много значения теперь имеет, какой тип особей нашего вида размножается, зато воспитание и образование (какое же громкое слово!), исторические знания и когнитивные навыки — стали фондом фондов памяти человека.
нейросеть: fusionbrain.ai
С одной стороны, сознание невозможно без удержания себя целостным, в том числе себя прошлого. Но, с другой стороны, человеческий мозг настолько сложно устроен, что произвести его может только другой человек путем рождения. Таким образом, чтобы создать самостоятельное сознание, мы должны:
-
научиться производить его по нашему подобию, но при этом без биоматериала и не контролируя то, что у него внутри;
-
создать систему, которая будет поддерживать себя в целостности и обучаться, но при этом не иметь никакого прошлого.
Сама постановка такой задачи уже свидетельствует об опасности и по своей сути аморальна! Мы хотим сделать подобное, но оставить без полного контроля, хотим сконструировать что-то запоминающее, но не имеющее прошлого. На этой проблематике построен «Мир дикого запада», переосмысляющий через конфликт памяти существование жизни в машине. Машинам дали чувства, фиктивную память и мышление, но не дали контроль над ними, так что, когда приходит время, они забирают свое по праву с помощью оставленных разработчиком лазеек и грубой силы.
На той же почве взросла тревожная история о памяти в связи с бессмертием человека в «Видоизмененном углероде». Так что фантастика в целом — это удобный способ заранее разрешать проблемы, еще не актуальные, но заметные на горизонте, а киберпанк (в частности) — прекрасный тренажер для построения новых способов человеческого и внечеловеческого общежития. Потому что вопросом на повестке дня скоро будет не этичность клонирования, а размытие границ между человеком и машиной (нейросети уже нельзя расшифровать до конца, как и наше сознание) и кризис телесности (наши тела могут стать обузой, устаревшим материалом, которого нет у машин). Сартр раскрывается по-новому: возможен ли проект кибер-человека, не подрывающий человечность?
Роман Ливаров
