ББК Ю251.3 + Ю251.1:62

УДК 101.8

В. Э. Халитова, Е.В. Гредновская

V. Khalitova, E. Grednovskaia

г. Челябинск, ЮУрГУ

Chelyabinsk, SUSU

ГУМАНИЗАЦИЯ ТЕХНИКИ: ПЕРСПЕКТИВА ИЛИ РИСК?

HUMANIZATION OF TECHNOLOGY: PROSPECT OR RISK?

Аннотация: На протяжении всей своей истории техника оценивается неоднозначно: положительно, отрицательно и нейтрально. Проблема заключается в том, что развитие техники несет в себе возможность появления непредвиденных событий. Гуманизация техники, или «очеловечивание» роботов, расценивается как реальная перспектива научно-технического развития. В статье рассматривается отражение подобных идей в продуктах технического прогресса на примере консольной игры.

Ключевые слова: философия техники; научно-технический прогресс; искусственный интеллект; робототехника.

Abstract: There are three different assessments of the development of technology: positive, negative and neutral. The problem is that the development of technology carries with it the possibility of unforeseen events. Humanization of technology is regarded as a real perspective for scientific and technological development. The article deals with the reflection of such ideas in the products of technical progress using an example of a console game.

Keywords: philosophy of technology; scientific and technical progress; artificial intelligence; robotics.

Научно-технический процесс навсегда изменил бытие человека. Техника стала неотъемлемой частью современного мира, проникла во все сферы человеческой жизни. Наука и техника сыграли основополагающую роль в возникновении и развитии нового типа цивилизации — техногенной, в которой они выступают в качестве средств решения всех проблем общества. В такое время призывы отказаться от техники звучат несколько наивно.

За все время своего развития техника оценивалась неоднозначно. Одни ученые видели в технике свободу человека от нужды, от налагаемых природой границ, подчеркивали ее значимость, определяющую роль в культурном развитии. Например, один из основоположников философии техники Э. Капп рассматривал технику как инструмент культурного, интеллектуального и нравственного развития и спасения человечества [8]. Научно-технический прогресс, с его точки зрения, должен освободить человека от физического труда и способствовать нравственному и интеллектуальному совершенствованию.

Другие мыслители, наоборот, отмечали ее бесчеловечный характер, подчеркивая, что развитие техники приведет скорее не к освобождению человека от природы, а к полному уничтожению всего живого, в том числе и самого человека. С этой позиции Х. Ортега-и-Гассет расценивал технику как усилие ради сбережения усилий [3]. Если человек посредством техники хочет освободиться от срочных дел, к которым призывает его природа, то встает вопрос о том, как человек планирует заполнить жизнь, т. к. ничего не делать — значит не жить. Экономия сил приводит к тому, что работает техника, а человек становится ее дополнением.

Однако также существует третья точка зрения, согласно которой техника сама по себе нейтральна. В самой технике нет никакой идеи, она лишь средство. Смысл технике придает человек, вкладывая в нее определенную идею и направляя ее во благо или во зло. Так, К. Ясперс, подчеркивая дуализм своей оценки, говорит о том, что техника дала нам возможность не только отдалиться от природы, но и приблизиться к ней, показывает нам новый мир и новые способы существования в нем [7]. Ведь микроскоп и телескоп позволили увидеть микромир и звездное небо, а техническая аппаратура потребовала особой ловкости и умения. Мир техники дал нам представление о красоте технических изделий, расширил наши потребности и сформировал новое мироощущение. Однако, по мнению Ясперса, все это редкое исключение, более частое явление — это «... погружение в бессмысленное существование, отчуждение в автоматичности и утрата собственной сущности» [7, с. 133]. По Ясперсу, оценка техники зависит от представлений о ее границах. Она ограничена тем, что является средством, которое нужно направить, и тем, что заключена в рамки безжизненного. Лишь человек воплощает ее в жизнь своим трудом. Однако человечество попало в зависимость от техники: при остановке работы техники привычная жизнь людей превратится в борьбу за выживание. Поэтому техника таит в себе бесконечные возможности и бесконечные опасности.

Позицию М. Хайдеггера, пожалуй, тоже можно отнести к третьей точке зрения. Философ считал, что развитие технического мира повлечет за собой наступление новой эры. Человек будет со всех сторон окружен силами техники, которые привяжут его к себе под видом различных устройств. Эти силы уже превзошли нашу волю и способность принимать решения. Хайдеггер видит проблему не в технизации мира, а в том, что человек не готов к этому изменению: он (человек) воспринимает мир как источник удовлетворения потребностей, а технику — как средство. По его мнению, человечество должно впустить технику в его жизнь и одновременно оставить ее снаружи. Такое отношение он назвал «отрешенностью от вещей» [6].

Стремительное развитие искусственного интеллекта (ИИ) порождает огромное количество споров и опасений. Некоторых «умные машины» приводят в восторг, у других вызывают чувство опасности и дискомфорта. Авторитетные представители современности также высказывают противоположные мнения. Так, Марк Цукенберг выступает за развитие искусственного интеллекта и считает опасения неоправданными. Такой позитивный настрой не разделяют Илон Маск и Билл Гейтс. Они отмечают полезность техники в ряде рабочих процессов, однако считают, что данная сфера должна жестко контролироваться во избежание появления опасности для человечества. Известный астрофизик Стивен Хокинг высказал мысль о том, что в конечном итоге развитие техники достигнет точки, когда она станет новой формой жизни, превосходящей человеческую. По мнению ученого, между мозгом человека и компьютером нет фундаментальной разницы. Однако если технологии имеют способность к быстрой адаптации, то человек ограничен рамками медленной эволюции. Реальный риск — это не злоба, а компетентность. Сверхразумный ИИ будет чрезвычайно хорош в достижении своих целей, и если эти цели не будут согласованы с нашими, то человечество проиграет эту гонку [9, 10].

Подобные научные идеи отражаются в продуктах научно-технического прогресса, где происходит их проверка и варианты адаптации к ним, например, в таких, как компьютерные игры. В качестве примера рассмотрим консольную игру 2018 года «Detroit: Become Human» (пер. «Детройт: Стать человеком»). Игра поднимает проблему взаимодействия человека и синтетической машины-андроида.

По сюжету к 2038 году в США и ряде других стран уже налажено производство антропоморфных машин, которые, став неотъемлемой частью общественной и частной жизни, используются во всех сферах и заменили большое количество рабочих — людей. В обществе возникла неоднозначная реакция на андроидов. Одни пользуются этими машинами постоянно, другие со страхом и неприязнью относятся к ним, к тому же основная причина недовольства — это рекордная безработица. У андроидов нет никаких прав, а их работа контролируется «Законом об андроидах». В конечном итоге это и становится проблемой мира Детройта: в результате сбоя программного обеспечения стали появляться девианты, т. е. андроиды с приобретенной собственной волей, которые устроили революцию с целью получения прав. Разработчики игры, таким образом, составили некую предполагаемую картину будущего.

Кроме того, здесь важно то, что андроид способен имитировать человеческий разум, поведение и эмпатию, но он не владеет ими. В игре упоминается, что роботы прошли тест Тьюринга, который направлен на выяснение способности машины думать, как человек, из чего следует, что эти машины все-таки обладают таким же мышлением, как и человек. Это в свою очередь поднимает вопрос о разграничении «человечности» и ее имитации. Однако, как и во многих других произведениях, в сценарии есть «дыры», и прямого ответа в игре мы не получили.

Однако этот вопрос интересно рассмотреть с другой точки зрения. В 1980 году философ Джон Серл предложил мысленный эксперимент «Китайская комната», который опровергает представления о том, что техника способна обладать человеческим сознанием путем ее программирования [4]. Суть была в том, что человек, даже не зная китайского языка, может дать ответ на вопрос, составленный иероглифами, если он будет следовать инструкции. Инструкция составлена так, что прохождение всех этапов будет выдавать правильный ответ. Таким образом, человек совершает алгоритм без внутреннего понимания языка.

Именно поэтому, по мнению Д. Серла, тест Тьюринга не указывает на наличие у машин мыслительных способностей, это просто выполнение алгоритма. По сути, данную игру можно было бы рассмотреть, как подобный эксперимент: андроиды могут имитировать человеческое поведение настолько хорошо, что смогли бороться за свои права, при этом убивая, предавая людей. Дело здесь вовсе не в жестокости и злости роботов или в отсутствии у них моральных принципов, а в том, что для достижения какой-то цели программа может выбрать подходящий способ как наиболее приемлемый алгоритм.

Андроиды Детройта не ощущают боли, сканируют окружение и могут обладать колоссальными знаниями. Предположим, что подобный механизм способен обрести разум. Это станет, по Хокингу, новой формой жизни или некой новой расой, изобретенной человеком. В таком случае сложно представить, что настолько превосходящие человека существа будут соблюдать «правила человечества» в отношении человека, а не сконструируют новую реальность и не устроят геноцид на Земле.

Игра, так или иначе, является некой попыткой авторов ответить на вопрос о последствиях развития искусственного интеллекта. Повествование ведется от лица андроидов, а сама игра построена по схеме «выбор — последствие». Таким образом, игрок принимает решение, из которого происходит дальнейшее развитие сюжета, а так как он руководит роботом, можно наблюдать расчет ситуации и процент вероятности успеха достижения цели. Подобная схема в некотором роде дает возможность человеку понять алгоритм, совершаемый искусственным интеллектом.

Обстановка футуристического Детройта позволяет игрокам проникнуться его атмосферой. Эта атмосфера дает пищу для размышления о новой форме и / или новом способе существования человека, возможностях адаптации человека к техно-реальности и собственных оценках техногенного мира. В сущности, «Detroit: Become Human» и ряд других подобных продуктов популярной игровой культуры, в которых дается попытка раскрыть проблему взаимодействия человека и техники, имеют своей задачей психологически подготовить людей к гипотетическому развитию событий и к взаимодействию с антропоморфными роботами и ИИ.

Работы в области робототехники ведутся уже длительное время. Развитие искусственного интеллекта имеет множество преимуществ во многих сферах жизнедеятельности, однако главным недостатком является невозможность расчета его риска, что вызывает сильные опасения. Чем сложнее становятся разработки, тем острее обозначается проблема мер безопасности для них, а сформулированные, например, А. Азимовым, законы робототехники о невозможности нанесения роботом вреда человеку могут рассматриваться пока лишь как некие идеальные типы [1], которые, по мнению многих, включая самого автора, имеют «лазейки» и невероятно сложны или невозможны для применения в практике, что и делает эту проблему крайне актуальной для современного мира.

Библиографический список

1. Азимов, А. Три закона роботехники / А. Азимов. — М. : Мир, 1979. — 400 с.

2. Дыдров, А. А. Механизация человека и гуманизация машины: тенденции существования человека и техники / А. А. Дыдров, В. А. Починская, А. Р. Шарипова // Социум и власть. — 2018. — № 3 (71). — С. 7–14.

3. Ортега-и-Гассет, Х. Размышления о технике / Х. Ортега-и-Гассет // Вопросы философии. — 1993. — № 5. — С. 164–232.

4. Серль, Дж. Сознание, мозг и программы / Дж. Серль // Аналитическая философия: Становление и развитие : антология. — М. : Дом интеллектуальной книги : Прогресс-Традиция, 1998. — 528 с.

5. Соломко, Д. В. Влияние современной техники и технологий на взаимоотношения людей (на примере сериала Чарли Брукера «Черное зеркало») / Д. В. Соломко, В. А. Хапрова // Homo Holistic: человек целостный : сборник научных статей преподавателей кафедры философии ЮУрГУ, студентов, магистрантов и аспирантов вузов. — Челябинск, 2017. — С. 142–146.

6. Хайдеггер, М. Отрешенность от вещей / М. Хайдеггер // Разговор на проселочной дороге. — М. : Высшая школа, 1991. — С. 102–112.

7. Ясперс, К. Смысл и назначение истории / К. Ясперс. — М. : Политиздат, 1991. — 527 с.

8. Kapp, E. Grundlinien einer Philosophie der Technik; Zur Entstehungsgeschichte der Kultur aus neuen Gesichtpunkten / E. Kapp. — Braunschweig : Westermann, 1877. — 360 s.

9. Metz, C. Mark Zuckerberg, Elon Musk and the Feud Over Killer Robots / C. Metz // The New York Times. — https://www.nytimes.com/2018/06/09/technology/elon-musk-mark-zuckerberg-artificial-intelligence.html.

10. Sulleyman, A. Stephen hawking warns artificial intelligence ’may replace humans altogether’ / A. Sulleyman // The Independent. — https://www.independent.co.uk/life-style/gadgets-and-tech/news/stephen-hawking-artificial-intelligence-fears-ai-will-replace-humans-virus-life-a8034341.html.