Главная arrow книги arrow Копия Глава 26. Философские основания arrow Этические и моральные последствия разработки искусственного интеллекта
Этические и моральные последствия разработки искусственного интеллекта

Виндж озабочен и обеспокоен грядущим технологическим превосходством, но другие специалисты в области компьютерных наук, занимающиеся прогнозами, радуются его наступлению. Ханс Моравек в своей книге Robot: Mere Machine to Transcendent Mind предсказывает, что роботы сравняются по интеллектуальности с человеком за 50 лет, после чего его превзойдут. В своей книге он пишет следующее.

Довольно скоро они станут способными вытеснить нас из жизни. Но я не очень встревожен такой возможностью, поскольку считаю, что будущие машины — это наше потомство, "порождение нашего разума", созданное по нашему образу и подобию; это мы, но в более развитой форме. Как и биологические дети предыдущих поколений, они воплотят в себе лучшие надежды человечества на долгосрочное будущее. Это побуждает нас предоставить им все возможное содействие, а затем отойти в сторону, после того, как мы больше не в состоянии будем делать что-то полезное [1085].

Рей Курцвейл в своей книге The Age of Spiritual Machines [872] предсказывает, что к 2099 году наметится "мощная тенденция к слиянию человеческого мышления с миром машинного интеллекта, который был изначально создан родом человеческим. Больше не будет какого-либо четкого различия между людьми и компьютерами". Возникло даже новое слово, трансгуманизм, для обозначения активного социального движения, которое охватывает тех, кто готовится к такому будущему. Достаточно сказать, что указанные вопросы становятся вызовом для большинства теоретиков морали, которые считают единственно возможным путем развития сохранение существования человека и самого человеческого рода.

Наконец, рассмотрим эту проблему с точки зрения робота. Если роботы обретут сознание, то трактовка их просто как "машин" (т.е. дальнейшее их принижение) может стать аморальной. Роботы сами должны также действовать морально — нам потребуется запрограммировать в них теорию, по которой они смогут судить, что хорошо и что плохо. Проблема прав и обязанностей роботов рассматривалась в произведениях авторов научной фантастики, начиная с Айзека Азимова [45]. В широко известном фильме "АЛ." [1451] Спилберга основой сюжета является рассказ Брайена Олдисса об интеллектуальном роботе, в программу которого была вложена вера в то, что он — человек, поэтому он не мог понять, почему же его когда-то неизбежно покинет владелица-мать. И в самом рассказе, использованном Спилбергом, и в его фильме приведены доводы в пользу того, что должно быть развернуто движение за гражданские права роботов.