Проповедовать мораль легко,
обосновать ее трудно.
Артур Шопенгауэр
В седьмой части мы будем говорить о самых сложных вопросах, связанных с ИИ-революцией, – о проблемах, рисках и угрозах, которые она порождает. Дискуссии вокруг этих вопросов не новы, им уже более 100 лет. Достаточно вспомнить «восстание роботов» Карела Чапека и «три закона робототехники» Айзека Азимова.
Только раньше эти дискуссии носили гипотетический характер. Участвовали в них в основном писатели-фантасты, футурологи и любители их творчества. После революции генеративного ИИ 2022 года многие проблемы, риски и угрозы из категории «гипотетические» перешли в категорию «реальные» или, что еще важнее, в категорию «неизбежные».
В этом сюжете мы будем говорить об этических проблемах, которые возникают по мере того, как современные ИИ-технологии приближаются к AGI. Дискуссии, что можно называть общим ИИ, а что нельзя, в самом разгаре. О них мы уже рассказывали, и в контексте данного сюжета они не так существенны.
Даже если под AGI понимать просто экосистему ИИ-агентов, способных решать большинство интеллектуальный задач, присущих человеку, этических проблем хватает. О тех, которые нам представляются наиболее важными и интересными, далее и будем говорить. Сформулируем эти проблемы в виде вопросов и попробуем на них ответить.
Начнем с двух проблем, поднятых первооткрывателями темы.
Кем считать ИИ – инструментом или личностью? Вокруг этой этической проблемы построил свою фантастическую пьесу «R.U.R» чешский писатель Карел Чапек. Правда, в его произведении были не малопонятные ИИ-модели, а роботы, способные работать вместо людей, но лишенные эмоций. Но суть проблемы это не меняет.
В наше время адепты ИИ-революции уверены, что AGI уже на пороге и в ближайшие несколько лет осчастливит человечество. Они считают, что даже нынешний ИИ – это новая форма разума. Он обладает когнитивными способностями, умеет рассуждать и обосновывать свои действия, способен распознавать и уместно демонстрировать эмоции.
Что еще нужно, чтобы считать его личностью?
... читайте сюжет в полной версии