Конец света маловероятен.
Но всегда остается надежда.
Стивен Кинг
Этот сюжет несколько выбивается из общего контекста книги. Мы старались рассматривать в первую очередь практические задачи и проблемы, которые ставит перед людьми шестая информационная революция. Но обойти стороной концепции, связанные с появлением на планете Земля искусственного сверхразума, посчитали неправильным.
В основу сюжета лег материал из книги «Цифра и будущее».
Далее под сильным ИИ будем понимать искусственный интеллект, который не уступает человеческому по когнитивным способностям, эффективности решения задач и сопутствующим энергозатратам. Сильный ИИ должен также обладать волей и сознанием.
Экосистему ИИ-агентов, способных согласовано решать многие интеллектуальные задачи, к сильному ИИ относить не будем.
Во-первых, пока решаются не все задачи. Во-вторых, многие когнитивные способности современному ИИ недоступны (о воле и сознании и речь не идет). В-третьих, современный модели расходуют слишком много энергоресурсов. Вряд ли такой уровень развития технологий ИИ способен породить технологическую сингулярность.
Поэтому данная история о тех событиях, которые, если и произойдут, то в отдаленной перспективе. Даже оптимисты говорят, что появление сильного ИИ не стоит ожидать раньше 2045 года. Пессимисты откладывают это завораживающее перспективами и угрозами событие на XXII век. Скептики считают разговоры на эту тему бессмысленными спекуляциями, а задачу – неразрешимой.
Однако говорить о сильном ИИ нужно по нескольким причинам.
Масштаб такого события эксперты считают уникальным. Сравнивают с зарождением человеческой цивилизации. Другие сценарии социальных и техногенных катастроф не идут в сравнение с технологической сингулярностью. Не по последствиям – человечество может уничтожить себя разными способами, сильный ИИ здесь не одинок. А вот породить принципиально новую ветку эволюции разумной жизни – это дорогого стоит. Если такое произойдет, наступят интересные времена.
Генеративный ИИ меняет мир прямо сейчас. Последствия впечатляющи, но в целом предсказуемы. Их можно прогнозировать, предупреждать, сглаживать. А вот предсказать последствия появления сильного и сверхчеловеческого ИИ сложно, если вообще возможно.
Единства по поводу создания сильного ИИ нет. Некоторые специалисты сомневаются, что это возможно в принципе. Другие уверены, что этого не избежать, что сильный ИИ – не за горами. Железных доказательств для сомнений одних и уверенности других нет. Есть более-менее правдоподобные обоснования.
Приведем одно, связанное с парадоксом Ферми.
Если создание сильного ИИ неизбежно, где полчища роботов, завоевывающих просторы Вселенной? Ограничений в межзвездных полетах для механической цивилизации меньше, чем для органической. Мотивация тоже понятна. Если сильный ИИ уничтожил на планете конкурента в лице органической разумной жизни, почему он должен остановиться? Во Вселенной могут быть другие конкуренты, с которыми по логике нужно разобраться пораньше.
Возможных ответов на этот вопрос как минимум два. Первый – создание сильного ИИ невозможно в принципе. Второй – созданный человеком сильный ИИ будет обладать высокой моралью, которая позволит спокойно сосуществовать с биологической разумной жизнью. Ему будет неинтересно жить в окружении только себе подобных.
Эти гипотетические рассуждения одни эксперты поддержат, другие опровергнут. Но практически все сходятся в том, что после создания сильного ИИ (если это, конечно, возможно), создание сверхчеловеческого ИИ неизбежно. Принципиальный порог сложности будет преодолен, остановить спектакль уже никто не сможет. Сверхчеловеческий ИИ – это даже не Ломоносов, Моцарт и Леонардо да Винчи в одном флаконе. Количество решаемых задач перейдет в качество.
Скептики и адепты сильного ИИ сходятся еще в одном. Если возможность создания сильного ИИ существует – его создадут. Человеческое любопытство и конкурентные преимущества, которые даст сильный ИИ создателям, не оставят шансов избежать технологической сингулярности.
... читайте сюжет в полной версии