Гений и злодейство –
две вещи несовместимые.
Александр Пушкин
В мае 2023 года авторитетные эксперты в области ИИ и лидеры ведущих ИИ-компаний подписали «Заявление о рисках, связанных с искусственным интеллектом». Заявление краткое, одно предложение:
Снижение риска вымирания человечества из-за ИИ должно стать глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война.
Революция генеративного ИИ только начинается. Восхищение «человеческими» возможностями чат-ботов порождает всплеск алармистских настроений. Общественность волнуется. Эксперты и общественные деятели бьют тревогу, выступают с громкими заявлениями и пишут открытые письма.
В конце 2023 года Сенат США проводит двухпартийный форум «Риск, согласованность и защита от сценариев конца света». В начале 2024 года Генеральная ассамблея ООН принимает резолюцию, которая призывает всех к сотрудничеству в сфере ИИ, чтобы не допустить худший сценарий, при котором «ИИ будет управлять людьми».
Кажется, что мир готов юридически обуздать новую угрозу.
Но все пошло не так. Ситуацию точно характеризует знаменитая цитата Сталина: «Есть логика намерений и логика обстоятельств, и логика обстоятельств сильнее логики намерений». Отсылки к юридическим запретам в сфере производства и испытания ядерного, биологического и химического оружия не работают. Обстоятельства породили гонку ИИ-разработок, которую, похоже, уже не остановить.
Вот эти обстоятельства:
экзистенциональные угрозы, которые несет ИИ, не так очевидны, как ядерная война или биологическое оружие, в массовом сознании они долго ассоциировались с научной фантастикой;
в отличии от оружия массового поражения ИИ дает человечеству огромные возможности, которые помогают решать множество социально-экономических проблем;
невозможно разделить ИИ-технологии на опасные и полезные, как это произошло с ядерным оружием и атомной энергетикой;
превосходство в ИИ-технологиях дает странам и организациям слишком много реальных и потенциальных преимуществ, чтобы они стали ограничивать их разработку и применение;
в использование современных ИИ-технологий уже вовлечены сотни миллионов людей, значительная часть государственных, коммерческих и общественных организаций;
инвестиции в ИИ-отрасль исчисляются сотнями миллиардов долларов, никто не готов жертвовать ими из-за угроз, которые совсем не очевидны;
ИИ-революция протекает слишком быстро, чтобы неповоротливые международные и национальные бюрократические институты успевали регламентировать развитие ИИ;
все ведущие ИИ-компании в публичном пространстве и в реальных разработках демонстрируют искреннее желание предусмотреть и предотвратить угрозы, которые можно ждать от ИИ.
... читайте сюжет в полной версии