Единого мнения относительно того, является ли ИИ угрозой или нет, по-прежнему нет.
Результаты, как уже говорилось выше, оказались неоднозначными – сторонники идеи о том, что ИИ представляет собой угрозу для человечества снизили вероятность катастрофы до 2100 года с 25% до 20%, а оптимисты повысили ее с 0,1% до 0,12%. Иными словами обе группы остались на том же уровне, с которого начинали.
Отчет, тем не менее, впечатляет, так как представляет собой редкую попытку объединить умных, хорошо информированных людей, которые расходятся во мнениях. Хотя результаты исследования и не разрешили разногласий между экспертами, оно пролило свет на то, откуда эти разногласия вообще взялись.
Глобальные риски
Конечно, существует ряд других рисков, связанных с ИИ, о которых стоит беспокоиться и со многими из которых мы сталкиваемся уже сегодня. Так, существующие системы искусственного интеллекта иногда демонстрируют тревожные предубеждения и отлично обманывают пользователей, аа значит их действительно можно использовать во вред. Но этот вред, хотя и является, безусловно, серьезным, явно меркнет по сравнению с «потерей контроля над ИИ, в результате чего все погибнут».
Так почему же эксперты в области машинного обучения так сильно расходятся во мнениях? Авторы научной работы полагают, что это не связано с различиями в доступе к информации или недостаточной осведомленностью о различных точках зрения.
Если бы это было так, то враждебное сотрудничество, которое заключалось в массовом ознакомлении с новой информацией и противоположными мнениями, изменило бы убеждения людей еще более кардинально, – говорится в статье.
Интересно, что большая часть разногласий также не объяснялась различными представлениями о том, что произойдет с ИИ в ближайшие несколько лет. Когда исследователи разделили оптимистов и пессимистов на пары и сравнили их шансы на катастрофу, разница в среднем составила 22,7%. Наиболее важное значение имели, однако, различия во взглядах на долгосрочное будущее.
Комментарии 5