Человечеству грозит риск вымирания из-за технологий
Джеффри Хинтон, которого зачастую называют «крестным отцом искусственного интеллекта», заявил английским журналистам, что существует от 10% до 20% вероятности того, что искусственный интеллект приведет к вымиранию человечества в течение следующих 30 лет. Ученый подчеркнул, что развитие технологий идет намного быстрее, чем ожидалось.
Хинтон, британско-канадский специалист в области компьютерных наук и почетный профессор Университета Торонто, объяснил свою позицию и уточнил, что его оценка вероятности угрозы от ИИ остается неизменной. Он также отметил, что человечество может столкнуться с трудностями в управлении более разумными существами, что исторически практически не встречается.
«Мы можем представить себя трехлетними детьми по сравнению с мощными системами искусственного интеллекта, которые сейчас разрабатываются», — добавил Хинтон. По его мнению, быстрые темпы прогресса в области ИИ увеличивают риски, связанные с утратой контроля над этой технологией.
Хинтон давно поднимает вопрос о потенциальной опасности искусственного интеллекта. В прошлом году он ушел из компании Google, чтобы открыто обсуждать риски, связанные с его развитием. Он предупреждал, что технология может быть использована злоумышленниками для нанесения вреда, а создание искусственного общего интеллекта (AGI) может стать угрозой для человечества, если такие системы выйдут из-под контроля.
Некоторые эксперты разделяют опасения Хинтона, отмечая, что уже в ближайшие 20 лет могут быть созданы системы, превосходящие человеческий интеллект. Однако его коллега Ян Лекун, также признанный одной из ключевых фигур в развитии ИИ, выражает более оптимистичный взгляд, считая, что искусственный интеллект способен предотвратить вымирание человечества.
Для предотвращения потенциальных рисков Хинтон подчеркивает важность государственного регулирования. Он уверен, что стремление компаний к прибыли само по себе не гарантирует безопасность. «Единственным механизмом, способным заставить крупные корпорации уделять внимание безопасности, является регулирование со стороны государства», — заключил он.
Источник:
портал PLANET TODAY
Фото:
из открытых источников
Нет комментариев