18:58, Воскресенье, 24.01.2021

Ученые предупредили об опасности сверхразумного ИИ

AOinformНовостиIT 13.01.2021 в 20:423290
Ученые предупредили об опасности сверхразумного ИИ
Фото: pixabay.com
Невозможно построить эффективный алгоритм сдерживания искусственного суперинтеллекта, а значит его нельзя контролировать.
Команда ученых, в том числе из Центра людей и машин Института развития человека Макса Планка, пришла к выводу, что человечество не сможет держать под контролем искусственный суперинтеллект, даже если примет для этого все возможные меры. Статья с соответствующими выводами была опубликована в Journal of Artificial Intelligence Research, сообщает EurekAlert.

"Сверхразумная машина, которая управляет миром – звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?" – подчеркнул один из авторов исследования Мануэль Себриан.

Пройдя через множество алгоритмов и сценариев, исследователи пришли к выводу, что полностью контролировать сверхразумный ИИ невозможно.
 
Даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля
Аватар Skibair Ирина Скиба / Skibair
Журналист AOinform

13.01.2021 в 20:42 329 IT
0.0
Сегодня читают
Комментариев: 0
Оставляя комментарий на нашем сайте, пожалуйста, помните о том, что содержание и тон Вашего сообщения могут задеть чувства реальных людей, непосредственно или косвенно имеющих отношение к данной новости. Проявляйте уважение и толерантность к своим собеседникам даже в том случае, если Вы не разделяете их мнение. Пользователи, которые систематически нарушают правила, а также размещают спам — будут заблокированы!
avatar