МОСКВА, 11 мар - . Зампред Совбеза РФ Дмитрий Медведев назвал главные риски нерегулируемого развития технологий искусственного интеллекта, упомянув рост безработицы, хакерские атаки на критически важные объекты и потерю контроля человека над нейросетями.
МОСКВА, 11 мар - . Зампред Совбеза РФ Дмитрий Медведев назвал главные риски нерегулируемого развития технологий искусственного интеллекта, упомянув рост безработицы, хакерские атаки на критически важные объекты и потерю контроля человека над нейросетями.
Медведев в статье для журнала "Эксперт" отмечает, что искусственный интеллект является одной из пяти технологий, которые изменят будущее человечества. В то же время, у развития ИИ есть и оборотная сторона, которая несет существенные риски.
"Широкое использование ИИ ставит под угрозу рабочие места миллионов людей и, как следствие, создает предпосылки для экспоненциального роста безработицы и нарушения международных цепочек разделения труда", - пишет Медведев в статье.
Еще одной проблемой зампред Совбеза РФ видит уязвимость критически важной инфраструктуры перед хакерскими атаками.
"Сейчас уже просматривается перспектива передачи ИИ управления большими производственными процессами, в ходе которых применяются критические технологии, а также верхнеуровневыми институтами - холдинговыми компаниями и даже целыми отраслями экономики. И при определенных условиях это чревато глобальными рисками, в частности, хакерских атак на критическую инфраструктуру", - уточняет он.
В то же время, самая большая опасность, по мнению Медведева, связана с возможной утратой контроля над технологиями ИИ. Зампред Совбеза отмечает, что люди уже не в состоянии "в силу естественной ограниченности человеческого разума понять, как ИИ пришел к тому или иному выводу". В качестве примера он моделирует ситуацию, когда из-под контроля вышли нейросети, которые используются в управлении электростанциями, включая атомные. В случае сбоя существуют риски, что человек просто не разберется в его причине, считает он.
"Вот тут-то для человечества и начинается предчувствие Апокалипсиса. Отсюда один шаг к модели "злого ИИ", которая, как и все иные, может материализоваться. То есть к ситуации, когда сбой важной системы происходит по прямому умыслу самого ИИ. Такой сценарий сегодня допускают вполне реальные политики и представители крупного бизнеса", - добавляет Медведев в статье.
