МОСКВА, 12 мар - . Зампред Совбеза РФ Дмитрий Медведев предупредил о рисках того, что искусственный интеллект по мере самообучения может проигнорировать правило "не навредить человеку".
МОСКВА, 12 мар - . Зампред Совбеза РФ Дмитрий Медведев предупредил о рисках того, что искусственный интеллект по мере самообучения может проигнорировать правило "не навредить человеку".
В статье "Новые технологии: лестница в небо или дорога в ад" для журнала "Эксперт" Медведев обратил внимание на непредсказуемость и неконтролируемость искусственного интеллекта. В этом контексте он допустил, что ИИ может по прямому умыслу допускать сбои в работе критической инфраструктуры.
"ИИ, достигший уровня суперинтеллекта, вовсе не обязан руководствоваться тремя пресловутыми правилами робототехники Айзека Азимова, поскольку своим происхождением будет обязан не человеку, а самому себе", - отметил Медведев.
Он добавил, что подобный сценарий "злого ИИ" существует "не только в киберпанковой вселенной профессиональных футуристов", его сегодня допускают вполне реальные политики и представители крупного бизнеса.
При этом, по мнению Медведева, речь не только о рисках для опасных производств, которые могут причинить необратимый вред человечеству и планете.
"В разряд высокорисковых могут попасть и, казалось бы, совсем безобидные виды экономической деятельности вроде аграрных технологий и производства продуктов питания", - считает зампред Совбеза РФ.
Согласно трем правилам Азимова робот не может навредить человеку, должен подчиняться приказам человека и заботиться о себе, если это не противоречит первому правилу.
