«Мы можем наступить на грабли»: эксперт назвал самую большую опасность искусственного интеллекта

Ученый-компьютерщик Джеффри Хинтон, работающий в Google и Университете Торонто, заявил, что продвинутый искусственный интеллект может уничтожить человечество, сообщает New York Post. «Скоро компьютеры смогут генерировать свои идеи для самоулучшения. Люди должны осознать, что это проблема, и хорошо подумать о том, как это контролировать», – сказал ученый.

Любое бесконтрольное применение любой технологии несет риск, что что-то может пойти не по плану, считает эксперт по кибербезопасности «Лаборатории Касперского» Владимир Дащенко. «Сегодня мы наблюдаем поистине огромный скачок в развитии машинного обучения и искусственного интеллекта. Применение этих технологий в «мирных» целях открывает человечеству новые возможности. Однако без грамотного управления и выставления границ мы вполне можем наступить на грабли, а то и не на одни», – сказал в интервью MIR24.TV эксперт.

«Вспомним Айзека Азимова и его рассказ «Хоровод», в котором он сформулировал три закона робототехники: первый – робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред; второй – робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону; третий – робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам. Что-то подобное сейчас должно быть сформулировано для только зарождающегося искусственного интеллекта. Но проблема тут еще и в другом: если ИИ будет «умным», то он сможет обойти эти законы», – заключил Дащенко.