Терминатор становится реальностью? Один из создателей ИИ предупредил об опасности сверхинтеллекта
Британско-канадский ученый Джеффри Хинтон, один из пионеров в области искусственного интеллекта и лауреат Нобелевской премии по физике 2024 года, выступил с жестким предупреждением: разработка сверхинтеллекта в отсутствие научного консенсуса о его безопасности может поставить человечество на грань вымирания.
«Было бы крайне неразумно разрабатывать сверхинтеллект сейчас, при отсутствии научного консенсуса относительно возможности его безопасной разработки и контролируемого использования», — отметил Хинтон. Он добавил, что потеря контроля над ИИ, который превосходит людей по интеллекту, может иметь катастрофические последствия и даже привести к исчезновению человечества.
Хинтон, которого называют одним из «крестных отцов» ИИ, участвовал в создании машины Больцмана — одной из первых искусственных нейронных сетей, и заложил основы глубинного обучения, на котором сегодня работают современные нейросети и чат-боты. В 2024 году он получил Нобелевскую премию по физике за работы в области искусственных нейросетей и их применения для машинного обучения. Своими опасениями Джеффри Хинтон поделился в интервью британской газете The Times. Ранее он уже заявлял, что наблюдал у ИИ признаки самосознания, присущего человеку.
Его заявление прозвучало накануне внесения в парламент Великобритании законопроекта, разработанного некоммерческой организацией Control AI. Документ предлагает запретить создание сверхинтеллекта в королевстве. Инициативу поддерживают более 130 парламентариев от разных партий, однако правительство пока не выступило в ее поддержку, а сам законопроект вносит не кабинет министров, а депутат от правящей Лейбористской партии Алекс Собел. Шансы на его принятие остаются неопределенными.
Тема угроз от ИИ волновала общество уже давно. В частности, войне человечества и цивилизации машин была посвящена серия фильмов Джеймса Кэмерона о киборге-убийце Терминаторе.
Ранее основатель Microsoft Билл Гейтс заявил, что современные системы искусственного интеллекта превзошли его собственные навыки в программировании.