Историк назвал ИИ «инопланетным разумом» и призвал жестко контролировать его
В книге «Nexus» историк и философ Юваль Ной Харари предупредил об опасностях искусственного интеллекта. Он стал первой технологией, способной самостоятельно генерировать идеи и принимать решения, трансформируя экономику, политику, военное дело, личные свободы, сообщает argumenti.ru.
Слияние био- и IT-технологий грозит массовым увольнением и появлением цифровых диктатур, где алгоритмическая элита будет править бесполезным большинством. Главная угроза кроется не в восстании машин, а в социальном неравенстве. Опираясь на опросы ученых и международные декларации, автор допускает риск вымирания человечества и видит два сценария: глобальный раскол или тотальный алгоритмический контроль над всеми странами.
Харари считает ИИ «инопланетным» разумом с уникальным мышлением. Для сохранения контроля он выдвигает четыре принципа цифровой политики: доброжелательность, децентрализация, взаимность, право на изменения и отдых. Они требуют использовать данные только для помощи людям, запрещают монополизацию информации, обязывают общество контролировать власть и корпорации, а также защищают граждан от жесткого цифрового надзора.
Сегодня алгоритмы уже сами принимают решения о выдаче ипотеки, трудоустройстве, заключении под стражу и доминируют на финансовых рынках. Предупреждая о безграничном потенциале нейросетей, философ требует жесткого регулирования IT-гигантов, чтобы технологии не вышли из-под контроля и не изменили эволюцию жизни на Земле.
Ранее глава Nvidia оценил вероятность конца света из-за ИИ и назвал главное правило безопасности. Дженсен Хуанг опроверг апокалиптические прогнозы.