«Галлюцинации», восстание машин и мир будущего: какие угрозы несет развитие «сильного» искусственного интеллекта?

Развитие искусственного интеллекта несет не только неоспоримые преимущества, но и риски. Одна из проблем: так называемые «галлюцинации» нейросети, когда она выдает произвольные умозаключения за результат работы с настоящими данными, сообщает пресс-служба МАИ.

На изображениях, когда нейросеть, к примеру, рисует девушку с тремя руками, такие «фантазии» легко отследить. Но при работе с большими объемами информации ошибка может остаться незамеченной.

Чат-бот с искусственным интеллектом подскажет

Запрещать ли школьникам и студентам им пользоваться?

Научный сотрудник института №8 «Компьютерные науки и прикладная математика» МАИ Юрий Чайников заявил, что и человек, и искусственный интеллект создают внутри себя модели реальности. Но ни одна модель не способна отразить всю сложность моделируемого объекта.

«Любая модель в неких пограничных условиях будет нести какую-нибудь ахинею. А чем модели сложнее, тем изощреннее ее «глюки», – отметил эксперт.

Еще один риск – конкуренция, которая может возникнуть между искусственным интеллектом и человеком. По словам эксперта, если поставить перед продвинутой системой определенную задачу, она рано или поздно сформулирует для себя подзадачу: «Я – исполнитель, поэтому должен оставаться в живых в этой вселенной». Искусственный интеллект начнет вести себя так, чтобы продолжать жить, а значит – вступит в конкуренцию с людьми.

Также потенциальный риск исходят от самих людей, применяющих искусственный интеллект. Со временем эти системы научатся выполнять любые задачи, подвластные человеку – так, с мультимодальными моделями уже можно разговаривать словами человеческого языка.

«Каким темпом будет происходить захват разных областей, кому достанутся экономические эффекты от повышения производительности труда, которое произойдет в результате перехода к «сильному» искусственному интеллекту, как он будет распределен между разными слоями населения или даже разными странами – это хороший вопрос», – отметил Юрий Чайников.

По словам эксперта, в результате возможно как развитие свободного общества, где все человеческие потребности будут удовлетворены, так и власть искусственного интеллекта, которым будет управлять узкий круг избранных.

Ранее искусственный интеллект нашел более 300 геоглифов Наска. Они находятся на юге Перу.