Потеря контроля над искусственным интеллектом – это тот страх, который подспудно живет в человеческом сознании со времен Станислава Лема и первых ЭВМ, занимавших целые этажи. Мы боимся, что эта тупая железка когда-нибудь станет умнее нас. Причем настолько умнее, что в этом мире для нас уже не будет места.
В заключительный третий день Гайдаровского форума психолингвист Татьяна Черниговская выступила с лекцией «Искусственный интеллект – вызов для человечества». «МИР 24» публикует самые интересные моменты ее выступления.
У деятелей искусства принципиально иное строение мозга. Но до сих пор не ясно, стал ли Моцарт Моцартом, потому что его мозг был устроен определенным образом, или его мозг стал таким, потому он играл на скрипке? Это открытый вопрос.
Представим, что Трамп с Ким Чен Ыном нажали на кнопки и нас не стало. Будут ли продолжать жить произведения искусства? Нет. Том Шекспира будет всего лишь физическим объектом. Так же и с музыкой. Если она звучит, но при этом нет того, кто может ее понимать, значит, нет и самой музыки. Для комара никакого Моцарта нет.
Лотман говорил, что люди – единственные существа, которые способны к рефлексии, то есть к осознанию сознания. В том числе к осознанию себя. Мы комментируем не только то, что видим, но еще и то, как мы думаем. Это эффект двойного зеркала. Рефлексия – это, похоже, единственная из когнитивных возможностей, которая все еще отличает нас от других высших представителей, населяющих планету. Но кто его знает, что думает дельфин? Мы этого не знаем и не узнаем никогда.
Шахматный суперкомпьютер Deep Blue в 1997 году обыграл Каспарова. Человечество содрогнулось. Правда, когда проанализировали игру, все успокоились. Deep Blue был надрессирован на конкретного игрока, он знал все о том, как играет Каспаров. Эта была игра нечестная. Компьютер не устает, не нервничает, у него бесконечная память и гигантские скорости. Скорости компьютера несопоставимы со скоростями человеческого мозга. Эту игру мы давно проиграли. Но, похоже, что это только игра со скоростями. Настоящая игра еще впереди. И вот ее-то мы, возможно, не проиграем, если, конечно, не обезумеем окончательно.
Недавно была создана программа Libratus, которая обыграла в покер четырех игроков высшего ранга. Никто не думал, что ей это удастся, поскольку в покере есть блеф. Эта победа говорит о том, что искусственный интеллект приобрел не только алгоритмические черты. Он уже влез на человеческую территорию.
Фото: ТАСС/Бобылев Сергей
Если мы собираемся состязаться с суперкомпьютерами в том, кто быстрее решит задачу, то уже поздно. Они нас победили. Если искусственный интеллект получит сознание, у него будут собственные мотивы, в том числе план жизни на этой планете. И мы в него не входим, мы ему явно не нужны. У него будет много возможностей нас уничтожить. Например, подсунуть нам что-нибудь в геном, создать саранчу, которая будет плодиться со страшной силой, «поработать» с электричеством. Проблема в том, что мы можем про это не узнать. Сейчас перед нами встал вопрос времен античности: мы кто такие и зачем сюда попали?
Если представить, что мы – сборище нейронов, и внутри нас – прекрасная программа, какая может быть свобода воли? Это значит, что никто ни в чем не виноват. В мире уже случались судебные процессы, где обвиняемый говорил: «Это не я, это мой мозг». Это разрушает базис нашей цивилизации: разве я виноват, что родился таким дураком или преступником? На эту тему нейрохирург Войно-Ясенецкий сказал так: «Я много оперировал на мозге и, открывая черепную коробку, никогда не видел там ума. И совести там тоже не находил». Это та же история, что с Гагариным. Когда он вернулся из космоса, атеисты его спросили, видел ли он Бога. Он сказал, что не видел. Они сделали вывод, что Бога нет. На самом деле из того, что мы чего-то не видим, ничего не следует.
У нас в голове находится сложнейшая нейронная сеть. Она протянулась на 2,8 миллионов километров. Этого достаточно, чтобы 68 раз облететь Землю или семь раз слетать на Луну. Эти ниточки находятся в голове каждого человека, не только Эйнштейна или Бетховена. Нейроны могут иметь от 50 до ста тысяч связей с другими частями мозга. При этом нейроны уложены в специальные клетки, которых в десять раз больше. Я не знаю, есть ли в языке слова, которые обозначают эти величины.
Похоже, что люди – единственные существа, которые живут не в одном мире. Первый – это мир физических объектов, который нас окружает. Второй – знаковый. Это особый мир, который мы сами придумываем. Он не состоит из атомов и порождается нашей психикой.
Человек – единственное существо, которое разгадывает законы Вселенной. Но ведь она и так знает, как ей жить. Точно так же, как атомы и планеты знают, как им вращаться. Все законы природы действуют без человеческого участия. Тогда зачем мы ей понадобились?
Мы живем в другой цивилизации. Не стоит делать вид, что она где-то в будущем. Мы внутри нее живем, и она меняется с огромной скоростью. Наш мир уже не тот, в котором мы жили, например, пять лет назад. Он невероятно быстрый, прозрачный, мерцающий. Это необратимо, и имеет глобальное значение. Этот мир опасен. Мы должны выбрать между свободой и безопасностью. Это трудный выбор. Может, и удастся совместить одно с другим. Мне удобно, что с телефона я могу зайти в библиотеку Конгресса, но тот же телефон говорит кому надо, с кем я вчера обедала и что ела.
Мир стал нечеловекомерен. Появились величины и пространства, в которых человек не живет. Мы, например, не живем в наносекундах и нанометрах. В них вообще живые не живут. Но между тем нано – активный игрок нашей цивилизации. Значит, нам нужно договариваться, как не потерять базовые представления о реальности и контроль над нею.
Новый мир неизбежно ведет к пересмотру базовых этических норм, ценностей и смыслов. Категории права и морали внутри цифрового мира имеют совершенно иные конфигурации. Мы не сможем переварить эту цивилизацию, если у нас не будет мощных внутренних ориентиров. Например, у беспилотной машины есть выбор, сбить пять человек или одного. Значит, в нее надо заложить моральные категории. Но как это сделать и кто примет решение?
Мозг не умеет не учиться. Но учится он не так, как мы учим детей. Предположим, я – лингвист и хочу узнать, где внутри мозга расположены существительные, а где – глаголы. Я никогда этого не узнаю, если открою черепную коробку. Да и вообще, есть ли глаголы? Видел их кто-то живьем? А существительные? Но раз есть пациенты, которые после инсульта забыли глаголы, но помнят существительные, это доказывает, что такие категории в мозге существуют. Если бы мы узнали, как мозг на самом деле работает с информацией, это бы перевернуло всю систему образования.
Справка:
Татьяна Черниговская – заведующая кафедры проблем конвергенции естественных и гуманитарных наук и Лабораторией когнитивных исследований, доктор, профессор кафедры общего языкознания, член Совета программы «Свободные искусства и науки» Санкт-Петербургского государственного университета, доктор биологических и филологических наук.