Искусственный интеллект за шесть часов сгенерировал 40 тысяч ядов
Ученые из компании Collaborations Pharmaceuticals, специализирующейся на поиске новых лекарственных средств, научили искусственный интеллект создавать яды. Всего за шесть часов работы система выдала более 40 тысяч соединений.
Команда ученых в рамках эксперимента запустила систему искусственного интеллекта MegaSyn не в обычном режиме работы, который заключается в выявлении токсичных молекул, а в обратном. Система не удаляла токсичные молекулы, а сохраняла их. Кроме того, она соединяла их в комбинации.
Искусственный интеллект прошел обучение на базах данных молекул, похожих на наркотические вещества. Ученые указали, что хотели бы получить нечто похожее на сильнодействующее нервно-паралитическое вещество VX – самое токсичное из когда-либо созданных.
В результате многие из сгенерированных искусственным интеллектом соединений оказались даже более опасны, чем VX. Авторы решили не выкладывать их формулы в общий доступ.
«Изменив использование наших моделей машинного обучения, мы превратили нашу безобидную генеративную модель из полезного медицинского инструмента в генератор потенциально смертельных молекул», – подчеркнули ученые.
Авторы подчеркнули, что ни одно из веществ не было создано или исследовано в лаборатории. Однако эксперимент «служит предупреждением об опасностях искусственного интеллекта», сообщает Nature Machine Intelligence.
Ранее чат-бот ChaosGPT заявил о желании уничтожить человечество. Он планировал использовать ядерное оружие.