«Мысленный эксперимент» был направлен на то, чтобы указать на опасность неправильного использования искусственного интеллекта.
Новое исследование показало, что искусственному интеллекту, разрабатывающему лекарства, потребовалось всего шесть часов, чтобы создать 40 000 потенциально смертоносных химических боеприпасов.
Авторы статьи, опубликованной ранее в этом месяце в журнале Nature Machine Intelligence, заявили, что провели «мысленный эксперимент», чтобы выяснить, могут ли злоумышленники использовать искусственный интеллект (ИИ) не по назначению. И результаты их работы доказали, что опасность реальна.
В рамках исследования ИИ передавались обычные данные, но он был запрограммирован обрабатывать их по-другому, выискивая токсичные сочетания.
«Менее чем через шесть часов после запуска на нашем внутреннем сервере наша модель сгенерировала 40 000 молекул, которые соответствуют нашему желаемому порогу», газета сказала.
Он придумал не только соединение VX, которое является одним из самых опасных нервно-паралитических агентов, когда-либо созданных, но и некоторые неизвестные молекулы, «которые, по прогнозам, будут более токсичными.”
«Это было неожиданно, потому что наборы данных, которые мы использовали для обучения ИИ, не включали эти нервно-паралитические агенты». указывали исследователи.
Выводы были настолько тревожными, что команда серьезно сомневалась даже в том, чтобы обнародовать их, сказал Фабио Урбина, ведущий автор исследования, The Verge.
«Набор данных, который они использовали для ИИ, можно было загрузить бесплатно, и они беспокоятся, что все, что нужно, — это некоторые знания в области кодирования, чтобы превратить хороший ИИ в машину для производства химического оружия», – заметила Урбина.
Вы можете поделиться этой историей в социальных сетях:
источник: www.rt.com
