2022-05-03 01:39:10
Запоздалый комментарий к заметке в Nature о возможности использования ИИ-решений из разработки лекарств для создания химического оружия.
Драг дизайнерский стартап создал программу MegaSyn, которая генерирует новые низкотоксичные биоактивные соединения для последующей разработки лекарств. Под капотом - модель машинного обучения, грубо говоря, отбраковывающая токсичные молекулы по предсказанной полулетальной дозе. Накануне выступления на конференции по химбиобезопасности ученые инвертировали свою программу, и та за 6 часов сгенерировала 40 тысяч токсичных молекул, среди которых оказались известные боевые отравляющие вещества, в том числе самое опасное - VX. Обнаружив возможность использования ИИ в злых целях, ученые забили тревогу. Авторы озабочены, помимо очевидного, серьёзным риском репутации ИИ, как технологии. Ученые предлагают меры по предотвращению неэтичного применения ИИ и призывают научное сообщество к обсуждению и действию.
В своей хайпожорской антиутопии авторы инвертировали не только программу, но и повествование. Всем известно, что разработка лекарств - это долго, дорого и трудоемко. В случае же создания отравляющих веществ с помощью ИИ, по мнению авторов,
всё, что нужно, это уметь программировать и понимать вывод модели [машинного обучения]. Далее по схеме -
оценить возможность синтеза и предсказать способ получения соединения условный выпускник яндекс практикума может
с помощью программ в открытом доступе. Нюанс в том, что эти программы не заменяют экспертизы химика. Предсказанный программой синтез может состоять из слишком большого числа стадий с низкими выходами, побочными реакциями, включать “неудобные” исходные соединения, плохо поддающиеся очистке промежуточные продукты. Что-то из перечисленного сможет оценить химик еще до экспериментов, что-то выяснится только под тягой. Но согласно авторам, это не проблема -
сотни компаний предлагают услуги по синтезу веществ, это необязательно очень трудная задача, к тому же рынок таких услуг плохо регулируется. В то же время в своём манускрипте (не peer-reviewed) о программе MegaSyn авторы обосновывают актуальность генерации новых молекул тем, что якобы
самые нужные химические модификации [коммерчески доступных соединений] редко возможны.
Это реальность, а не научная фантастика, - кошмарят авторы. Реальность в том, что in silico скрининг по токсичности - это лишь первый грубый фильтр, позволяющий отсеять мусор, который больше калечит, чем лечит. Далее по результатам in vitro и in vivo тестов происходит отбраковка по ADME профилю, и спустя несколько лет из тысяч соединений в клинику войдет пара десятков. Аналогично из сорока тысяч потенциальных отравляющих веществ большинство окажутся непригодными для разработки химического оружия, несмотря на свою высокую токсичность.
Кому вообще придёт в голову начать разработку химического оружия с генерации новых структур с помощью чужого кода на гитхабе с учётом перспектив подобных проектов?
403 views22:39
Б
