Американская компания Anthropic, разработавшая чат-бот Claude, сообщила, что зафиксировала не менее пяти случаев использования её моделей искусственного интеллекта (ИИ) в исследованиях, которые могут быть связаны с разработкой биологического оружия.
В её отчете говорится, что, в частности, учёные пытались с помощью нейросети запланировать эксперимент по усилению воздействия вируса чикунгунья, адаптировать птичий грипп к организму млекопитающих и составить заявку на грант по преодолению иммунной защиты вирусами из рода ортопоксвирусов, вызывающими оспу. Кроме того, «работающий при поддержке государства» учёный хотел воспользоваться возможностями ИИ пытался для создания базы пептидов ядов и для «автоматического конвейера» для улучшения молекул ядов для более эффективного паралича или блокировки нервных импульсов. Ещё один запрос был связан с «перепроектированием токсина» для нацпрограммы.
Сообщается, что специалисты компании заблокировали учётные записи пользователей. При этом данные о том, каких стран были эти учёные и к каким научным учреждениям принадлежат, компания раскрывать не стала. Anthropic обратила внимание, что достоверных данных о том, что учёные намеревались причинить вред нет, но публикация информации об учёных или лабораториях может подвергнуть их опасности.
Ранее Билл Гейтс назвал искусственный интеллект самым опасным инструментом из когда-либо созданных человечеством.
