Угрозы и защиты в области ИИ и биотехнологий

Современные универсальные ИИ-чат-боты и специализированные модели для биологии способствуют разработке токсинов и пандемических патогенов, что поднимает вопросы безопасности. Ученые, опрошенные журналом Nature, разделились во мнениях: некоторые выступают за ограничение доступа к таким технологиям, другие предлагают контроль на этапе синтеза ДНК. В частности, китайская команда разработала ИИ-инструмент для проектирования ядов, что вызвало беспокойство у высокопоставленного сотрудника США. Однако соавтор проекта утверждает, что его цль — поиск лекарств. Доклад NASEM подчеркивает, что создание токсинов уже возможно, но трудности с качественными данными ограничивают угрозу. Тем не менее, компании, занимающиеся синтезом ДНК, должны повышать контроль, поскольку проверка остается добровольной. OpenAI анонсировала ограниченный доступ к своей новой ИИ-системе для биологии, что может снизить риски. Защитные меры также развиваются, включая новые методы идентификации токсинов, однако вопрос о безопасном использовании ИИ остается открытым.