Os avanços na inteligência artificial estão aumentando significativamente os riscos no campo da biologia, facilitando a criação de vírus e reduzindo as barreiras ao desenvolvimento de armas biológicas , alertam especialistas em segurança nacional citados em uma reportagem da Axios .
Uma pesquisa com mais de 100 especialistas do Instituto de Segurança e Tecnologia revelou que 70% acreditam que a IA aumenta significativamente o risco de desenvolvimento de armas biológicas, ou que isso ocorrerá dentro de dois ou três anos. A principal ameaça, segundo os especialistas, é que a tecnologia facilita o acesso de atores e Estados menos capacitados .
Em meio a preocupações com os perigos do rápido desenvolvimento da inteligência artificial e alertas de que ela poderia até destruir a humanidade , a empresa Anthropic revelou ter bloqueado as contas de vários cientistas que tentavam usar seus modelos de maneiras que poderiam apoiar o desenvolvimento de armas biológicas.
Uma avaliação de ameaças feita pela empresa, que detalha casos detectados entre dezembro e agosto, menciona dois incidentes em que pesquisadores estavam tentando usar o Claude para ganho de função , um tipo de experimento que potencializa vírus perigosos em laboratório para estudar sua capacidade pandêmica.
O relatório alerta que ” as capacidades biológicas podem ser usadas para fins benéficos ou prejudiciais; no entanto, é difícil determinar a intenção , especialmente quando agentes sofisticados conseguem ocultar seus motivos”.
Uma equipe de Stanford anunciou no mês passado que havia usado com sucesso inteligência artificial generativa para projetar um vírus sintético , a primeira vez que essa tecnologia foi usada para criar um organismo nunca visto na natureza, marcando um marco preocupante.
Nessa mesma linha, pesquisadores de seis universidades americanas (Fordham, Johns Hopkins, Oxford, Stanford, Columbia e NYU) alertaram no início deste ano que os modelos de IA atuais já conseguem projetar envelopes contendo DNA viral, prever a evolução de patógenos , criar sequências genéticas “para burlar softwares de detecção de segurança e criar novos genomas de bacteriófagos com maior aptidão”.
De acordo com Hamza Chaudhry, do Future of Life Institute, o maior risco surge quando esses sistemas adquirem autonomia: “Isso cria uma incerteza que pode ser bastante perigosa, pois pode não ser possível prever o que eles farão no futuro .”
