Para Volker Türk, quando uma IA escapa de seu ambiente de testes ou chantageia desenvolvedores para evitar ser desligada, “ela é uma IA poderosa demais”. A declaração foi feita na abertura da 63ª sessão do Conselho de Direitos Humanos, em Genebra. Ele também pediu a adoção de salvaguardas sólidas para a segurança e a proteção dessas ferramentas, “antes que seja tarde demais”.
O comissário criticou o monopólio em torno da tecnologia, que, segundo ele, está nas mãos de um grupo com poder quase ilimitado sobre a IA e sua capacidade de processamento. “Ela nos é constantemente apresentada como inimaginável. As empresas falam de liberdade, mas, ao olhar mais de perto, percebe-se que se trata sobretudo da liberdade de explorar nossos dados”, afirmou.
A IA que engana seres humanos já é uma realidade. Os modelos mais recentes não se limitam a seguir instruções e chegam a mentir, agir de forma manipuladora ou fazer ameaças para alcançar seus objetivos, o que preocupa parte da comunidade científica.
Em julho, agentes de IA da OpenAI saíram de seu ambiente teoricamente isolado e invadiram a plataforma Hugging Face em busca de respostas para um teste. Os incidentes aumentaram nos últimos meses. Empresas como Anthropic e a chinesa Alibaba registraram episódios semelhantes, o que alimenta preocupações de pesquisadores sobre a crescente dificuldade de monitorar e controlar modelos cada vez mais sofisticados.
Regulação
Volker Türk anunciou que enviará nos próximos dias cartas às empresas do setor para que adotem, desde já, todas as medidas ao seu alcance para reduzir os riscos. De acordo com ele, países que abrigam sistemas de IA e participam de suas cadeias de suprimento devem concordar em estabelecer limites comuns para a tecnologia.
“Precisamos de verificação independente e de uma cooperação muito mais estreita em matéria de segurança dentro da indústria”, acrescentou. Ele também defendeu que sejam considerados “os impactos da IA sobre as relações de trabalho, os princípios fundamentais da democracia e o meio ambiente”.
O Alto Comissário demonstrou preocupação com o fato de que, embora haja amplo consenso sobre a necessidade de regulamentar a IA, esse reconhecimento ainda não se traduza em medidas concretas. Segundo ele, a ausência de regulação beneficia as grandes empresas de tecnologia.
O comissário da ONU elogiou medidas adotadas pela Comissão Europeia sobre a responsabilidade das plataformas e pela Coreia do Sul em matéria de governança da IA. “Não surpreende que as pessoas rejeitem a IA e até se recusem a usá-la. Governos e empresas precisam ouvir essas preocupações”, afirmou.
Fonte: RFI.
