O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, alertou nesta segunda-feira (7) para a necessidade de elaborar rapidamente mecanismos de governança da inteligência artificial (IA). Segundo ele, formas avançadas da tecnologia "podem representar um risco existencial para a humanidade". Para Volker Türk, quando uma IA escapa de seu ambiente de testes ou chantageia desenvolvedores para evitar ser desligada, "ela é uma IA poderosa demais". A declaração foi feita na abertura da 63ª sessão do Conselho de Direitos Humanos, em Genebra. Ele também pediu a adoção de salvaguardas sólidas para a segurança e a proteção dessas ferramentas, "antes que seja tarde demais". O comissário criticou o monopólio em torno da tecnologia, que, segundo ele, está nas mãos de um grupo com poder quase ilimitado sobre a IA e sua capacidade de processamento. "Ela nos é constantemente apresentada como inimaginável. As empresas falam de liberdade, mas, ao olhar mais de perto, percebe-se que se trata sobretudo da liberdade de explorar nossos dados", afirmou. A IA que engana seres humanos já é uma realidade. Os modelos mais recentes não se limitam a seguir instruções e chegam a mentir, agir de forma manipuladora ou fazer ameaças para alcançar seus objetivos, o que preocupa parte da comunidade científica.
Nenhum comentário:
Postar um comentário