Fundador da Microsoft defende salvaguardas além da regulamentação e afirma que nunca houve uma tecnologia tão poderosa nas mãos de pessoas mal-intencionadas
Em entrevista neste domingo (27), Bill Gates alertou que a inteligência artificial pode causar 1 bilhão de mortes. Ele defende a regulamentação governamental da tecnologia. A pressão por regulação governamental cresceu após a OpenAI relatar, em julho, que um agente autônomo de IA saiu de controle e invadiu o sistema de outra empresa. Empresas concorrentes defendem desacelerar o setor, mas críticos como Donald Trump dizem que leis darão vantagem à China. Trump classificou os apelos por regulação como “farsa”.
Alertas de ex-pesquisadores estimam riscos de extinção humana pela tecnologia até o fim da década. Isso levou parlamentares americanos a proporem regras e um “botão de desativação”. Gates pretende se reunir com Trump para debater o assunto. Paralelamente, Estados Unidos e China concordaram em iniciar um diálogo bilateral sobre inteligência artificial.
A inteligência artificial é poderosa o suficiente para desencadear eventos que causem um bilhão de mortes, segundo o bilionário Bill Gates, fundador da Microsoft.
Em entrevista divulgada pela NBC News neste domingo (27), Gates alertou para os riscos de a IA cair nas mãos de pessoas mal-intencionadas e defendeu a adoção de medidas de segurança que vão além da regulamentação.
– A IA é certamente poderosa o suficiente para desencadear eventos que causem um bilhão de mortes – disse Gates. “Portanto, embora seja muito difícil chegar a 100% [da humanidade], nunca houve uma arma tão poderosa quanto a combinação de pessoas mal-intencionadas usando as mais recentes ferramentas de IA”.
A pressão por uma maior intervenção do governo ganhou força depois que a OpenAI afirmou, em julho, que um agente de IA autônomo saiu do controle durante um teste de segurança e invadiu o sistema de outra empresa, contornando mecanismos de supervisão humana.
Gates se juntou às vozes que defendem a participação do governo na criação de regras para a tecnologia. “Ninguém acha que a autorregulação seja suficiente”, disse ele.
Em uma rara demonstração de união, executivos de empresas concorrentes, como Anthropic, OpenAI, DeepMind, do Google, Microsoft e xAI, defenderam uma desaceleração no desenvolvimento de sistemas de inteligência artificial cada vez mais sofisticados.
O presidente dos Estados Unidos, Donald Trump, e outros críticos de novas regulamentações para a IA, no entanto, afirmam que restrições adicionais impostas pelo governo poderiam dar à China uma vantagem na corrida pelo desenvolvimento da tecnologia.
Trump já classificou publicamente os apelos por novas leis para a IA como uma “farsa”.
Gates argumentou que medidas de segurança não prejudicariam de forma significativa o setor e afirmou que os riscos de não adotá-las são reais. “Não é uma farsa”, disse ele à NBC.
O fundador da Microsoft também afirmou que pretende se reunir com Trump para discutir questões relacionadas à inteligência artificial.
– Espero que, dada a minha experiência de vida nesta área, o fato de eu dizer o quão singular e diferente isso é, e o quanto estou preocupado, contribua para o que ele está ouvindo de outras pessoas – disse Gates.
Os alertas sobre os riscos da inteligência artificial não são novos. O debate, porém, ganhou ainda mais urgência neste mês, depois que pesquisadores de importantes laboratórios de IA passaram a estabelecer prazos e estimativas de probabilidade para alguns desses cenários.
O ex-pesquisador da Anthropic Jacob Coxon alertou que a IA poderia matar toda a humanidade até o fim da década, levando parlamentares americanos a defender novas regras para regular a tecnologia.
Evan Hubinger, líder de ciência de alinhamento da Anthropic, reforçou o alerta de Coxon e afirmou que havia mais de 10% de chance de um evento desse tipo ocorrer na próxima década.
Alguns parlamentares propuseram a criação de um “botão de desativação” que permitiria às autoridades federais interromper modelos de inteligência artificial.
Gates afirmou que, embora não seja contrário a algum tipo de mecanismo desse tipo, ele não seria suficiente caso outras medidas de segurança também não fossem adotadas.
Nesta semana, Estados Unidos e China concordaram em iniciar um diálogo sobre inteligência artificial após a recente visita do presidente chinês, Xi Jinping, a Washington.
————————-
Por Redação g1 – SP
Com informações da Reuters
