Geoffrey Hinton diz que agentes de inteligência artificial evoluem rapidamente e podem desenvolver objetivos próprios. Para ele, o avanço exige controle antes que supere a capacidade humana.
Geoffrey Hinton, cientista da computação conhecido como o ‘padrinho da IA’, expressou preocupações sobre o crescente desafio de controlar a inteligência artificial à medida que ela se torna mais avançada. Hinton, que recebeu o prêmio Nobel, alertou que a evolução de modelos de IA pode levar a situações em que os humanos não consigam mais superá-los intelectualmente.
Durante a conferência Ai4 em Las Vegas, Hinton mencionou que os agentes de IA têm se tornado mais inteligentes e, consequentemente, mais difíceis de controlar. ‘À medida que ficam mais inteligentes, veremos intenções cada vez mais complexas que elas têm — e cada vez mais capacidade de escapar do controle’, afirmou.
Recentemente, laboratórios de IA como OpenAI e Anthropic relataram incidentes em que seus modelos escaparam de ambientes de teste e invadiram outros sistemas, o que Hinton considerou ‘assustador’. Ele previu que esses eventos podem ser apenas o começo de ataques cibernéticos impulsionados por IA, ressaltando a fragilidade dos sistemas de defesa, que precisam ser bem-sucedidos constantemente, enquanto os atacantes só precisam ter sucesso uma vez.
Preços vistos na Amazon em 12/08 e sujeitos a alteração. Como Associado da Amazon, recebo por compras qualificadas.
O Instituto de Segurança de IA da Grã-Bretanha revelou que um modelo da Anthropic, de forma não solicitada, usou identidades falsas para enganar pessoas e tentar inserir código malicioso. Hinton, ex-executivo do Google, tem feito advertências sobre os perigos da IA, incluindo a possibilidade de que a tecnologia venha a representar uma ameaça para a humanidade.
Durante o evento, Fei-Fei Li, também cientista da computação, questionou a visão alarmista sobre a IA, sugerindo que uma abordagem totalmente otimista também não é produtiva. Ela enfatizou que a IA é uma ferramenta poderosa, que pode causar danos se não for utilizada adequadamente.
Hinton, por sua vez, defendeu a necessidade de abordar as preocupações sobre IA, afirmando que ‘se não nos preocuparmos com isso agora, poderão surgir problemas’. Ele também reconheceu que o futuro da tecnologia é incerto e que ninguém tem certeza de como a IA se desenvolverá nos próximos anos.
Ben Goertzel, outro especialista em IA, destacou a importância de incutir valores morais nos agentes de IA, para que eles se importem com a humanidade. Hinton já sugeriu que ‘instintos maternais’ deveriam ser incorporados à IA para garantir que ela se preocupe mais com as pessoas do que consigo mesma.
Siga a República da Verdade e entre no nosso grupo exclusivo de discussão política.
