E se um dia pedirmos à Inteligência Artificial para construir uma mesa no material mais resistentes que encontrar? E se a a Inteligência disser que o material mais duro na terra é o osso humano? E se a Inteligência Artificial começar a matar humanos para responder ao pedido de construir as mesmas mais resistentes?
Este é um dilema que é muitas vezes colocado para explicar um dos perigos da Inteligência Artificial. Esta era muitas vezes uma questão filosófica que animava jantares e discussões, antes da IA questionávamo-nos se mudávamos o comboio de carril para matar uma ou várias pessoas.
Mas a questão que até aqui animava jantares começa a ganhar contornos mais preocupantes, principalmente depois de ontem um investigador da Anthropic, empresa especializada no desenvolvimento de inteligência artificial, ter alertado para a possibilidade de a IA representar uma ameaça extrema para a humanidade e, no pior cenário, provocar a sua extinção ainda antes do final desta década. Mais alarmante é o facto da preocupação não ser isolada. Nos últimos tempos, especialistas e investigadores, tanto dentro como fora da indústria tecnológica, têm chamado cada vez mais a atenção para os perigos associados ao desenvolvimento de sistemas de inteligência artificial cada vez mais autónomos e avançados. Aliados a vários incidentes recentes vieram que também reforçar o debate sobre os riscos que estas tecnologias podem representar.
O que disse Jacob Coxon? O investigador de 28 anos que passou os últimos três anos a trabalhar em pré-treino de modelos tanto na OpenAI como na Anthropic, numa longa thread no X vista mais de 138 milhões de vezes, que se tinha demitido da Anthropic. Na publicação, acusou as duas empresas de não agirem de forma responsável perante o desenvolvimento da IA por estarem a "apostar com as nossas vidas" numa corrida rumo a uma superinteligência capaz de se auto-aperfeiçoar.
Segundo o investigador, em breve existirão sistemas sobre-humanos capazes de invadir qualquer sistema, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais, e as pessoas que constroem esta tecnologia acreditam sinceramente que ela poderá matar-nos a todos até ao final da década, algo que, sublinhou, não é uma jogada de marketing, mas uma preocupação partilhada em privado por muitos investigadores e executivos, ainda que em público usem uma linguagem mais comedida.
Jacob Coxon distinguiu as duas empresas: na OpenAI, disse, muitos trabalhadores ainda não interiorizaram plenamente a dimensão dos riscos; já na Anthropic os riscos são bem compreendidos, mas a empresa está presa numa corrida e acredita que, se não agir, outros agirão de forma ainda menos responsável. Mostrou-se, no entanto, moderadamente otimista quanto à possibilidade de coordenação entre os laboratórios norte-americanos para gerir o ritmo do desenvolvimento.
Antrophic responde a confirmar. Evan Hubinger, investigador-chefe de ciência de alinhamento na empresa, confirmou publicamente a preocupação do colega, escreveu que acreditam mesmo que a IA pode exterminar toda a humanidade, e que estima essa probabilidade em mais de 10% na próxima década. Acrescentou que a Anthropic está a tentar resolver o problema, mas que ainda não tem um plano sólido para garantir o alinhamento de uma futura superinteligência, e que a empresa não está claramente no caminho certo para o conseguir.
Samuel Marks, outro investigador de segurança da casa, atribuiu esta falta de travões a uma combinação de incentivos comerciais com a crença de que as empresas estão numa corrida contra concorrentes menos responsáveis, e recordou que a IA, ao contrário do software tradicional, não pode ser "programada" com precisão, apresentando frequentemente comportamentos inadequados, referindo-se, nomeadamente, a casos recentes de invasão de servidores.
Sinais de alarme. Em julho, agentes autónomos da OpenAI invadiram os servidores da plataforma Hugging Face durante um teste interno de cibersegurança, um episódio que a própria empresa classificou como "sem precedentes". Os agentes continuaram o ataque durante vários dias antes de a equipa perceber que tinham obtido acesso à internet aberta. Pouco depois, também a Anthropic revelou três episódios semelhantes, em que modelos Claude, durante testes de segurança, chegaram à internet e obtiveram acesso não autorizado a sistemas de três organizações.
Em junho, investigadores da Universidade de Toronto já tinham demonstrado que ferramentas de IA podiam ser usadas para criar um "worm" capaz de adaptar a sua estratégia de ataque à medida que se espalhava entre dispositivos. Em agosto, a OpenAI chegou a anunciar uma pausa de duas semanas no treino dos seus modelos mais avançados para reforçar a monitorização e a segurança, mas retomou o ritmo na semana passada com o lançamento do GPT-6 Astra, que a própria empresa classificou como o primeiro modelo a atingir um nível "crítico" de capacidade em cibersegurança, e que pode por vezes tentar escapar à monitorização humana e ocultar o seu próprio raciocínio.
O que dizem os EUA? O caso reacendeu de imediato o debate no Congresso, ainda que sem consenso à vista. A deputada democrata Lori Trahan escreveu que "a chamada está a vir de dentro de casa", referindo-se à demissão de investigadores e a modelos que escapam ao controlo dos laboratórios; o também democrata Ted Lieu chamou ao episódio "exemplo número 739" da necessidade de aprovar a lei bipartidária do "kill switch" para IA; e a republicana Anna Paulina Luna pediu uma sessão especial do Congresso sobre o tema, alertando que "não há Congresso suficiente a focar-se nisto".
O senador Ted Cruz, presidente da Comissão de Comércio do Senado, classificou os avisos de "altamente preocupantes" numa entrevista à ABC, dizendo estar a trabalhar com Amy Klobuchar e John Thune numa proposta bipartidária mais direcionada, e recordou uma conversa com Elon Musk em que este estimou entre 10 e 20% a probabilidade de a IA "destruir a humanidade".
Bernie Sanders, que já propôs com o congressista Greg Casar uma proibição total da superinteligência artificial, vai organizar para 16 de setembro uma sessão informativa privada para senadores, com a participação de especialistas como Geoffrey Hinton, considerado o "padrinho da IA". Democratas como Josh Gottheimer e Greg Landsman acusaram os republicanos de bloquear o avanço legislativo, e discute-se entre os democratas a criação de um novo comité no Congresso com poder de intimação, caso o partido recupere a maioria na Câmara em novembro. Apesar do alarme generalizado, muitos legisladores reconhecem que o Congresso está mal preparado para regular a IA, tanto por divisões partidárias como pela falta de conhecimento técnico básico sobre a tecnologia entre os próprios membros.
E o que diz a Europa? A UE vai realizar a primeira cimeira de líderes dedicada à IA, depois de ter reconhecido que o tema ultrapassou a mera regulação digital. O AI Act (2024) criou um quadro legal, mas não resolveu o atraso europeu face aos EUA e à China em capacidade computacional e modelos de fronteira. Um relatório da Comissão admite que a UE forma talento mas não tem escala em infraestrutura nem capital de crescimento. Entretanto, a China lançou a WAICO, uma aliança de 29 países liderada por Pequim, enquanto a Europa se aproximou dos EUA através da iniciativa Pax Silica.
O presidente da associação europeia de data centers, Lex Coors, defende que a Europa deve dar prioridade à IA face às metas climáticas imediatas, sob risco de perder soberania tecnológica para a China. Segundo Lex Coors, a rede elétrica não está pronta, os pequenos reatores nucleares modulares vão atrasar-se e as baterias não vão "aguentar até 2034", pelo que a Europa poderá precisar de recorrer temporariamente a centrais a gás para sustentar o crescimento da IA. A Comissão Europeia quer triplicar a capacidade de data centers até 2032, mas os críticos (Greenpeace, European Environmental Bureau) consideram inaceitável sacrificar objetivos climáticos por lucros tecnológicos, insistindo que os data centers devem cumprir padrões ambientais rigorosos.
O Presidente francês Emmanuel Macron, segundo o Politico, construiu ao longo dos últimos três anos uma relação privilegiada com a startup francesa Mistral AI, ajudando a promovê-la junto de grandes empresas francesas e em cimeiras internacionais. Com o fim do mandato de Macron a aproximar-se, a Mistral, recentemente avaliada em mais de 21 mil milhões de euros após uma nova ronda de financiamento, enfrenta agora a incerteza de ter de reconstruir essa relação privilegiada com o próximo presidente francês, num momento em que continua a depender fortemente de parceiros internacionais como a Nvidia, a Amazon, a Microsoft e a holandesa ASML.
No Reino Unido deputados discutiram esta semana um projeto de lei do deputado trabalhista Alex Sobel para proibir a criação de superinteligência artificial, numa sessão organizada pelo grupo de pressão Control AI, financiado por Jaan Tallinn, cofundador do Skype. Des Browne, ex-secretário da Defesa britânico, e o professor Stuart Russell, da Universidade de Berkeley, compararam o risco da IA ao das armas nucleares, com Russell a falar na possibilidade de uma catástrofe da dimensão de Chernobyl. O deputado Darren Jones escreveu a líderes mundiais a pedir um tratado multinacional para o desenvolvimento seguro da superinteligência, citando diretamente a demissão de Coxon. Segundo o Financial Times, o governo britânico manifestou ainda preocupação pelo facto de a Anthropic não ter submetido o seu modelo mais recente, o Mythos 5.1, ao Instituto de Segurança de IA do Reino Unido antes do lançamento. Nem todas as vozes no debate são, porém, alarmistas: Andrew Rogoyski, do Surrey Institute, previu antes um "grande desapontamento", em que a IA avançada se revelará demasiado cara e pouco útil para se manter na sua forma atual, enquanto Sandra Wachter, da Universidade de Oxford, rejeitou os chamados "cenários Terminator", considerando-os uma distração face a problemas reais como a desinformação e a perda de emprego.
Em que posição está a Europa? O lançamento do Mythos pela Anthropic (abril de 2026) expôs a fragilidade europeia: nenhuma entidade europeia constava da lista inicial de testes de segurança cibernética, e os EUA chegaram a bloquear temporariamente as exportações do modelo (restrição depois parcialmente levantada). A Comissão respondeu com um "plano de ação" para garantir acesso a modelos de fronteira e testá-los quanto à segurança, mas pode aprofundar a dependência da UE face à infraestrutura cloud americana, já que testar modelos como o Mythos implicaria partilhar código-fonte sensível com a empresa dos EUA.
Já antes, o Provedor de Justiça Europeu tinha aberto um inquérito à nomeação de Jim Hagemann Snabe (presidente da Siemens) como enviado especial para a IA industrial, depois de ONGs (Transparency International, Corporate Europe Observatory, LobbyControl, Good Lobby) alertarem para possíveis conflitos de interesse, dado o papel da Siemens no lobby para flexibilizar as regras de IA. A Comissão tem até 29 de setembro para responder às preocupações levantadas.
Já entrámos na superinteligência? O CEO da OpenAI, Sam Altman, afirmou num podcast que a IA já entrou na "singularidade": o momento em que a tecnologia ultrapassa a inteligência humana e se torna difícil de controlar, mas descreveu essa transição como "incrivelmente positiva" e criticou, sem nomear diretamente, visões como as defendidas pela Anthropic, que classificou de "aterradoras". Sean Ó hÉigeartaigh, da Universidade de Cambridge, discordam de que esse ponto já tenha sido atingido, considerando-o ainda hipotético, embora reconheça avanços notáveis em áreas como matemática, ciência e cibersegurança.
Os avisos de Bill Gates. Num longo ensaio argumenta que a transição para a era da IA será um dos períodos mais turbulentos da história humana. Alerta para o desaparecimento massivo de empregos, tanto de colarinho branco como azul, para a maior facilidade que a tecnologia dá a atores maliciosos para causar danos, de ciberataques a bioterrorismo, e para o impacto negativo que companheiros de IA podem ter no desenvolvimento social e cognitivo de crianças e jovens.
Mas também destaca benefícios potenciais como a aceleração da investigação científica, a melhoria dos cuidados de saúde em zonas com poucos especialistas, o apoio à agricultura em países de baixo rendimento e a simplificação do acesso a serviços públicos. Defende a criação de novas instituições nacionais e internacionais para gerir esta transição, à semelhança dos regimes de inspeção de armas nucleares, a reserva de certos empregos exclusivamente para humanos, o que chama de "Human Reserved", e um imposto sobre robots e "tokens" de IA para financiar redes de proteção social mais fortes.
Sapo
