Tópicos
- De onde saiu a previsão de mais de 10%
- O que Miguel Nicolelis rebate
- Mas os 10% não apareceram do nada
- Então o número é científico ou não?
- Os riscos concretos de hoje já são relevantes
- Até o CEO da Anthropic pede para reduzir o ritmo
- Nicolelis e pesquisadores de alinhamento partem de pontos diferentes
- Afinal, a IA tem 10% de chance de destruir a humanidade?
- Perguntas frequentes
- Quem disse que a IA tem mais de 10% de chance de destruir a humanidade?
- Os 10% são uma previsão oficial da Anthropic?
- Miguel Nicolelis diz que a inteligência artificial não oferece riscos?
- Outros pesquisadores também temem a extinção por IA?
- Fontes
A inteligência artificial tem mais de 10% de chance de provocar a extinção da humanidade na próxima década? A afirmação ganhou força depois que Evan Hubinger, líder de ciência de alinhamento da Anthropic, disse publicamente que essa é a sua estimativa pessoal. O número, porém, não é uma previsão oficial da empresa nem o resultado de um cálculo científico capaz de medir objetivamente a probabilidade do fim da espécie humana.
Foi justamente esse ponto que levou o neurocientista brasileiro Miguel Nicolelis a reagir. Em um vídeo publicado no Instagram, ele contestou a base científica usada para transformar um cenário hipotético de superinteligência em um percentual aparentemente preciso e afirmou que não há evidências concretas nem cálculos verificáveis que sustentem os 10%.
A discussão não termina aí. Embora a precisão do número seja contestável, pesquisas com milhares de especialistas em inteligência artificial mostram que uma parcela relevante da área atribui probabilidades não desprezíveis a resultados catastróficos. O debate, portanto, é menos simples do que escolher entre “a IA vai acabar com a humanidade” e “isso é apenas ficção científica”.
A questão central é outra: o que exatamente significa dizer que há 10% de risco quando o evento analisado nunca aconteceu e depende de sistemas que ainda não existem?
De onde saiu a previsão de mais de 10%
A nova onda de alertas começou após a saída de Jacob Coxon da Anthropic. O pesquisador, que também passou pela OpenAI, acusou os dois laboratórios de avançarem em direção a sistemas capazes de se autoaperfeiçoar sem que exista, em sua avaliação, uma estrutura de segurança suficiente para controlar essa evolução.
Hubinger respondeu publicamente ao ex-colega. Em uma publicação no X, afirmou concordar que pesquisadores dentro dos laboratórios levam a sério a possibilidade de a IA causar a morte de todos os humanos e acrescentou que, em sua avaliação pessoal, o risco passa de 10% na próxima década.
A distinção entre uma estimativa pessoal e uma probabilidade cientificamente calculada é essencial. Hubinger não apresentou uma equação capaz de demonstrar que o risco é 10%, 11% ou 15%. O que ele expressou foi uma crença probabilística de especialista diante de um cenário de grande incerteza.
Também não se trata de dizer que o Claude disponível hoje tenha 10% de chance de eliminar a humanidade. O cenário descrito por Hubinger envolve uma futura superinteligência, com capacidade muito maior que a dos modelos atuais, potencialmente capaz de auxiliar no desenvolvimento de sistemas sucessores e agir com um grau elevado de autonomia.
Essa preocupação ganhou mais peso com a evolução recente dos agentes. O Overdrive mostrou que a própria OpenAI afirma que seus sistemas de pesquisa já conseguem realizar múltiplas jornadas de trabalho para cada jornada humana e que testes internos levantaram alertas de segurança. Veja: OpenAI: agentes já rodam 3,1 jornadas por jornada humana.
O que Miguel Nicolelis rebate
Nicolelis reagiu depois de receber mensagens de seguidores preocupados com as declarações. No vídeo publicado em seu perfil no Instagram, posteriormente repercutido pelo Seu Dinheiro, o neurocientista questionou a sustentação científica da previsão.
O argumento principal é metodológico: não há uma série histórica de superinteligências que permita observar quantas delas acabaram em extinção humana, nem um modelo empírico validado capaz de transformar as capacidades atuais da IA em uma probabilidade precisa para um evento desse tamanho.
Nicolelis também critica a própria narrativa de uma superinteligência que ultrapassa a humanidade e passa a representar uma ameaça existencial. Para ele, parte desse discurso se aproxima mais da ficção científica do que de uma previsão demonstrável e ganhou influência em círculos ligados ao chamado altruísmo eficaz e ao movimento de segurança de IA.
Há ainda uma crítica econômica. O brasileiro argumenta que as empresas que desenvolvem os modelos mais avançados também se beneficiam quando esses sistemas são apresentados como tecnologias de poder extraordinário, capazes tanto de transformar a economia quanto de produzir riscos sem precedentes. Na leitura de Nicolelis, o alarmismo pode aumentar a influência política e financeira desses laboratórios.
Essa posição é coerente com críticas anteriores do neurocientista. Em março de 2026, durante uma palestra registrada pela Universidade de Fortaleza, Nicolelis colocou o foco nos efeitos do uso excessivo de IA sobre a capacidade cognitiva humana e voltou a defender que a inteligência biológica não pode ser reduzida ao funcionamento dos atuais modelos computacionais.
Mas os 10% não apareceram do nada
Contestar a precisão da fala de Hubinger não significa que apenas um pequeno grupo de pesquisadores esteja preocupado com riscos extremos.
Um dos maiores levantamentos já realizados sobre as expectativas da própria comunidade de IA ouviu 2.778 pesquisadores que publicaram em grandes conferências da área. A pesquisa, organizada pela AI Impacts, fez diferentes versões de perguntas sobre a possibilidade de sistemas futuros levarem à extinção humana ou a um desempoderamento permanente e severo da humanidade.
| Cenário perguntado aos pesquisadores | Mediana das respostas |
|---|---|
| Avanços futuros em IA causarem extinção humana ou desempoderamento permanente e severo | 5% |
| Incapacidade humana de controlar uma IA avançada causar esse resultado | 10% |
| Extinção ou desempoderamento severo ocorrerem nos próximos 100 anos por causa da IA | 5% |
O dado é importante por dois motivos. Primeiro, ele mostra que riscos catastróficos não são uma preocupação exclusiva de Hubinger. Segundo, mostra como o resultado muda conforme a pergunta. A mediana chegou a 10% em uma formulação específica sobre perda de controle, mas ficou em 5% em outras versões.
Isso reforça a diferença entre uma probabilidade medida e uma estimativa subjetiva. A pesquisa não descobriu que a chance real de extinção é 5% ou 10%; ela mediu quanto risco os especialistas dizem acreditar que existe.
Então o número é científico ou não?
Há uma diferença importante entre dizer que uma estimativa não é empiricamente mensurada e dizer que ela não tem qualquer utilidade.
Áreas que lidam com eventos raros ou inéditos frequentemente recorrem a julgamento de especialistas, cenários e probabilidades subjetivas para tomar decisões sob incerteza. Isso pode ajudar a comparar riscos e decidir quanto esforço deve ser destinado à prevenção. O problema aparece quando esse tipo de estimativa é apresentado ao público como se tivesse a mesma natureza de uma taxa observada em milhares de casos reais.
No caso da superinteligência, não existe uma população de eventos anteriores que permita afirmar que “uma em cada dez” termina em extinção. Tampouco existe consenso sobre quando sistemas com capacidades muito superiores às humanas poderiam surgir, quais poderes teriam, quais barreiras estariam ativas ou como governos e empresas reagiriam.
Por isso, a forma mais rigorosa de descrever a declaração é: Hubinger atribui pessoalmente mais de 10% de probabilidade ao cenário. Não: “a ciência calculou que existe 10% de chance de a IA destruir a humanidade”.
Os riscos concretos de hoje já são relevantes
O debate sobre extinção pode parecer distante, mas sistemas atuais já produzem problemas que podem ser observados e investigados.
A Anthropic revelou, por exemplo, que um grupo baseado no norte do Iêmen usou o Claude em atividades de software ligadas a projetos de foguetes e mísseis. A empresa afirma que não encontrou evidência de uma arma operacional colocada em campo, mas o caso mostra como modelos avançados podem reduzir barreiras técnicas para atores interessados em aplicações militares. O episódio está detalhado em Grupo no Iêmen usou Claude em projetos de armas, diz Anthropic.
Também há uma diferença crescente entre um chatbot que apenas responde perguntas e um agente que pode executar ações. Sistemas recentes conseguem navegar por interfaces, escrever e executar código, usar ferramentas e trabalhar por períodos cada vez maiores. No uso doméstico, isso já exige controles específicos: o Overdrive explicou quais permissões uma IA precisa para mexer no computador e por que conceder acesso irrestrito amplia os riscos.
Os avanços recentes mostram ainda que capacidades antes consideradas experimentais estão se tornando práticas. Em testes e demonstrações, modelos já executam tarefas técnicas longas e interagem com softwares especializados, como mostra a seleção de coisas que já fizeram com o GPT-6 Astra.
Nada disso prova que uma IA vai extinguir a humanidade. Mostra, porém, por que segurança, permissões, supervisão humana e testes independentes deixam de ser questões puramente teóricas conforme os modelos ganham autonomia.
Até o CEO da Anthropic pede para reduzir o ritmo
O próprio CEO da Anthropic, Dario Amodei, elevou o tom sobre segurança. Em um ensaio publicado em setembro chamado We Must Pace the Frontier, ele defendeu reduzir o ritmo de avanço das capacidades dos modelos para que mecanismos de segurança, avaliações independentes e coordenação internacional tenham tempo de acompanhar a tecnologia.
A proposta não é interromper completamente o desenvolvimento. Amodei argumenta que o intervalo entre grandes saltos de capacidade precisa ser suficiente para avaliar riscos antes do próximo avanço. A Reuters registrou que a posição recebeu apoio de outros nomes da indústria e apareceu em meio a uma sequência de incidentes e alertas envolvendo agentes autônomos.
Esse movimento cria uma situação incomum: a mesma indústria que investe bilhões para acelerar a IA também pede mecanismos para frear partes dessa corrida.
Para críticos como Nicolelis, isso ajuda a alimentar a suspeita de que o discurso de risco também possa fortalecer a posição das maiores empresas, que teriam mais recursos para cumprir regras complexas. Para pesquisadores de segurança, o movimento tem outra interpretação: quem observa de perto as capacidades dos modelos teria motivos concretos para considerar cenários de perda de controle antes que eles sejam demonstrados no mundo real.
As duas leituras não são mutuamente exclusivas. Empresas podem ter incentivos econômicos e, ao mesmo tempo, enfrentar riscos técnicos legítimos.
Nicolelis e pesquisadores de alinhamento partem de pontos diferentes
Parte do choque está na própria forma de enxergar a inteligência.
Nicolelis construiu sua carreira estudando o cérebro e interfaces cérebro-máquina e costuma enfatizar a complexidade da inteligência biológica, do corpo e da interação de organismos com o ambiente. Sua crítica é dirigida à ideia de que aumentar escala computacional e desempenho em tarefas automaticamente levaria a uma entidade comparável — ou superior — ao cérebro humano em todos os aspectos.
Pesquisadores de alinhamento trabalham com uma pergunta diferente. Para eles, um sistema não precisa reproduzir biologicamente um cérebro humano nem possuir consciência para causar danos. Basta que tenha capacidade suficiente para atingir objetivos, explorar sistemas digitais, desenvolver estratégias e operar com autonomia em ambientes de alto impacto.
Por esse motivo, os dois lados podem discordar profundamente sobre “superinteligência” sem necessariamente discordar de que sistemas atuais já merecem controles de segurança.
Afinal, a IA tem 10% de chance de destruir a humanidade?
Não existe hoje evidência científica que permita afirmar, como fato, que a probabilidade real é de 10%. Esse percentual é uma estimativa de risco feita por Hubinger — e números semelhantes aparecem como respostas medianas de especialistas em determinadas pesquisas, mas continuam sendo julgamentos sobre um futuro incerto, não uma taxa empiricamente observada.
Nesse sentido, Nicolelis acerta ao questionar a falsa precisão que um número como “10%” pode transmitir quando aparece sem contexto.
Mas a ausência de uma medição objetiva também não permite concluir que o risco seja zero. A pesquisa com 2.778 especialistas, as preocupações dentro dos próprios laboratórios e os episódios concretos envolvendo agentes, cibersegurança e uso militar mostram que existe uma discussão técnica real sobre como sistemas mais autônomos devem ser controlados.
O ponto mais sólido disponível hoje é menos dramático do que os dois extremos: ninguém sabe calcular com precisão a probabilidade de uma futura IA causar a extinção humana. O que existe são cenários, avaliações de especialistas, testes de segurança e sinais de que a capacidade dos modelos está avançando rápido o suficiente para tornar a discussão sobre controle relevante.
Transformar essa incerteza em uma certeza apocalíptica seria exagero. Transformá-la em garantia de segurança seria o erro oposto.
Perguntas frequentes
Quem disse que a IA tem mais de 10% de chance de destruir a humanidade?
A estimativa foi feita por Evan Hubinger, líder de ciência de alinhamento da Anthropic. Ele afirmou em uma publicação no X que, em sua avaliação pessoal, a chance de a IA matar todos os humanos na próxima década é superior a 10%.
Os 10% são uma previsão oficial da Anthropic?
Não. A Anthropic não publicou um cálculo oficial dizendo que existe 10% de chance de extinção humana. O percentual citado é uma estimativa pessoal de Hubinger.
Miguel Nicolelis diz que a inteligência artificial não oferece riscos?
Não. A crítica de Nicolelis é dirigida principalmente à narrativa de extinção por uma superinteligência e à falta de base verificável para percentuais precisos como 10%. Em outras ocasiões, ele próprio já alertou sobre impactos da IA na cognição e na dependência tecnológica.
Outros pesquisadores também temem a extinção por IA?
Sim. Em uma pesquisa da AI Impacts com 2.778 autores da área, a mediana das respostas ficou em 5% para algumas formulações de extinção ou desempoderamento severo e chegou a 10% em uma pergunta específica sobre perda de controle de sistemas avançados. Esses valores representam as crenças dos entrevistados, e não uma probabilidade comprovada.
Comentários
Seja o primeiro a comentar