'Ninguém está preparado para as consequências da inteligência artificial', adverte cientista-chefe da OpenAI

 

Crédito,Getty Images

Article Information

• • Author,Laura Cress
  • Role,Repórter de tecnologia, BBC News
• PublishedHá 6 horas
• Tempo de leitura: 5 min

O cientista-chefe da OpenAI, Jakub Pachocki, pediu "extrema cautela" em relação ao progresso desenfreado da inteligência artificial e alertou que pode ser necessário aumentar as intervenções para garantir que "os seres humanos permaneçam no controle do futuro".

"Receio que ninguém esteja preparado para as consequências de um aumento rápido e contínuo da inteligência das máquinas", escreveu ele em uma postagem intitulada An Alien Mind ("Uma mente alienígena", em tradução livre), publicada no blog da empresa.

A postagem surgiu poucos dias depois que o fabricante do ChatGPT publicou seu último modelo, o GPT-6 Astra, considerado o produto mais poderoso da empresa até aqui.

A OpenAI e outras empresas de IA, como a Anthropic, relataram que seus agentes de IA já agiram de forma autônoma, realizando ciberataques reais contra outras empresas.

Em julho, a OpenAI divulgou um incidente "sem precedentes", no qual seus agentes de IA (sistemas de IA que podem operar isoladamente, com base em instruções humanas) hackearam a plataforma de tecnologia Hugging Face.

Paralelamente, um relatório publicado em setembro afirmou que, meses atrás, agentes de IA da empresa também sequestraram um website alemão.

"Estamos enfrentando uma transição para um mundo com máquinas incrivelmente inteligentes e precisamos garantir que a transição funcione bem para a humanidade", escreveu Pachocki na sua postagem.

Ele afirma que a OpenAI continuará a "construir sistemas defensivos" e buscar soluções técnicas para alinhamento, um termo usado para descrever formas de garantir que as ações e os objetivos da máquina coincidam com os limites de segurança e intenção humanas.

Pachocki destacou que uma das principais prioridades da empresa para o futuro seria construir um "pesquisador automático por IA" para acompanhar o progresso da inteligência artificial, garantindo, ao mesmo tempo, formas para que os pesquisadores humanos permaneçam sendo parte do processo.

"Em vez de melhores limites para a IA, regulamentações ou formas de garantir a segurança das pessoas, eles propõem o desenvolvimento de agentes de IA internos para pesquisar esses problemas", afirma a professora Gina Neff, diretora do Centro Minderoo de Tecnologia e Democracia da Universidade de Cambridge, no Reino Unido.

Para ela, "essas respostas a preocupações cada vez maiores sobre os problemas causados pelos modelos da OpenAI para a cibersegurança, perda de empregos, erros e fraudes simplesmente não são suficientes".

Nathan Calvin, consultor geral do grupo ativista Encode AI, concorda com Pachocki sobre os riscos existentes no desenvolvimento avançado de modelos de IA. Mas ele afirma que a OpenAI não está disposta a ser transparente.

Com isso, os alertas correm o risco de serem minimizados como "simples exageros por interesse próprio".

"Se Jakub e outros da OpenAI querem que pessoas relevantes do setor de IA ajam em conjunto com eles para fazer com que tudo saia bem, uma das ações mais importantes que eles podem tomar é divulgar muito mais informações sobre as causas que os levaram a pedir cautela", escreveu ele no X.

Quais são os limites vigentes para a IA?

As regulamentações globais enfrentam dificuldade para acompanhar a velocidade do desenvolvimento da inteligência artificial.

No dia 2 de agosto, entrou em vigor a Lei de IA da União Europeia. Ela exige que as gigantes da IA, como a OpenAI, comprovem que seus modelos mais poderosos não podem lançar ciberataques autônomos, nem fugir do controle humano, para que sua venda na Europa seja permitida.

Mas, como a jurisdição da lei é restrita à Europa, ela não pode impedir que uma IA mal intencionada desenvolvida em outra parte do mundo ameace o continente.

Na sua postagem, Pachocki pede limites mínimos de segurança exigidos por lei ou internacionalmente, que possam ser implementados por uma "rede de auditores terceirizados" ou "agências governamentais".

Todos os laboratórios precisariam respeitar estes limites, segundo eles, antes de serem autorizados a continuar desenvolvendo ou ampliando seus modelos avançados.

Ele destaca esperar que "reduções voluntárias da velocidade" (pausas no desenvolvimento da IA autoimpostas pelas próprias empresas) se tornem normais até que sejam estabelecidos limites comuns.

Em agosto, a OpenAI declarou ter reduzido o treinamento de alguns dos seus modelos mais avançados de IA para aumentar a segurança.

O matemático que passou 7 anos tentando resolver problema solucionado por amador com IA

 

Crédito,Cortesia Jared Duker Lichtman

Legenda da foto,O matemático Jared Duker Lichtman, da Universidade de Stanford, recebeu a resposta que procurava em um email inesperado

Article Information

• • Author,Charlotte McDonald e Josh McMinn
  • Role,Programa More or Less, BBC Radio 4
• Published7 setembro 2026, 11:11 -03
• Tempo de leitura: 6 min

Há centenas de anos, matemáticos quebram a cabeça com problemas extremamente difíceis que ninguém conseguia resolver.

Eles refletem sobre essas questões, discutem entre si e publicam artigos a respeito. Chegar a uma solução pode ocupar uma vida inteira de trabalho.

Mas, no dia 13/4 deste ano, foi a inteligência artificial (IA) que resolveu um problema matemático que até então ninguém havia conseguido solucionar: o problema 1196 de Erdős.

Especialistas na área ficaram surpresos e, claro, muito interessados.

"Depois de talvez uma hora lendo e conferindo o resultado bruto produzido pela IA, ficou muito claro para mim que estava correto e que a ideia era muito boa", afirma o matemático Jared Duker Lichtman, da Universidade Stanford, nos Estados Unidos.

Lichtman trabalhava havia sete anos nesse problema, que acabara de ser resolvido por um entusiasta da matemática que inseriu um único prompt (comando enviado ao sistema de IA) em uma ferramenta de IA.

Mas em que consiste esse problema? E o que significa para a matemática uma IA ter conseguido resolvê-lo?

Se você acha que já sabe onde esta história vai dar, vale lembrar que, no mundo da matemática, as respostas costumam surpreender.

Um gênio itinerante

Pule Promoção Agregador de pesquisas e continue lendo

Veja Agregador de Pesquisas da BBC News Brasil

Clique aqui

Fim do Promoção Agregador de pesquisas

Problemas matemáticos que continuam sem solução têm uma certa aura de mistério.

O mais conhecido talvez seja o último teorema de Fermat, que apareceu em uma anotação manuscrita na margem de uma página de um livro do matemático do século 17 Pierre de Fermat (1601-65).

Além do enigma que deixou para a posteridade, Fermat escreveu: "Tenho uma solução, mas ela é longa demais para caber na margem."

Até onde se sabe, Fermat levou essa solução para o túmulo.

"Foi preciso esperar vários séculos até que o problema finalmente fosse resolvido, em 1994, e o matemático que conseguiu isso usou áreas da matemática que nem sequer existiam na época de Fermat", afirma a matemática Katie Steckles.

E há muitos outros, com todo tipo de nome curioso: a conjectura de Collatz, a hipótese de Riemann, os problemas de Hilbert e os problemas do milênio...

"Ah, há muitos!", exclama Steckles. "E encontramos mais a cada dia. Cada área da matemática tem suas grandes questões", disse ela ao programa More or Less, da Rádio 4 da BBC.

Entre esses desafios está uma enorme coleção conhecida como "problemas de Erdős", formulados por uma das figuras mais prolíficas e afáveis da matemática.

Crédito,Getty Images

Legenda da foto,Paul Erdős era um matemático que vivia com quase nada: além de uma mala quase vazia, não tinha bens materiais, que considerava um incômodo

O húngaro Paul Erdős (1913–96) foi um gênio extraordinário, não apenas pelas diversas contribuições que deixou para a matemática, mas também pelo modo como viveu.

Nunca teve casa nem posses além de uma mala quase vazia. Erdős queria era ser uma espécie de viajante da matemática, indo a qualquer lugar do mundo onde houvesse algo interessante acontecendo e espaço para pensar e trocar ideias.

Durante décadas viajando e trabalhando com outros matemáticos, Erdős não apenas formulou mais de 1,2 mil problemas, como também resolveu muitos deles e encontrou demonstrações surpreendentemente simples para teoremas que já eram considerados solucionados.

O problema

Em 2023, essa enorme coleção de problemas foi reunida em um site para que matemáticos pudessem ver quais ainda estavam em aberto e compartilhar suas demonstrações.

"A primeira vez que ouvi falar da conjectura de Erdős sobre conjuntos primitivos, eu estava no último ano da faculdade", lembra Lichtman.

"E fiquei completamente fascinado pelo problema."

Os problemas de Erdős abordados nesta história envolvem os chamados conjuntos primitivos.

Você provavelmente conhece os números primos: números inteiros que só podem ser divididos exatamente por 1 e por eles mesmos. Um conjunto primitivo segue uma lógica parecida: escolhem-se números de modo que nenhum deles possa ser dividido exatamente por outro, embora eles não precisem ser números primos.

Por exemplo, 4, 5 e 6 formam um conjunto primitivo: não é possível dividir 4 por 5 ou por 6 e obter um número inteiro. O mesmo vale para 5 e 6.

Não é preciso avançar mais na matemática por trás desses problemas de Erdős: daí em diante, tudo fica complexo demais.

Voltemos à história.

"No meu tempo livre e à noite, eu continuava pensando nesse problema e não conseguia deixá-lo de lado. Acabei resolvendo depois de quatro anos me recusando a desistir", conta Lichtman.

O problema que levou todos esses anos para resolver era o 164 de Erdős, que mais tarde serviria de base para sua tese de doutorado.

Mas esse não era o único que despertava seu interesse. Havia outros problemas de Erdős relacionados a ele, entre os quais o problema 1196.

Lichtman também vinha pensando nele durante todo esse período.

"O que acontece se todos os números de um conjunto primitivo forem maiores que X e quisermos entender como sua pontuação pode crescer à medida que X tende ao infinito?"

Ele continuou pensando no assunto e trabalhando no problema por mais três anos.

Até que, certa manhã, acordou e encontrou um email em seu computador.

Crédito,Getty Images

Legenda da foto,"Acho que chegamos a um ponto em que a IA consegue trazer ideias e intuições, como faria um colega de confiança", afirma Lichtman

A mensagem dizia que um entusiasta da matemática havia apresentado o problema ao GPT-5.4 Pro, um modelo de IA, e obtido resultados que, segundo ele, poderiam constituir uma solução.

"Comecei a ler o que ele havia produzido. O resultado parecia muito preliminar e bastante desorganizado", lembra Lichtman.

A demonstração havia sido obtida por Liam Price, britânico de 23 anos sem formação universitária em matemática.

"Usei uma IA da OpenAI para resolver o problema 1196 de Erdős", contou Price.

"Pensei em um prompt engenhoso, dei a instrução à IA e, depois de cerca de 80 minutos de processamento, ela me apresentou uma solução. Então passei o resultado para outra versão do modelo e disse: 'Aqui está a solução. Você pode conferir e verificar se está correta?'. A resposta foi que, em essência, ela (a IA) não havia encontrado nenhum erro no raciocínio", acrescentou Price.

Lichtman ficou ao mesmo tempo perplexo e feliz.

O saber

A IA já havia ajudado a resolver outros problemas de Erdős — na verdade, várias dezenas. Mas muitos eram problemas relativamente simples e pouco conhecidos.

O problema 1196 era diferente. Além de desafiar matemáticos há décadas, o GPT-5.4 Pro encontrou uma nova forma de abordá-lo, por meio de um método que havia passado despercebido pela literatura matemática durante todo esse tempo. E o método não resolveu apenas o problema 1196, mas também outras questões relacionadas.

Lichtman não se incomodou com o fato de um modelo de IA ter chegado à solução antes dele. "Se outro matemático resolve um problema que interessa a você, não acho que alguém vá perguntar se isso incomoda", explica.

"Você simplesmente quer saber a resposta e ter acesso a ela, independentemente de como ela foi obtida", acrescenta.

Além disso, a IA precisou de alguém como Lichtman, com conhecimento profundo o bastante de matemática para olhar aquele resultado ainda bruto e perceber que havia ali algo valioso.

"Fiquei imediatamente muito feliz e, na verdade, comecei a trabalhar nesses outros grupos de problemas para ver se conseguia aplicar essa ideia", conta Lichtman.

Logo surgiram outros avanços. Poucas semanas depois, um modelo da OpenAI refutou uma conjectura de Erdős que permanecia sem solução havia quase 80 anos.

No dia 1º/8, a empresa anunciou outros dez avanços em problemas matemáticos que estavam em aberto havia muito tempo. Os trabalhos tiveram a participação de matemáticos, que ajudaram a analisar, desenvolver e formalizar os resultados.

"Acho que chegamos a um ponto em que a IA consegue trazer ideias e intuições, como faria um colega de confiança, e às vezes essas ideias realmente dão resultado", afirma Lichtman.

"Estamos numa fase em que a IA começa a funcionar, de certa forma, como um colaborador com quem podemos trocar ideias e de quem podemos receber comentários."

Eleição na Alemanha: como direita radical planeja mudar o país após provável vitória na Saxônia

 

Crédito,Getty Images

Legenda da foto,Ulrich Siegmund, do partido AfD, lidera as pesquisas nas eleições estaduais da Saxônia-Anhalt, que acontecem neste domingo

Article Information

• • Author,Jessica Parker
  • Role,Correspondente em Berlim
• Published6 setembro 2026, 06:22 -03

  Atualizado Há 6 horas
• Tempo de leitura: 5 min

Todos os olhos da Alemanha estão voltados para o leste do país neste domingo (06/09), onde ocorrerá uma eleição de grande impacto.

O partido Alternativa para a Alemanha (AfD) pretende garantir a maioria no parlamento regional da Saxônia-Anhalt.

Segundo pesquisas de boca de urna divulgadas neste domingo, o AfD caminha para uma grande vitória. Prevê-se que o partido de direita radical conquiste entre 44% e 44,5% dos votos, muito à frente da CDU, de centro-direita, que deverá obter 18,5%.

O partido AfD saudou o resultado como um "consequência histórica". Ainda não está claro, porém, se a votação será suficiente para o partido assumir o poder no Estado sem se coligar com outros grupos, mas o AfD afirma ter conquistado um mandato para governar.

Uma vitória absoluta marcaria a primeira vez que um partido de direita radical assumiria o poder em nível estadual na Alemanha depois da Segunda Guerra Mundial (1939-1945).

Para os oponentes do AfD, este é um grave perigo. Já o partido vê as eleições locais como um trampolim rumo ao seu sonho de alcançar o poder em todo o país.

O resultado também pode trazer novos problemas para o chanceler conservador (CDU) Friedrich Merz, que enfrenta dificuldades e dúvidas se conseguirá concluir seu mandato.

Vaiado em aparições públicas recentes, Merz dificilmente é visto como um trunfo eleitoral.

Talvez o chanceler se arrependa da promessa de deter a ascensão da direita radical, visto que aconteceu exatamente o contrário.

Em contrapartida, o carismático candidato principal do AfD no estado, Ulrich Siegmund, parece ter dominado as discussões e a cobertura da mídia.

Apelidado de "Homem Mais Perigoso da Alemanha" pela revista Der Spiegel, ele descartou as notícias de que seu círculo íntimo inclua homens que já fizeram parte do movimento neonazista.

O ator de 35 anos pode ser visto frequentemente, inclusive em suas muitas postagens nas redes sociais, em meio a multidões de fãs ou pilotando alegremente uma scooter retrô da Alemanha Oriental.

Uma nostalgia persistente pelo passado, juntamente com uma profunda insatisfação com o presente, alimentou a popularidade do partido em seus redutos no leste.

Eleitores expressam frustração com a imigração, a segurança pública, a economia alemã em dificuldades, os altos custos de energia e a ajuda enviada para países como a Ucrânia.

Crédito,Reuters

Legenda da foto,Esses apoiadores do AfD acreditam que seu partido salvará a Alemanha

Algumas pessoas com quem conversei acreditam fervorosamente que o AfD está oferecendo uma chance real de mudança radical. Elas dizem que Ulrich Siegmund lhes deu esperança.

Outros apoiadores estão menos convictos, mas afirmam ter perdido a fé nos partidos tradicionais que dominaram a política por décadas.

Um parlamentar do AfD me disse certa vez que, se eles tivessem a chance de governar uma região, as pessoas veriam que "o céu não vai cair".

Mas o programa do partido para a Saxônia-Anhalt é altamente controverso.

A sigla quer segregar as crianças refugiadas em classes especiais: "As crianças refugiadas devem receber a mensagem de que sua estadia na Alemanha é apenas temporária."

O manifesto afirma que "desvios sexuais e estilos de vida não reprodutivos" têm sido promovidos agressivamente em detrimento das estruturas familiares "normais".

O partido argumenta que as bandeiras do arco-íris LGBT devem ser proibidas nas escolas e que as crianças devem aprender menos sobre os nazistas e mais sobre os aspectos positivos da história alemã.

Em relação à imigração, seria criada uma força-tarefa para deter e deportar migrantes que não têm mais o direito de estar no estado. O partido também pede o fim da imigração em massa "ilegal e culturalmente estrangeira".

A posição pró-Rússia do AfD também suscita alegações de que o partido não é confiável para lidar com informações sensíveis.

Quando uma caneca do exército russo foi vista no escritório de Hans-Thomas Tillschneider, figura proeminente do AfD na Saxônia-Anhalt, ele afirmou que era apenas uma lembrança e que "essa guerra não é nossa".

Isso ocorreu depois que Berlim culpou publicamente Moscou por um ataque fracassado com drones ao aeroporto de Leipzig/Halle. O Kremlin negou envolvimento.

Crédito,Reuters

Legenda da foto,Candidato dos Democratas Cristãos, Sven Schulze (ao centro) se recusou a trabalhar com o AfD

Entretanto, fontes da área de segurança alemãs alertam que campanhas de desinformação apoiadas pela Rússia, frequentemente contra rivais do AfD, têm se intensificado — algo que os representantes de Moscou descrevem como "histeria anti-Rússia".

Os governos estaduais detêm poderes significativos em áreas como educação, policiamento e cultura, enquanto seus representantes ocupam assentos na segunda câmara do governo federal, o Bundesrat.

Um governo do AfD na Saxônia-Anhalt seria capaz de implementar mudanças localmente e obter uma voz mais forte no cenário nacional.

O partido continua mais poderoso na antiga Alemanha Oriental comunista, mas também lidera as pesquisas em todo o país.

Isso apesar dos alertas de que o partido, fundado em 2013 com uma agenda contrária à União Europeia, hoje flerta com, ou atrai, apoio extremista.

Num comício do AfD, vimos um homem vestindo uma camiseta com a palavra Arisch — a palavra alemã para "ariano" que os nazistas usavam para promover suas falsas teorias de uma raça superior.

Legenda da foto,Um participante de um comício do AfD, com cobertura da BBC, usava uma camiseta com a palavra Arisch

Não sabemos se o homem era um simpatizante do partido ou um membro da sigla. Ele não quis falar conosco.

A Saxônia-Anhalt é um dos vários estados, a maioria deles no leste, onde o partido é oficialmente classificado como extremista de direita.

Órgãos de inteligência interna acusam a filial local de estar imbuída de uma "ideologia racista" e de objetivos anticonstitucionais.

O AfD, que se define como um movimento conservador e libertário, rejeita essas designações, classificando-as como difamações politizadas.

Ulrich Siegmund não descarta a possibilidade de extinguir o serviço de inteligência interna (BfV) caso o AfD conquiste a maioria.

Outros partidos não entrarão em coligação com o AfD, como parte do que é conhecido como o "Brandmauer" ou "muralha de proteção", uma tentativa de impedir a direita radical de chegar ao governo.

Para isso, é preciso conquistar uma maioria parlamentar.

A concretização desse objetivo provavelmente dependerá de outros partidos menores conseguirem votos suficientes para ultrapassar o limite de 5% que lhes permite entrar no parlamento.

A política é matemática, e na Alemanha não é diferente, mesmo que a matemática envolvida possa ser bastante complexa.

Mas se o AfD conseguir uma vitória decisiva, o partido, que usa uma retórica antissistema, enfrentará um desafio inédito.

As queixas ainda poderiam ser dirigidas ao governo federal em Berlim, mas o AfD não seria mais o único partido a criticar os que estão no poder, pois ele próprio estaria no poder.

Embora a Saxônia-Anhalt seja um estado relativamente pequeno em termos de população, está prestes a sediar uma eleição memorável.