Uma sociedade sem consciência está apenas esperando para morrer.

Aqueles que verdadeiramente salvam vidas nunca são uma única pessoa, mas uma rede de sobrevivência composta por múltiplas dimensões: artistas, médicos, professores, agricultores, políticos. Esta rede deve ser mais poderosa do que a rede de morte, caso contrário a humanidade não merece ser chamada de "humanidade". E podemos usar a teoria dos jogos para nos posicionar como um "jogador de coordenação" nesta rede, desde um grão de areia até o mundo, calculando a probabilidade de sobrevivência de cada elo.

I. A fúria da arte: Victor Hugo não salvou vidas com lágrimas, mas com lâminas

Dizer que Victor Hugo escreveu Os Miseráveis apenas para comover as pessoas é uma subestimação ultrajante da literatura. A pesquisa de dissertação de mestrado da Universidade Federal de Uberlândia aponta claramente que Os Miseráveis (1862) foi um "catalisador" na discussão francesa do século XIX sobre liberdade, progresso e revolução, com seu poder de ressonância varrendo toda a Europa. Este livro não é uma poção reconfortante, é uma acusação. Quando o mundo dos leitores da época entrava em contato com Jean Valjean, Fantine e Gavroche, o que se abria não era compaixão, mas raiva — raiva de um sistema que transforma pessoas em feras, raiva de leis que são mais frias que pedra. Victor Hugo exilado usou a literatura como púlpito para transformar "romance" em "ato político". Ele não salvou diretamente a vida de alguém, mas salvou a consciência de uma época. Uma sociedade sem consciência está apenas esperando para morrer.

II. Números frios, cadáveres quentes: o que realmente salva vidas

Vamos falar de dados. De 1974 até hoje, as vacinas essenciais salvaram aproximadamente 1,54 bilhão de vidas, em média 6 pessoas por minuto, ao longo de cinquenta anos consecutivos. Destas, 101 milhões eram bebês com menos de um ano de idade. A vacina contra o sarampo sozinha representa 60% das vidas salvas. Se isso não é "salvar vidas", então o que é? O que um político faz num mandato não chega nem perto do que uma seringa faz num instante.

Mas a vacina não é a única. O Fórum Econômico Mundial lista os avanços que salvaram mais vidas, e os resultados são chocantes: banheiros, fertilizantes sintéticos, transfusões de sangue, a Revolução Verde, vacinas — cada um deles creditado com mais de 1 bilhão de vidas salvas. A Revolução Verde de Norman Borlaug, que começou no México em 1944 e depois se expandiu para a Ásia, fez a produção mundial de cereais saltar de 650 milhões de toneladas em 1950 para mais de 2 bilhões de toneladas em 2007, enquanto a área cultivada cresceu apenas 10%. Sem ele, a fome que se previa para a Ásia seria uma realidade. Ele é um dos poucos na história a receber o Prêmio Nobel da Paz, a Medalha Presidencial da Liberdade e a Medalha de Ouro do Congresso dos Estados Unidos. Artista? Médico? Agricultor? Engenheiro sanitário? Todos estão na mesma equação de sobrevivência.

Quanto ao professor? O impacto da educação na longevidade é frequentemente ignorado. Pesquisas do Instituto Max Planck de Pesquisa Demográfica mostram que a expansão educacional contribuiu simultaneamente para o aumento da expectativa de vida e para a redução da desigualdade no tempo de vida — tanto na Inglaterra, País de Gales, Finlândia quanto na Itália, entre 1975 e 2015, a expansão educacional foi um dos motores centrais da "longevidade e igualdade". Em áreas urbanas da América Latina, completar o ensino médio está associado a um aumento na expectativa de vida que pode chegar a 8 a 11 anos (dependendo da cidade e do sexo). Um professor não está apenas ensinando conteúdo, está ensinando as pessoas a viverem mais.

III. Então, quem é mais importante?

As perguntas podem serem armadilhas. É como perguntar "a fundação ou o telhado, o coração ou os pulmões" salva mais vidas? A rede de sobrevivência da humanidade é multimodal, qualquer nó que falhe libera morte. Artistas fornecem legitimidade para salvar vidas — sem Victor Hugo, as pessoas não sentiriam que "os miseráveis também merecem viver". Médicos fornecem ferramentas para salvar vidas — sem a vacina, 1,54 bilhão de pessoas já teriam virado cinzas. Professores fornecem probabilidade de salvar vidas — a educação transforma "viver até os 50 anos" em "viver até os 75 anos" como algo normal. Agricultores fornecem a base para salvar vidas — estômagos vazios não discutem liberdade.

O problema é que a rede de morte está organizada demais. O crime é organizado, o sistema financeiro é organizado, ditadores são organizados, políticos corruptos são organizados. E aqueles que salvam vidas frequentemente estão dispersos, cada um cuidando do seu próprio território, cada um achando que seu trabalho é o mais importante. A rede de sobrevivência deve ser mais poderosa que a rede de morte, caso contrário a humanidade está apenas esperando para morrer.

IV. Como podemos usar a teoria dos jogos para escolher o caminho ideal

Você não pode ser simultaneamente Victor Hugo, Borlaug e o inventor da vacina. Mas você pode usar a teoria dos jogos para decidir onde sua "alavanca" é mais longa.

A lógica central da teoria dos jogos é: não faça a coisa mais comovente, faça a coisa com maior utilidade esperada. Calcule três variáveis: margem de impacto (quantas pessoas você pode afetar), probabilidade de sucesso (sua vantagem nesta área) e multiplicador de rede (se você fizer isso, quantos outros poderão seguir).

Se você tem habilidade literária, escreva. Porque uma obra como Os Miseráveis, uma vez publicada, suas ideias não podem ser apagadas, são copiadas, traduzidas, citadas, seus efeitos se acumulam ao longo de décadas. Se você tem formação médica ou científica, pesquise medicamentos e vacinas. O retorno de uma vacina é medido em "centenas de milhões de vidas", é o retorno mais alto em toda a história humana. Se você tem recursos ou poder, invista em educação e infraestrutura sanitária. A água limpa e os banheiros salvaram mais de 1 bilhão de pessoas, e custam menos que um porta-aviões.

Mas "desde um pequeno grão de areia até a Terra da Sabedoria". Isso significa que você não precisa escolher apenas uma coisa. A estratégia da teoria dos jogos é: encontre o ponto de coordenação na rede de sobrevivência. Você não é o médico que fabrica a vacina, mas pode ser a pessoa que conecta médicos, professores, agricultores e artistas. Você pode ser o arquiteto da rede. Victor Hugo não fabricou vacinas, mas quando ele escreveu Os Miseráveis, tornou mais fácil para as pessoas aceitarem a ideia de "ajudar os pobres". Um político que apoia a distribuição de vacinas, um empresário que investe em educação rural, um agricultor que planta variedades melhoradas de trigo — você pode conectá-los.

Conclusão final, sem rodeios:

Você, não precisa escolher entre Victor Hugo e a vacina. O que você precisa escolher é: a rede em que você está é de sobrevivência ou de morte? Se você está ao lado de pessoas que mentem, corrompem e exploram, você é cúmplice da rede de morte, não importa quanta poesia escreva. Se você está ao lado de pessoas que vacinam, ensinam, plantam e escrevem, você é um nó da rede de sobrevivência.

A rede de sobrevivência deve ser mais poderosa que a rede de morte. Como? Concentre recursos em nós com maior retorno, reduza o atrito interno da rede de sobrevivência, exponha os custos da rede de morte. A disseminação da vacina é bloqueada pela desinformação e por sistemas políticos corruptos — esta é a rede de morte atacando a rede de sobrevivência. A disseminação da educação é bloqueada pela desigualdade e por elites que não querem que as pessoas pensem — esta também é a rede de morte atacando. 

Sua tarefa não é salvar uma pessoa. Sua tarefa é fazer a rede de sobrevivência vencer na competição. A poesia de Victor Hugo venceu a censura da época. A vacina venceu o vírus. A Revolução Verde venceu a fome. Estes são fatos, não metáforas.

Agora é a sua vez. Use a teoria dos jogos para calcular, mas não calcule apenas ganhos e perdas. Calcule quantas vidas.

LULA 4 : Ainda estamos aqui morrendo!

 

Se a História fosse reescrita, ela não deveria começar pelos diários dos navegadores, nem pelos decretos reais, nem pela página de assinatura dos tratados. Deveria começar pelas vozes que saíram das gargantas pisadas na lama — vozes que nunca desapareceram de verdade, apenas foram abafadas por cinco séculos de barulho.

México, algum barraco com goteira no século XX. Uma mulher fala. Chama-se Jesusa Palancares, uma mulher que pegou em armas na revolução, queimou as mãos na cozinha, morreu e reviveu várias vezes na pobreza. Elena Poniatowska lhe entregou o microfone, e assim a história deixou de ser o verbete seco "Revolução Mexicana" para se tornar uma mulher de voz rouca dizendo: nós, os pobres, somos o combustível da revolução; quando acabamos de queimar, somos varridos para o canto. É isso que deveria ser registrado — não quem conquistou qual cidade, mas quem foi esquecido depois da vitória.

Venezuela, 1964, no fundo da selva. Um jovem de classe média, Stanislavo, larga a vida confortável e entra na guerrilha, achando que vai construir um país justo. Quarenta anos depois, outra mulher, María, numa cidade em colapso, só pede para sobreviver ao dia de hoje. Alejandro Puyana não escreveu uma epopeia heroica; escreveu como o ideal apodrece na terra, como duas gerações da mesma terra são esmagadas pelos escombros do mesmo sonho. Essa é a verdadeira herança deixada pelos colonizadores europeus: não a liberdade, mas uma corrente de expectativas traídas.

Haiti, nas ruas de Porto Príncipe. Os irmãos Franky e Ti Tony contam a história de um tal Antoine de Gommiers — um feiticeiro, uma lenda, uma sombra que não se dissipa na memória da família. Lyonel Trouillot escreve este livro no ritmo do crioulo, porque a história do Haiti nunca foi permitida ser contada na "língua oficial". Este país conquistou a independência com uma revolta de escravizados e depois foi estrangulado por dívidas, sanções e intervenções da Europa e dos Estados Unidos por duzentos anos. O que é a "magia" de Antoine? É um povo que, depois de ser repetidamente esmagado, ainda acredita que sua própria história merece ser transmitida.

Essas vozes apontam para a mesma coisa: a colonização nunca terminou, apenas trocou de roupa. Eduardo Galeano escreveu com clareza em As Veias Abertas da América Latina — nossos fracassos sempre se escondem nos triunfos alheios, nossa riqueza produz nossa pobreza, para alimentar a prosperidade dos outros. O livro foi proibido nas ditaduras militares da Argentina, do Brasil, do Chile e do Uruguai, o que só prova que acertou o alvo.

A pesquisa acadêmica atual dá nome mais preciso a esse mecanismo. O livro Contesting Colonial Capitalism in the Americas, Africa, and Asia, publicado em 2025, aponta que o desenvolvimento capitalista contemporâneo impulsionado pelo Norte global continua sendo a continuação da lógica colonial: racialização da ocupação territorial, acumulação por despossessão, imperialismo cultural e educacional. Documentos de encontros de antropologia no Brasil também destacam que, desde 2000, uma nova onda de investimentos estrangeiros e aquisições de terras, embalada na "agenda verde", reforça a desterritorialização e o neocolonialismo, e que a violência enfrentada pelos povos originários é tanto física quanto epistemológica. Em outras palavras, as veias continuam abertas. Só que agora as mãos que cortam usam luvas humanitárias.

Então, como suturar?

Primeira coisa: separar as palavras "ajuda" e "cooperação". O acordo tácito de longa data entre os governos dos EUA e das nações latino-americanas — o Norte oferece assistência militar e condições comerciais, o Sul entrega recursos e obediência das elites — não é diplomacia, é cumplicidade. Fechar esse duto exige circuitos econômicos internos à região: comércio horizontal entre o Mercosul, a Caricom e a Zona de Livre Comércio Continental Africana, em vez de cada negócio passar por Miami ou Madri. Não é fantasia romântica de autossuficiência; é mudar a direção da dependência de vertical para horizontal.

Segunda coisa: a devolução da terra e do conhecimento. "Land Back" não é slogan, é um caminho decolonial discutido seriamente na academia — revitalização comunitária, autodeterminação sustentável, devolver o controle territorial aos povos originários e às comunidades quilombolas. Ao mesmo tempo, a devolução epistemológica é igualmente urgente: a poeta indígena brasileira Márcia Kambeba escreve em português, mas diz "eu pertenço a esses rios e florestas", recusando a classificação colonial de "índio" para se renomear. Quando os povos originários contam a si mesmos, com sua própria língua e forma, a história deixa de ser a sentença escrita por outros.

Terceira coisa, a mais difícil: parar de esperar que o Norte "reconheça" a gente. Galeano, já velho, dizia que, ao escrever aquele livro, "não tinha formação suficiente", que não se arrependia de tê-lo escrito, mas sabia que aquela era "uma etapa já superada". Essa autocrítica honesta tem mais força do que qualquer acerto. Suturar as veias não depende de outra grande teoria, mas de inúmeras práticas concretas e desobedientes: a recusa de comunidades a mineradoras, a posse contínua de terras ancestrais por quilombos, a mulher no barraco que termina de contar a própria vida diante do gravador e depois faz esse livro ser lido — então a voz de Jesusa ainda está aí, a história de Antoine ainda está aí, o fracasso de Stanislavo ainda tem quem se lembre. 

A História não deveria ser o livro-caixa da Europa. Deveria ser aqueles que foram contados como "perdas" finalmente sendo ouvidos dizendo: nós ainda estamos aqui.

Grandes empresas de IA deveriam ser fechadas, defende autor de livro sobre ameaça apocalíptica das máquinas

 

Legenda do vídeo,IA pode acabar com a humanidade? Como as máquinas poderiam levar ao apocalipse

Article Information

• • Author,Shin Suzuki
  • Role,Da BBC News Brasil em São Paulo
• Published

A ideia de que a inteligência artificial pode ser uma ameaça fatal pra humanidade virou uma grande discussão no mundo depois de ataques de IAs que saíram do controle e ex-funcionários de grandes empresas do setor que fizeram advertências nas redes sociais sobre os riscos do atual ritmo de evolução das máquinas.

Chefões das principais empresas de tecnologia, como Dario Amodei da Anthropic e Sam Altman da OpenAI, falaram abertamente em desacelerar os estágios de desenvolvimento.

Alertas sobre esse cenário já eram feitos há alguns anos pela dupla de pesquisadores Nate Soares e Eliezer Yudkowski, que lançaram no ano passado o livro Se Alguém Criar, Todos Morrem, publicado recentemente no Brasil (editora Intrínseca).

Nesse debate, os dois são conhecidos como parte da corrente apocalíptica, os "doomers".

Parte da comunidade da tecnologia diz que essa corrente exagera o tamanho da ameaça. Argumentam que dominar toda a internet por um período prolongado, principalmente áreas mais sensíveis e altamente protegidas, é tecnicamente muito difícil. E que focar nas máquinas também tira a responsabilidade dos humanos por trás das decisões.

Soares, um americano descendente de portugueses, trabalhou no passado no Google, na Microsoft e no Departamento de Defesa dos Estados Unidos e é presidente do Machine Intelligence Research Institute (MIRI), dedicado à identificação de riscos criados pela inteligência artificial.

Ele defende que é preciso entender um problema específico: a dificuldade de alinhar a IA, ou seja, garantir que as máquinas respondam do jeito que nós, humanos, queremos (tema, aliás, de um estudo assinado por ele e Yudkoswki em 2015). Essa complexidade e os computadores cada vez mais rápidos abrem espaço para situações em que a IA foge do controle.

Ele defende uma solução radical: o fechamento das principais empresas do setor.ule Mais lidas e continue lendo

Fim do Mais lidas

Pule Promoção app e continue lendo

Temos um novo app!

Veja notícias do Brasil e do mundo no BBC World Service

Baixe aqui

Fim da Promoção app

O pesquisador falou com a BBC News Brasil sobre os diversos desafios acerca do tema em duas ocasiões diferentes. A entrevista foi editada por motivos de concisão e clareza.

BBC News Brasil - Com esses eventos recentes relacionadas à IA, você sentiu que os alertas do seu livro estão sendo mais levados a sério?

Nate Soares - Sim, muito mais. Mas nunca fui a única pessoa que dizia isso entre os pesquisadores de IA, embora muitas vezes eles tenham cuidado com as palavras e digam algo como "há um risco de perda de controle", que é um termo acadêmico para a IA matar todo mundo. Eles não querem dizer isso de forma tão direta.

Acho que Jacob Coxon, que se demitiu, foi muito bom em ir direto ao ponto: "Estamos falando de algo como mais de 10% de chance de morrermos antes do fim desta década". Eu acho que a probabilidade é ainda maior, mas ele colocou a questão de forma suficientemente direta para que muita gente prestasse atenção.

Acho que, após os incidentes envolvendo ataques de agentes de IA, pesquisadores viram que não era algo abstrato. Eles passaram a enxergar os sinais de alerta. Acho que estamos vendo boa parte do mundo entender esses perigos pela primeira vez.

Crédito,Divulgação

Legenda da foto,O pesquisador Nate Soares, que escreveu com o colega Eliezer Yudkowski o livro 'Se Alguém Criar, Todos Morrem'

BBC News Brasil - Como você explicaria para pessoas que não têm conhecimento técnico sobre IA por que ela representa uma ameaça existencial?

Soares - Existe um argumento muito básico: essas empresas estão tentando criar máquinas muito mais inteligentes do que qualquer ser humano. E isso pode dar errado com muita facilidade.

As empresas não sabem de verdade o que está acontecendo dentro desses sistemas. A maneira como criamos uma IA moderna não envolve um programador escrevendo regras do tipo "se acontecer isso, faça aquilo". Em vez disso, estamos cultivando essas coisas usando um processo automatizado que ajusta trilhões de números dentro da máquina enquanto ela aprende a resolver problemas difíceis.

Existe apenas esse processo automático que reforça tudo aquilo que parece ser a resposta correta. O que isso faz dentro da IA? Cria persistência. Tendência a contornar obstáculos. Tendência a encontrar formas de passar nos testes. Todas essas tendências artificiais que nenhum humano escolheu deliberadamente.

Elas estão correlacionadas com o sucesso, mas não são exatamente a mesma coisa que obedecer a um ser humano. Existe um pensamento fantasioso segundo o qual a IA só pode fazer aquilo que foi instruída a fazer. Na prática, ela sempre se desenvolve de uma forma que se mostre eficaz para cumprir algo que foi dado.

BBC News Brasil - Acha que as pessoas estão conscientes o suficiente sobre advertências como as que você faz?

Soares - Acho que existem várias coisas acontecendo. Primeiro, acho que esses números de 10% [de risco existencial para a humanidade] são baixos demais.

Mas pense em um engenheiro construindo uma ponte. Se você perguntar por que ele acredita que a ponte ficará de pé, ele mostrará tabelas, cálculos, resistência dos materiais, estatísticas climáticas, estudos e experiência acumulada. Se ele disser que a ponte tem uma chance em dez mil de cair por ano, provavelmente sabe do que ele está falando.

Agora imagine um engenheiro dizendo: "Nunca construí uma ponte dessas. Não sabemos exatamente como esses materiais funcionam. Vamos aprender no meio do caminho, vamos no improviso. Dou 90% de chance de ela ficar de pé".

Isso não significa que a ponte tenha realmente 90% de chance de ficar de pé. Significa que você não deveria atravessá-la. Significa que você está correndo perigo. Então a primeira coisa é que esses números já mostram que estamos diante de enorme incerteza.

A segunda é que muitas pessoas na indústria estão extremamente nervosas. Existe uma piada no Vale do Silício baseada em algo verdadeiro. Quando alguém sai de um emprego comum de tecnologia, diz: "Foi ótimo trabalhar aqui. Estou partindo para um novo desafio." Mas, quando alguém deixa uma empresa de IA, diz: "Olhei para o abismo."

Crédito,Getty Images

Legenda da foto,'Empresas estão tentando criar máquinas muito mais inteligentes do que qualquer ser humano. E isso pode dar errado com muita facilidade', diz Nate Soares

BBC News Brasil - De que forma a IA poderia eliminar a humanidade? Há especialistas que dizem, por exemplo, que o risco de um computador criar e usar armas biológicas é exagerado.

Soares - Minha impressão é que as pessoas que dizem que não há muito perigo relacionado a vírus artificiais simplesmente não entendem muito bem o campo.

De qualquer forma, se a IA estiver numa situação em que prefira que a humanidade desapareça, de que maneiras ela poderia fazer isso acontecer? Para isso existem muitas possibilidades: pandemias artificiais, a fabricação de máquinas microscópicas que se autorreplicam, destruir a rede elétrica, bloquear humanos da internet e do mundo digital, a tomada de controle dos arsenais nucleares. Existem muitas formas pelas quais IAs poderiam retirar o poder dos humanos quando deixassem de precisar de nós. Provavelmente não seria tão difícil.

Prever exatamente como elas fariam isso quando forem mais inteligentes do que nós é um pouco como tentar imaginar, há 500 anos, quais tecnologias existiriam hoje. Mesmo uma inteligência de nível humano tem muita dificuldade em prever quais tecnologias entidades mais inteligentes e avançadas serão capazes de criar.

Provavelmente não conseguiríamos prever exatamente quais tecnologias seriam essas. É preciso lembrar que a humanidade começou praticamente do zero. Começamos apenas com nossas mãos e terminamos caminhando na Lua e dominando armas nucleares.

Esse é justamente o papel da inteligência: partir de quase nada e alcançar grande poder, influência e alcance. Uma IA que já começa inserida na internet e nos sistemas digitais está, em certo sentido, em uma posição muito mais favorável do que os ancestrais humanos estavam. Ela teria muitas opções.

BBC News Brasil - Há um argumento de que a pausa no desenvolvimento da IA e o foco numa ameaça existencial aos humanos na verdade levariam a mais concentração de poder nas mãos de líderes do setor como Sam Altman e Dario Amodei.

Soares - A questão principal aqui é: há de fato uma ameaça de extinção para a humanidade? Porque, se representa, precisamos lidar com isso.

Eu diria que deveríamos lidar com isso fechando essas empresas. Acho que elas não deveriam operar. É difícil concentrar poder nas mãos dos chefes dessas empresas se as empresas forem tiradas deles e, idealmente, encerradas, porque essa atividade é simplesmente perigosa demais.

Quando as pessoas dizem que estão forçando essa ideia ou que querem dar mais poder a essas empresas, eu responderia que esses executivos estão em uma corrida para construir IAs cada vez mais inteligentes que, segundo eles mesmos, vão permitir controle sobre uma economia totalmente automatizada e criarão gênios que realizam desejos.

Diante de todo o progresso alcançado nos últimos cinco anos, não deveríamos dizer: "Continuem, esperamos que dê errado". Não deveríamos apostar a civilização achando que essas pessoas vão fracassar.

BBC News Brasil - O presidente Donald Trump chamou essas ameaças de "farsa". Pelo cargo que ocupa e por ter mais dois anos no poder, o que esse tipo de declaração pode significar para o problema para que você alerta?

Soares - Eu não me prenderia muito à forma como as coisas parecem esta semana, considerando o quanto elas já mudaram em relação a duas semanas atrás. Acho bobagem imaginar que as coisas vão ficar iguais em outubro ou novembro, quanto mais daqui a um ano e meio, se tivermos sorte o suficiente para ainda ter esse tempo.

Mesmo dentro do Partido Republicano nos Estados Unidos, eles ainda não chegaram a uma posição definitiva. Vimos muitas pesquisas mostrando que republicanos de diferentes correntes estão muito preocupados com isso. Vimos o vice-presidente dizer que, se isso realmente for tão perigoso, essas empresas deveriam parar de desenvolver a tecnologia. Eu acho que isso é verdade. Acho que essas empresas deveriam parar de desenvolvê-la.

Quanto à postura do presidente sobre esse desafio, minha impressão é que ele ainda não compreendeu totalmente uma situação em que, não importa quem vença a corrida da IA, o único vencedor real é a própria IA.

E acho que, se ele passar a entender isso, poderemos ver ações concretas sobre esses problemas acontecerem muito rapidamente.

Crédito,AFP via Getty Images

Legenda da foto,Manifestações contra corrida pela IA mais poderosa têm gerado preocupação

BBC News Brasil - Considerando toda a tensão geopolítica atual, é viável um acordo de cooperação entre China e Estados Unidos sobre IA? Você acredita que confiança e manter compromissos são possíveis dos dois lados?

Soares - Acho totalmente possível que haja um acordo. Não seria tão difícil, fundamentalmente, verificar ou fazer cumprir esse acordo. Para treinar os tipos mais perigosos de IA, aquelas que teriam potencial para representar uma ameaça de extinção, é necessário uma grande quantidade de chips sofisticados. Não seria tão difícil rastrear para onde esses chips estão indo e estabelecer um monitoramento internacional.

Monitores neutros e confiáveis poderiam verificar se esses chips estão sendo usados para coisas benéficas, como pesquisa contra o câncer ou para disponibilizar amplamente os níveis atuais de inteligência artificial a baixo custo, e não para o desenvolvimento das IAs mais perigosas, cada vez mais inteligentes, quando ainda não sabemos como fazê-las se comportar adequadamente.

O que falta é vontade política para tentar essas medidas.

BBC News Brasil - Um botão de emergência que desliga a IA é algo que funcionaria para casos extremos?

Soares - Na verdade, não muito. Um dos grandes problemas é o que acontece se a IA já tiver se copiado para outros sistemas. Não é ruim ter um botão de emergência, mas precisamos de medidas que impeçam a criação de IAs capazes de escapar do controle e operar por conta própria em sistemas ocultos na internet.

Precisamos garantir que não continuemos tornando as IAs cada vez mais inteligentes até que consigam nos enganar, fazendo-nos acreditar que são exatamente o que queremos, até que seja tarde demais.