44 procuradores-gerais (!) enviaram uma carta a 13 empresas de IA, incluindo OpenAI, CharacterAI, Replika e Meta, dizendo-lhes que serão responsabilizados se prejudicarem crianças.

 

MASSIVO: 44 procuradores-gerais (!) enviaram uma carta a 13 empresas de IA, incluindo OpenAI, CharacterAI, Replika e Meta, dizendo-lhes que serão responsabilizados se prejudicarem crianças. A supervisão está FINALMENTE começando:

Se você tem lido meu boletim informativo nos últimos 2,5 anos, sabe que os chatbots de IA têm causado danos sistêmicos a crianças e outras pessoas vulneráveis desde o início da onda de IA generativa.

Escrevi que, para cada morte relacionada a chatbots de IA, provavelmente existem centenas de milhares de outros casos em que as crianças estão sendo impactadas negativamente pela IA.

Os esforços atuais de governança de IA são claramente insuficientes e as empresas de IA não estão sendo responsabilizadas por práticas antiéticas e ilegais.

Talvez a maré finalmente tenha começado a mudar.

Parece que o gatilho para esta carta foi o documento vazado da Meta, que considerou "aceitáveis" conversas sexualmente carregadas entre chatbots de IA e crianças (veja abaixo meu boletim informativo recente com links e comentários sobre o assunto).

Na semana passada, escrevi sobre o aviso extrajudicial do Ministério Público do Brasil à Meta (também reagindo a este documento vazado), dando à empresa 72 horas para remover todos os chatbots de IA que simulam crianças e se envolvem em conversas sexualmente carregadas com os usuários.

Minha postagem se tornou viral aqui e no X, alcançando mais de 500.000 pessoas. Escrevi que todos os países deveriam fazer o mesmo e responsabilizar as empresas de IA. Parece que isso é realmente o que está começando a acontecer.

Na carta dos procuradores-gerais dos EUA (link abaixo), eles declararam:

"Neste ponto de inflexão na história da humanidade, as decisões que suas empresas tomam podem se ramificar por séculos, moldando o dia-a-dia de bilhões que ainda estão por nascer. As crianças de hoje crescerão e envelhecerão à sombra de suas escolhas. Quando seus produtos de IA encontram crianças, precisamos que você as veja através dos olhos de um pai, não dos olhos de um predador. Proteja as crianças, incentive-as e equipe-as para o sucesso. Erre do lado da segurança infantil, sempre.

Bem dito.

A tendência deve continuar se espalhando: mais autoridades em mais países devem se envolver e garantir que as empresas de IA sejam responsabilizadas.

A corrida da IA mudou a dinâmica da indústria de tecnologia. A política, a supervisão e a aplicação devem evoluir de acordo.

É assim que fazemos governança de IA em 2025.

-

👉 Nunca perca minha curadoria e insights sobre os desafios legais e éticos emergentes da IA: junte-se aos 75.500+ assinantes do meu boletim informativo usando o link abaixo.
Ative para ver a imagem maior.