A nova lei chinesa sobre antropomorfismo da IA foi oficialmente promulgada, e é a lei mais RIGOROSA do mundo sobre o tema:
Como escrevi no início deste ano, até onde sei, nenhuma lei de IA em qualquer lugar do mundo regula sistemas antropomórficos de IA com esse nível de detalhe, rigor e preocupação com vulnerabilidades específicas do contexto e riscos potenciais.
No início de janeiro, escrevi um artigo sobre o primeiro rascunho da lei (link abaixo). A versão aprovada é ainda mais abrangente, cobrindo também riscos relacionados à responsabilidade.
O Artigo 10, por exemplo, estabelece que os provedores de IA antropomórfica devem cumprir suas responsabilidades de segurança ao longo do ciclo de vida do serviço e estabelece obrigações detalhadas para cada fase do desenvolvimento e implantação da IA.
Sobre as crianças especificamente, entre as práticas proibidas de IA antropomórfica está a geração de conteúdo para menores que os faz imitar comportamentos inseguros, induz emoções extremas ou levando-os a desenvolver maus hábitos, que podem afetar sua saúde física e mental.
Apesar de ser um tema sério (que já levou a inúmeros casos de suicídio e danos à saúde mental), a maioria dos países NÃO regula o antropomorfismo da IA de forma abrangente.
Uma razão importante para isso é que estudos revisados por pares sobre manipulação emocional movida por IA e danos à saúde mental só ficaram disponíveis recentemente (pois só nos últimos anos milhões de pessoas começaram a se envolver nesses tipos de relacionamento).
A nova lei da China merece ser analisada, e esperamos que outros países, estados e regiões logo sigam o mesmo caminho com suas próprias proteções contra o antropomorfismo da IA.
Nenhum comentário:
Postar um comentário