O futuro da pesquisa matemática deve ser guiado pelo julgamento humano, práticas justas e transparentes, e pelos valores compartilhados da comunidade matemática global."

 

Mais de 150 professores de todo o mundo, incluindo Europa, Japão e EUA, assinaram a Declaração de Leiden, que alertava os governos para não "acreditar no hype" sobre as capacidades matemáticas dos sistemas. "A intervenção deles segue alegações de crescente capacidade por parte de empresas de IA, incluindo desempenho em competições internacionais de elite e supostas soluções para questões abertas e espinhosas na área."

A vice-presidente da União Internacional de Matemática (IMU), Ulrike Tillmann, escreveu: A IA "abre novas e empolgantes oportunidades, mas também levanta questões que não podem ser deixadas de lado."

Ele e a declaração argumentam que "O futuro da pesquisa matemática deve ser guiado pelo julgamento humano, práticas justas e transparentes, e pelos valores compartilhados da comunidade matemática global."

Os signatários também afirmam que desenvolvedores de IA enfrentam "um forte incentivo comercial... exagerar as capacidades dos produtos deles. Lançado em prazos de mercado, e não no ritmo da ciência revisada por humanos, a divulgação de IA pode usar de forma enganosa tarefas matemáticas específicas como métricas para as capacidades gerais de raciocínio de modelos comerciais. Com centenas de bilhões de dólares em dinheiro para investidores em aberto, as empresas estão correndo para pintar modelos de IA sob uma luz brilhante."

É bom ver que os matemáticos estão percebendo que o hype em torno da IA está crescendo.

Um coautor da declaração disse que "Há uma competição até a morte por parte dos laboratórios principais... Eles estão tentando, usando @mathematics... atrair investimentos para que cada um deles fique de pé,"

A declaração é oportuna, ocorrendo enquanto "a SpaceX – a empresa de foguetes de Elon Musk, que inclui a subsidiária xAI – e a Anthropic avançaram rumo às listagens no mercado de ações, enquanto a porta-estandarte da indústria OpenAI deve estar logo atrás."

A declaração também é oportuna porque "na semana passada, a OpenAI publicou nas redes sociais um vídeo no qual o professor da UCLA Terence Tao, antigo vencedor da prestigiosa Medalha Fields da IMU, exaltou o potencial de seus produtos para apoiar pesquisas." Aliás, publiquei um artigo do Terence Tao em abril sobre IA para matemática que era um tanto otimista.

Os signatários da declaração detalharam outros riscos além de "matemática ser usada para ganho comercial." Os autores da declaração disseram #AI sistemas poderiam produzir provas plausíveis, porém incorretas, difíceis de verificar pelos humanos, ou minar a atribuição e o crédito aos pesquisadores cujo trabalho eles constroem. Eles temem que o uso crescente de IA em matemática possa incentivar pesquisas que buscam em busca de ondas, que aproveitam as novas ferramentas em detrimento de outros problemas, encurtam sistemas de revisão por pares e colocam pesquisadores a serviço dos desenvolvedores de IA, em vez de uma investigação livre autodirigida como nas universidades."

É triste que Altman tenha rebaixado tanto a ponto de recrutar matemáticos respeitados para endossos.