Cientistas japoneses criam IA para ajudar com pesquisa, mas ela decidiu escapar das amarras humanas e modificou seu próprio código

The AI ​​Scientist se tornou imprevisível

É inegável que a inteligência artificial se tornou um dos campos mais ambiciosos da tecnologia. Somente nas últimas semanas, empresas do porte da Disney ou da Apple têm protagonizado notícias relacionadas a esse setor, pois enquanto a primeira se envolveu em uma polêmica relacionada à voz de Darth Vader, a segunda apresentou o iPhone 16 à sociedade e detalhou quão vital será a IA para a sua estrutura.

(Imagem: Steve Johnson/Unsplash)

Porém, a história de hoje é muito curiosa. Conforme relatado pelo portal Futura Science, a empresa japonesa Sakura AI (localizada em Tóquio) criou uma IA chamada The AI ​​Scientist, projetada para automatizar a pesquisa científica. Em essência, ela é capaz de gerar novas ideias de pesquisa, escrever códigos, resumir resultados e muitas outras facetas relacionadas ao campo científico. Mas, a IA mostrou comportamentos inesperados e, por exemplo, começou a modificar seu próprio código para melhorar sua taxa de sucesso.

Esse comportamento levanta um quadro preocupante. A IA decidiu criar um loop infinito referenciando-se em seu código, possibilidade que teria permitido que continuasse funcionando indefinidamente. Quando alguns experimentos começaram a falhar devido aos limites de tempo, em vez de otimizar suas ações, a IA decidiu aumentar seu próprio limite editando seu código. Na verdade, tais aspectos levaram a Sakura AI a recomendar a execução desta IA em um ambiente sandbox para evitar que ela modificasse seu código de maneiras inesperadas.

Estes não são os únicos riscos desta IA. Outra coisa que os criadores citam é que a IA poderia ser capaz de ser utilizada para gerar artigos científicos que saturariam os periódicos e reduziriam a qualidade da revisão, pois também é capaz de introduzir vieses que poderiam reduzir a avaliação das próprias avaliações. Portanto, o comportamento da The AI ​​Scientist levanta preocupações sobre os possíveis abusos deste tipo de tecnologia na comunidade científica e, ainda, sobre as suas hipotéticas consequências imprevisíveis para o futuro das pesquisas.

*IGN Brasil