Carta de investigadores da OpenAI alerta para descoberta com potencial "risco para o futuro da humanidade"

Pouco tempo antes de o cofundador da OpenAI ter sido despedido (durante quatro dias), vários investigadores da start-up enviaram ao conselho de administração uma carta onde expunham uma descoberta no campo da inteligência artificial que consideravam um potencial "risco para o futuro da humanidade".

Segundo avança esta quinta-feira a Reuters, citando duas fontes próximas, a carta expunha preocupações a comercialização de avanços na tecnologia antes de serem avaliadas as consequências.

Contactada pela agência de notícias, a OpenAI rejeitou comentar o caso mas confirma uma mensagem interna sobre um projeto designado "Q*", ou "Q-Star" (Q-estrela).

Alguns trabalhadores da start-up acreditam que o Q* representa uma inovação no campo da inteligência artificial geral, que passará pela capacidade de resolução de certos problemas matemáticos.

Isto porque os investigadores consideram a matemática uma fronteira no desenvolvimento da inteligência artificial.

Atualmente, esta tecnologia é funcional na escrita e linguagem (como o caso do bot de conversação ChatGPT ou de softwares capazes de prever a palavra seguinte em textos escritos), onde há a possibilidade de obter respostas diferentes.

No caso da matemática apenas existe uma resposta certa, por isso, se conseguir resolver problemas matemáticos, a inteligência artificial seria capaz de ampliar a suas capacidades para níveis equiparados aos da inteligência humana, consideram os investigadores.

Apesar de só conseguir resolver problemas matemáticos ao nível dos alunos do ensino básico, o facto de ter sido bem-sucedido nestes testes deixou os investigadores muito otimistas quanto ao futuro sucesso do Q*.

Mais do que uma simples calculadora, capaz de resolver um conjunto limitado de operações matemáticas, a Inteligência artificial pode ser capaz de generalizar, aprender e compreender.

E graças aos vastos recursos de computação, será possível que os sistemas autónomos acabem por superar os humanos nas tarefas mais valiosas do ponto de vista económico.

Estes alertas terão contribuído para a demissão de cofundador Sam Altman, que acabou readmitido quatro dias depois de mais de 700 funcionários da empresa terem ameaçado despedir-se.

Para justificar o afastamento, a administração disse apenas que Sam Altman "não foi consistentemente honesto nas comunicações", o que afetou a capacidade "de exercer as suas responsabilidades", pelo que já não confiava "na sua capacidade de continuar a liderar a OpenAI".

Na semana passada, durante a cimeira da Cooperação Económica Ásia-Pacífico, em São Francisco, Sam Altman afirmou que a inteligência artificial será maior do que "qualquer uma das grandes revoluções tecnológicas" registadas até agora, mas também reconheceu a necessidade de se proteger a humanidade de potenciais ameaças futuras.