OpenAI: pesquisadores alertaram sobre descoberta perigosa antes da demissão de Sam Altman
Segundo fontes, pesquisadores avisaram o conselho da empresa sobre 'ameaça à humanidade' causada por mudança em IA
Tecnologia e Ciência|Do R7
Antes dos quatro dias de demissão do presidente-executivo da OpenAI, Sam Altman, vários pesquisadores da equipe escreveram uma carta ao conselho de administração alertando sobre uma poderosa descoberta no campo da inteligência artificial que, segundo eles, poderia ameaçar a humanidade, disseram duas pessoas familiarizadas com o assunto à Reuters.
A carta e o algoritmo de IA foram os principais desenvolvimentos antes do conselho de administração da OpenAI decidir demitir Altman, o garoto-propaganda da IA generativa, tecnologia por trás do ChatGPT, disseram as duas fontes.
• Clique aqui e receba as notícias do R7 no seu WhatsApp
• Compartilhe esta notícia pelo WhatsApp
• Compartilhe esta notícia pelo Telegram
• Assine a newsletter R7 em Ponto
Antes do retorno triunfante do executivo na terça-feira (21), mais de 700 funcionários da OpenAI ameaçaram se demitir e se juntar à Microsoft em solidariedade ao líder demitido.
As fontes citaram a carta como um fator entre uma lista mais longa de queixas da diretoria que levou à demissão de Altman, entre as quais preocupações com a comercialização de avanços de IA antes do entendimento das consequências do uso da tecnologia.
A Reuters não conseguiu analisar uma cópia da carta. Os funcionários que escreveram o texto não responderam a pedidos de comentários.
Depois de ser contatada pela Reuters, a OpenAI, que se recusou a comentar, reconheceu em uma mensagem interna para os funcionários um projeto chamado Q* e uma carta para a diretoria antes dos eventos do fim de semana, disse uma das fontes. Um porta-voz da OpenAI disse que a mensagem, enviada pela executiva de longa data Mira Murati, alertava a equipe sobre certas reportagens da imprensa sem comentar sobre sua precisão.
Algumas pessoas da OpenAI acreditam que o projeto Q* (pronuncia-se Q-Star) pode ser um avanço na pesquisa da empresa sobre o que é conhecido como inteligência artificial geral (AGI), disse uma das fontes à Reuters. A OpenAI define AGI como sistemas autônomos que superam os humanos na maioria das tarefas de valor econômico.
Com vastos recursos de computação, o novo modelo foi capaz de resolver determinados problemas matemáticos, disse a fonte. Apesar de realizar apenas cálculos matemáticos no nível de alunos do ensino fundamental, o fato do modelo ser bem-sucedido em tais testes deixou os pesquisadores muito otimistas quanto ao sucesso futuro do projeto Q*, disse a fonte.
A Reuters não conseguiu verificar de forma independente os recursos do projeto Q* alegados pelos pesquisadores.
Véu de ignorância
Os pesquisadores consideram a matemática como a fronteira do desenvolvimento da IA generativa. Atualmente, a IA generativa é boa em escrita e tradução de idiomas, prevendo estatisticamente a próxima palavra, e as respostas à mesma pergunta podem variar muito. Mas conquistar a capacidade de fazer contas - onde há apenas uma resposta certa - implica a IA ter maior capacidade de raciocínio, semelhante à inteligência humana. Isso poderia ser aplicado a novas pesquisas científicas, por exemplo, acreditam os pesquisadores de IA.
Ao contrário de uma calculadora que pode resolver um número limitado de operações, a AGI pode generalizar, aprender e compreender.
Em sua carta ao conselho, os pesquisadores destacaram a proeza e o perigo em potencial da IA, disseram as fontes, sem especificar as preocupações exatas de segurança apontadas na carta. Há muito tempo, cientistas da computação discutem o perigo representado por máquinas altamente inteligentes, por exemplo, se elas podem decidir que a destruição da humanidade é de seu interesse.
Os pesquisadores também indicaram o trabalho de uma equipe de "cientistas de IA", cuja existência foi confirmada por várias fontes. O grupo, formado pela combinação das equipes anteriores "Code Gen" e "Math Gen", trabalha em como otimizar os modelos de IA existentes para melhorar seu raciocínio e, por fim, realizar trabalhos científicos, disse uma das pessoas.
Altman liderou os esforços para tornar o ChatGPT um dos aplicativos de crescimento mais rápido da história e atraiu investimentos - e recursos de computação - necessários da Microsoft para se aproximar da AGI.
Além de anunciar uma série de novas ferramentas em uma demonstração neste mês, Altman, na semana passada anunciou em uma cúpula de líderes mundiais em São Francisco que ele acreditava que grandes avanços na tecnologia de inteligência artificial estavam à vista.
"Quatro vezes na história da OpenAI, sendo que a mais recente foi apenas nas últimas duas semanas, eu pude estar na sala, quando nós meio que empurramos o véu da ignorância para trás e a fronteira da descoberta para frente, e poder fazer isso é a honra profissional de uma vida", disse ele na cúpula da Cooperação Econômica Ásia-Pacífico.
Um dia depois, a diretoria da OpenAI demitiu Altman.
Inteligência artificial e equipamentos de ponta podem acelerar a construção de edifícios
Linguagens de inteligência artificial não podem (ainda) erguer edifícios do zero. Mas equipamentos de ponta e robôs podem acelerar o processo
Linguagens de inteligência artificial não podem (ainda) erguer edifícios do zero. Mas equipamentos de ponta e robôs podem acelerar o processo