Inteligência Artificial: de agora até 2034

Aida Amer/Axios

Leopold Aschenbrenner — ex-integrante do Superalignment team da OpenAI, agora fundador de uma empresa de  investimentos focada em inteligência artificial geral (AGI) – publicou um longo e provocativo ensaio, oferecendo uma visão abrangente sobre o futuro da IA.

Por que é importante

• A Aschenbrenner, com sede em São Francisco, é alvo de muita especulação. Portanto, nada disso está gravado em pedra. Mas sua obra é uma síntese útil e reveladora de conversas de alto nível no Vale do Silício.

💡 Eis o que chamou nossa atenção de Mike no artigo de 50.000 palavras e 165 páginas de Aschenbrenner, “Situational Awareness: The Decade Ahead“:

1. “Confie nas tendências… As tendências são intensas e estavam certas.”

• “A mágica do aprendizado profundo é que ele simplesmente funciona – e as tendências têm sido surpreendentemente consistentes, apesar dos pessimistas a cada passo.”

2. “Repetidas vezes, ano após ano, os céticos afirmaram que ‘o aprendizado profundo não será capaz de fazer X’ e rapidamente se provou que estavam errados.” “Se há uma lição que aprendemos na última década da IA, é que nunca se deve apostar contra a aprendizagem profunda.” “Estamos literalmente ficando sem benchmarks.”

3. É “surpreendentemente plausível que, até 2027, os modelos serão capazes de fazer o trabalho de um pesquisador/engenheiro de IA”.

4. “Até 2027, em vez de um chatbot, você terá algo que se parece mais com um agente, com um colega de trabalho.”

5. O muro de dados: “Há uma fonte de variação potencialmente importante para tudo isso: estamos ficando sem dados da Internet. Isso pode significar que, muito em breve, a abordagem ingênua para pré-treinar modelos de linguagem maiores em mais dados extraídos poderia começar a enfrentar sérios gargalos.”

6. Poderíamos “passar rapidamente de sistemas de IA de nível humano para sistemas de IA superhumanos”.

• Superinteligência, chegando em 2030 d.C.?

7. Os produtos de IA provavelmente se tornarão “o maior impulsionador de receita para as maiores corporações da América e, de longe, sua maior área de crescimento. As previsões de crescimento geral da receita para essas empresas disparariam”.

• “Os mercados de ações seguiriam; poderíamos ver nossa primeira empresa de US$ 10 tri logo depois. As grandes empresas de tecnologia neste momento estariam dispostas a fazer tudo, cada uma investindo muitas centenas de bilhões (pelo menos) em maior expansão da IA. Provavelmente [iremos] ver nossa primeira venda de títulos corporativos de centenas de bilhões de dólares.”

8. “O nosso fracasso hoje em erguer barreiras suficientes em torno da pesquisa sobre inteligência artificial geral” será irreversível em breve: nos próximos 12 a 24 meses, iremos vazar avanços importantes da AGI para o [Partido Comunista Chinês]. Será o maior arrependimento do sistema de segurança nacional antes do fim da década.”

9. A superinteligência “será o projeto de defesa nacional mais importante dos Estados Unidos”.

10. Não há “nenhuma equipe de craques vindo para lidar com isso… Neste momento, talvez haja algumas centenas de pessoas no mundo que percebem o que está prestes a nos atingir, que entendem o quão malucas as coisas estão prestes a ficar, que têm consciência situacional .”

Choque de realidade

Aschenbrenner, com raízes no movimento do altruísmo eficaz, é um investidor em IA – não uma parte desinteressada.

• Embora sua perspectiva sobre AGI seja minoritária na indústria, ele e muitos na OpenAI e em outros lugares, acreditam que a AGI inevitavelmente se desenvolverá a partir dos atuais modelos de linguagem de IA generativa e bots. O consenso mais amplo entre os especialistas é que isso não acontecerá.
• Isso não é pessimismo: o consenso vê tanto valor e utilidade na IA onde ela está agora, e para onde está indo muito antes de chegar à AGI, que a AGI não é realmente o ponto.

[AxiosAM]