O ano é 2027. Poderosos sistemas de inteligência artificial estão se tornando mais inteligentes que os humanos e estão causando estragos na ordem global. Os espiões chineses roubaram os segredos da AI da América, e a Casa Branca está correndo para retaliar. Dentro de um laboratório de IA líder, os engenheiros ficam assustados ao descobrir que seus modelos estão começando a enganá -los, aumentando a possibilidade de que eles fiquem desonestos.
São cenas de um roteiro de ficção científica. Eles são cenários previstos por uma organização sem fins lucrativos em Berkeley, Califórnia, chamada de AI Futures Project, que passou o ano passado tentando prever como será o mundo nos próximos anos, à medida que os sistemas de IA cada vez mais poderosos são desenvolvidos.
O projeto é liderado por Daniel Kokotajlo, um ex -pesquisador do Openai que deixou a empresa no ano passado por causa de suas preocupações de que estava agindo de forma imprudente.
Enquanto estava no Openai, onde ele estava na equipe de governança, Kokotajlo escreveu relatórios internos detalhados sobre como a corrida para inteligência geral artificial, ou AGI-um termo difuso para a inteligência de máquinas em nível humano-pode se desenrolar. Depois de sair, ele se uniu a Eli Lifland, um pesquisador de IA que tinha um Recorde de previsão com precisão Eventos mundiais. Eles começaram a trabalhar tentando prever a próxima onda da IA.
O resultado é “ai 2027”, um relatório e site lançado esta semana Isso descreve, em um cenário fictício detalhado, o que poderia acontecer se os sistemas de IA ultrapassarem a inteligência no nível humano-que os autores esperam acontecer nos próximos dois a três anos.
“Prevemos que o AIS continuará melhorando até o ponto em que são agentes totalmente autônomos que são melhores que os humanos no final de 2027 ou mais”, disse Kokotajlo em uma entrevista recente.
Não há escassez de especulações sobre a IA atualmente. São Francisco foi dominado pelo AI Fertor, e o cenário tecnológico da Bay Area se tornou uma coleção de tribos em guerra e seitas de lascas, cada uma convencida de que sabe como o futuro se desenrolará.
Algumas previsões de IA assumiram a forma de um manifesto, como “Máquinas de graça amorosa”Um ensaio de 14.000 palavras escrito no ano passado por Dario Amodei, o diretor executivo da Antrópica, ou“Consciência situacional”Um relatório do ex -pesquisador do Openai Leopold Aschenbrenner que foi amplamente lido nos círculos políticos.
As pessoas do projeto Futures da IA projetaram o deles como um cenário de previsão – essencialmente, uma peça de ficção científica rigorosamente pesquisada que usa suas melhores suposições sobre o futuro como pontos de trama. O grupo passou quase um ano aprimorando centenas de previsões sobre a IA, eles trouxeram um escritor – Scott Alexander, que escreve o blog Astral Codex Ten – para ajudar a transformar sua previsão em uma narrativa.
“Pegamos o que pensávamos acontecer e tentamos torná -lo envolvente”, disse Lifland.
Os críticos dessa abordagem podem argumentar que as histórias de IA fictícios são melhores em espancar pessoas do que educá -las. E alguns especialistas da IA sem dúvida se opõem à alegação central do grupo de que a inteligência artificial ultrapassará a inteligência humana.
Ali Farhadi, o diretor executivo do Instituto Allen de Inteligência Artificial, um laboratório de IA em Seattle, revisou o relatório “AI 2027” e disse que não ficou impressionado.
“Sou a favor de projeções e previsões, mas essa previsão não parece estar fundamentada em evidências científicas, ou a realidade de como as coisas estão evoluindo na IA”, disse ele.
Não há dúvida de que algumas das visões do grupo são extremas. (Kokotajlo, por exemplo, me disse no ano passado que acreditava que havia 70 % de chance de a IA destruir ou prejudicar catastroficamente a humanidade.) E o Sr. Kokotajlo e o Sr. Lifland têm vínculos com o altruísmo eficaz, outro movimento filosófico popular entre os trabalhadores da tecnologia Isso vem fazendo avisos terríveis sobre a IA há anos.
Mas também vale a pena notar que algumas das maiores empresas do Vale do Silício são planejando um mundo Além da AGI, e que muitas das previsões de aparência louca feitas sobre IA no passado-como a visão de que as máquinas passariam no teste de Turing, um experimento pensado que determina se uma máquina pode parecer se comunicar como um humano-ter se tornar realidade.
Em 2021, no ano anterior ao lançamento do chatgpt, o Sr. Kokotajlo escreveu uma postagem no blog Intitulado “O que 2026 se parece”, descrevendo sua visão de como os sistemas de IA progrediriam. Várias de suas previsões se mostraram prescientes, e ele ficou convencido de que esse tipo de previsão era valioso e que ele era bom nisso.
“É uma maneira elegante e conveniente de comunicar sua visão a outras pessoas”, disse ele.
Na semana passada, Kokotajlo e Lifland me convidaram para o escritório deles-uma pequena sala em um espaço de trabalho de Berkeley chamado Constellation, onde várias organizações de segurança da IA penduram uma telha-para me mostrar como elas operam.
O Sr. Kokotajlo, vestindo uma jaqueta de estilo militar bronzeado, pegou um marcador e escreveu quatro abreviações em um grande quadro branco: SC> SAR> SIAR> ASI. Cada um, explicou, representou um marco no desenvolvimento da IA.
Primeiro, ele disse, no início de 2027, se as tendências atuais se mantiverem, a IA será um codificador sobre -humano. Então, em meados de 2027, será um pesquisador de IA sobre-humano-um agente autônomo que pode supervisionar equipes de codificadores de IA e fazer novas descobertas. Então, no final de 2027 ou no início de 2028, ele se tornará um superinteligente Pesquisador de IA – uma inteligência de máquinas que sabe mais do que o que fazia sobre a construção de IA avançada e pode automatizar sua própria pesquisa e desenvolvimento, essencialmente construindo versões mais inteligentes de si. A partir daí, ele disse, é um curto salto para a superinteligência artificial, ou ASI, momento em que todas as apostas estão fora.
Se tudo isso parece fantástico … bem, é. Nada de maneira remotamente o que o Sr. Kokotajlo e o Sr. Lifland estão prevendo é possível com as ferramentas de AI de hoje, o que mal consegue pedir um burrito no DoorDash sem ficar preso.
Mas eles estão confiantes de que esses pontos cegos diminuirão rapidamente, à medida que os sistemas de IA se tornam bons o suficiente para codificar para acelerar a pesquisa e o desenvolvimento da IA.
O relatório deles se concentra no OpenBrain, uma empresa de IA fictícia que constrói um poderoso sistema de IA conhecido como Agent-1. (Eles decidiram não destacar uma empresa de IA em particular, em vez de criar um composto dos principais laboratórios da AI American.)
À medida que o Agent-1 fica melhor na codificação, ele começa a automatizar grande parte do trabalho de engenharia no OpenBrain, o que permite que a empresa se mova mais rapidamente e ajuda a criar o Agent-2, um pesquisador de IA ainda mais capaz. No final de 2027, quando o cenário termina, o agente-4 está fazendo um ano de pesquisa em pesquisa de IA toda semana e ameaça ir desonesta.
Perguntei ao Sr. Kokotajlo o que ele pensou que aconteceria depois disso. Ele achou, por exemplo, que a vida no ano 2030 ainda seria reconhecível? As ruas de Berkeley seriam cheias de robôs humanóides? Pessoas mensagens de texto para suas namoradas de IA? Algum de nós teria empregos?
Ele olhou pela janela e admitiu que não tinha certeza. Se os próximos anos fossem bem e mantivemos a IA sob controle, ele disse, ele poderia imaginar um futuro onde a vida da maioria das pessoas ainda era o mesmo, mas onde “zonas econômicas especiais” próximas cheias de fábricas de robôs hiper eficientes produziriam tudo o que precisávamos.
E se os próximos anos não fossem bem?
“Talvez o céu fosse cheio de poluição e as pessoas estariam mortas?” Ele disse indiferente. “Algo assim.”
Um risco de dramatizar suas previsões de IA dessa maneira é que, se você não tomar cuidado, os cenários medidos podem se virar em fantasias apocalípticas. Outra é que, ao tentar contar uma história dramática que captura a atenção das pessoas, você corre o risco de perder mais resultados chatos, como o cenário em que a IA geralmente é bem comportada e não causa muitos problemas para ninguém.
Embora eu concorde com os autores da “AI 2027” que os poderosos sistemas de IA estão chegando em breve, não estou convencido de que os codificadores de IA sobre -humanos adquirirão automaticamente as outras habilidades necessárias para inicializar seu caminho para a inteligência geral. E tenho cuidado com as previsões que assumem que o progresso da IA será suave e exponencial, sem grandes gargalos ou obstáculos ao longo do caminho.
Mas acho que vale a pena fazer esse tipo de previsão, mesmo que eu não concorde com algumas das previsões específicas. Se a IA poderosa está realmente chegando, todos precisaremos começar a imaginar alguns futuros muito estranhos.
