Os profetas de extinção da IA, Eliezer Yudkowsky, e Nate Soares, estarão publicando ainda este mês nas legendas da Bíblia do destino: “Por que a Ai sobre -humana mata todos nós”. Mas mesmo os co-autores não acreditam que o mundo tomará as medidas necessárias para impedir a IA de eliminar todos os não supervisores, por isso deve ser realmente “o motivo de matar todos nós”. O livro está escuro e lê como rabiscado em uma célula fraca da prisão, a véspera da execução ao amanhecer. Quando encontro esses Cassandras auto-nomeados, pergunto-lhes inteiramente se eles acreditam pessoalmente que cumprem seu propósito através de alguma maquinaria de proximidade. A resposta chega em breve: “Sim” e “Sim”.
Eu li o livro, então não estou surpreso. Aliás, o título é que, se alguém o constrói, todo mundo morre. Ainda assim, ouvir isso é chocante. Por exemplo, escrever sobre estatísticas do câncer e falar sobre acordos com um diagnóstico fatal é completamente diferente. Pergunto a eles como eles acham que o fim virá para eles. Yudkowsky se esquiva inicialmente a resposta. “Não passo muito tempo desenhando meu final de misfa, porque não parece um conceito mental útil para lidar com problemas”, diz ele. Sob pressão, ele cede. “Você pensaria que eu morri de repente”, diz ele. “Se você deseja uma versão mais acessível, se o tamanho do mosquito ou os ácaros pousarem na parte de trás do pescoço, é isso que é”.
Sua tecnologia de sopro mortal imaginada entregue por um ácaro de poeira a IA é inexplicável, e Judausski não acha problemático entender como funciona. Ele não teria entendido isso de qualquer maneira. Parte da discussão central do livro é que a Superintelligência cria algo científico que não pode entender mais do que uma caverna que pode imaginar um microprocessador. Co -autor Soares também imagina a mesma coisa que vai acontecer com ele, mas acrescentou que não passou muito tempo nos detalhes de seu fim, como Yudkowsky.
Não há chance
Relutante em visualizar situações pessoais de final de misões é estranho ouvir pessoas que acabaram de co-autor de todo o livro sobre o final de mênda de todos. No caso de aficionados pornôs doomer, se alguém o constrói, essa é a leitura do cronograma. Depois de fechar este livro, entendo a ambiguidade de pregar a maneira como a IA termina nossas vidas e todas as vidas humanas depois. O autor especula um pouco. Você quer ferver o oceano? Você quer bloquear o sol? Estamos presos na mentalidade de 2025, e todas as especulações provavelmente estão erradas como a IA pensa muito antes.
Yudkowsky, um pesquisador do Grim Reaper há muitos anos, foi o apóstata mais famoso da IA, mudou para Grim Reaper. Ele até falou sobre Ted. Após anos de debate público, ele e seus co-autores têm respostas para todas as refutações que se opunham ao seu prognóstico desastroso. Primeiro de tudo, pode parecer contra -intuitivo que nossos dias sejam numerados pelo LLMS. Não se deixe enganar, diz o autor. “O AIS não permanecerá estúpido para sempre”, eles escrevem. Se você acha que respeita os limites que os humanos desenham, eles dizem, esqueça -os. Quando o modelo começa a se ensinar a se tornar mais inteligente, o AIS desenvolve seus próprios “curtidas”. No final, eles não precisam de nós. Eles não estão interessados em nós como parceiros de conversa ou mesmo como animais de estimação. Ficamos irritantes e eles partiram para nos eliminar.
A luta não é justa. Eles acreditam que inicialmente a IA pode precisar de assistência humana para construir suas próprias fábricas e laboratórios. Então ele constrói algo que não entendemos, e a coisa exatamente nos termina. “De alguma forma”, escrevem esses autores. “O mundo desaparecerá para preto.”
O autor vê o livro como um tratamento chocante da humanidade JAR e, de sua satisfação, ele emprega as medidas dramáticas necessárias para impedir essa conclusão inimaginavelmente ruim. “Espero morrer disso”, diz Soares. “Mas a luta não acabou até que você está realmente morto.” Infelizmente, a solução que eles propõem parar a devastação é que parece que o software está ainda mais longe do que a ideia de que isso matará a todos nós. Tudo resume nisso: bata nos freios. Monitore seus data centers para garantir que eles não estejam promovendo a proximidade. Bombardear aqueles que não seguem as regras. Pare de publicar seu artigo com idéias para acelerar sua marcha para a Super Intelligence. Eles teriam sido proibidos, pergunto a eles um artigo de 2017 sobre transes que iniciou o movimento da IA. Ah, sim, eles terão, eles respondem. Em vez de bate-papo GPT, eles querem Ciao-GPT. Pare este trilhão de dólares.
Jogue as probabilidades
Pessoalmente, eu não vi minha luz mordendo meu pescoço e mastigando algumas dustmotes muito sábias. Mesmo depois de ler este livro, acho que não há uma grande chance de a IA matar todos nós. Yudksowky anteriormente se envolveu na fanfiction Harry Potter, e o cenário de extinção fantástica em que ele gira é estranho demais para o meu cérebro humano aceitar. Meu palpite é que, mesmo que a Superintelligência esteja tentando nos afastar, tropeçaremos em promulgar um plano de genocídio. A IA pode ser capaz de chicotear os seres humanos em batalha, mas aposto na luta contra a lei de Murphy.
Ainda assim, a teoria da catástrofe não parece impossível. Especialmente porque ninguém realmente define o teto sobre como será a IA. Também mostra que a IA avançada está assumindo muitos atributos problemáticos da humanidade e que está pensando em um email assustador para evitar a reciclagem em um experimento. Também está nos incomodando que os pesquisadores que passam suas vidas construindo e melhorando a IA acreditam que é improvável que o pior aconteça. Um estudo mostrou que quase metade dos cientistas da IA fixou as chances de Wipeouts de sementes como mais de 10% possível. Se eles acreditam, é estranho que eles trabalhem todos os dias e acordem AGI.
Meu intestino ensina cenários que Yudkowsky e Soares giram são tão estranhos que não são verdadeiros. Mas não tenho certeza se eles estão errados. Todos os autores sonham que seus livros são um clássico duradouro. Esses dois não são muitos. Se eles estiverem certos, ninguém lerá seus livros no futuro. Muitos corpos de decomposição já sentiram um leve beliscão atrás do pescoço, mas o resto estava em silêncio.
