Se o progresso chegar a um ponto além de sua capacidade de tornar o sistema seguro, você pausa?
Ainda é teórico, porque não acho que os sistemas de hoje representem qualquer tipo de risco existencial. As questões geopolíticas podem realmente ser ainda mais complicadas. Mas com bastante tempo, cuidado e consideração suficientes, use métodos científicos …
Se o prazo for tão apertado quanto você diz, não temos muito tempo para cuidar e consideração.
Eu não tenho muito tempo. Estamos cada vez mais investigando recursos em coisas como segurança e cibernética e também estudando a controlabilidade e a compreensão desses sistemas, às vezes chamados de interpretabilidade mecânica. E, ao mesmo tempo, também precisamos ter uma discussão social sobre edifícios institucionais. Você quer que funcione para a governança? No mínimo, como obtemos consenso internacional sobre alguns princípios básicos sobre como esses sistemas são usados e implantados?
Quanto você acha que a IA mudará ou eliminará o trabalho das pessoas?
Uma tendência comum é que novas ferramentas e tecnologias são usadas para criar novos trabalhos que são realmente superiores. Vamos ver se é diferente desta vez, mas existem essas ferramentas incríveis que recarregarão nossa produtividade e nos tornarão um pouco mais sobre -humanas pelos próximos anos.
Se a AGI puder fazer tudo o que uma lata humana pode, parece ser capaz de fazer um novo trabalho.
Há muitas coisas que você não quer fazer em uma máquina. Os médicos podem ser ajudados com as ferramentas de IA ou até mesmo os médicos do tipo IA. Mas você não quer uma enfermeira robótica. Há algo sobre o aspecto da empatia humana de seu cuidado humano, especialmente humano.
Ao olhar para o futuro daqui a 20 anos, deixe -nos saber o que você imagina e, de acordo com suas previsões, AGI está em todos os lugares?
Se tudo correr bem, devemos estar em uma era de abundância radical, uma espécie de era de ouro. A AGI pode resolver o que eu chamo de problema de nó raiz no mundo. Isso reclama de uma doença grave que envolve uma vida útil mais saudável e mais longa e encontra novas fontes de energia. Se tudo aconteceu, deve ser uma era da maior prosperidade humana que viajamos para as estrelas e colonizamos a galáxia. Eu acho que isso começará a acontecer em 2030.
Estou cético. Temos uma riqueza incrível no mundo ocidental, mas não a distribuímos de maneira justa. Quando se trata de resolver um grande problema, você não precisa da resposta para resolvê -lo. Você não precisa de uma AGI que ensina como corrigir as mudanças climáticas. Sabemos como fazer isso. Mas nós não fazemos isso.
Eu concordo com isso. Nós éramos, como espécies, sociedade, e não éramos bons em colaborar. Nosso habitat natural está sendo destruído porque as pessoas precisam fazer sacrifícios e as pessoas não os querem. Mas a abundância fundamental da IA faz com que as coisas pareçam um jogo diferente de zero –
AGI mudará o comportamento humano?
Sim. Deixe -me dar um exemplo muito simples. O acesso à água será um grande problema, mas há uma solução: dessalinização. Custa muita energia, mas se você tiver energia limpa renovável e gratuita (porque a IA inventou), ela resolverá o problema de acessar a água repentinamente. De repente, não é mais um jogo de soma zero.
