Em uma mansão de US $ 30 milhões em um penhasco com vista para a Ponte Golden Gate, um grupo de pesquisadores, filósofos e engenheiros da IA se reuniram para discutir o fim da humanidade.
O Simpósio de Domingo à tarde, apelidado de “sucessores dignos”, girou em torno de idéias provocativas do empresário Daniel Fuggera. O “propósito moral” da IA avançada é criar uma forma de inteligência de que “você estará disposto a decidir sobre a própria vida (não a humanidade)”
Faggella esclareceu o tema com seu convite. “Este evento está muito focado nas transições post mortem”, escreveu ele via X DMS. “Não é uma AGI que servirá como uma ferramenta para a humanidade para sempre”.
Uma festa cheia de fantasias futuristas nas quais os participantes discutem o fim da humanidade como uma questão logística, em vez de uma questão comparativa, pode ser descrita como um nicho. Se você mora em São Francisco e trabalha para a IA, este é um domingo típico.
Cerca de 100 convidados amamentam um coquetel não alcoólico e agachar-se em um prato de queijo perto da janela do chão ao teto da janela de frente para o Oceano Pacífico. Um participante estava usando uma camisa que dizia: “Kurzweil estava certo”. Isso parece ser uma referência ao futurista Ray Kurzweil, que previu que as máquinas superariam a inteligência humana nos próximos anos. Outro estava usando uma camisa dizendo: “Isso nos ajuda a alcançar uma AGI segura?” É acompanhado por emojis de rostos de pensamento.
Faggella disse à Wired: “Os grandes laboratórios que sabem que a AGI provavelmente acabará com a humanidade, não fale sobre isso porque os incentivos não permitem”, referindo -se a comentários iniciais de líderes técnicos como Elon Musk, Sam Altman e Demis Hassabis. O incentivo, diz ele, é competir: “Todos estão completamente entediados para construí -lo”. (Para ser justo, Musk ainda fala sobre os riscos associados à IA avançada, mas isso não o impediu de seguir em frente).
No LinkedIn, a Faggella ostentava uma lista de convidados repleta de estrelas, junto com os fundadores da IA, pesquisadores de todos os laboratórios da IA ocidental e “a maioria dos principais pensadores filosóficos da AGI”.
Ginevera Davis, o primeiro orador do autor de Nova York, alertou que os valores humanos podem não ser possíveis para se traduzir em IA. As máquinas podem não entender o que é a consciência, disse ela, e tentar preferências humanas de codificação para futuros sistemas pode ser míope. Em vez disso, ela propôs uma idéia aguda chamada “alinhamento cósmico”. Seus slides geralmente mostram uma imagem aparentemente gerada pela AI de Technotopia, com grupos de seres humanos se reunindo em uma pequena pilha de grama com vista para uma cidade futura distante.
Os críticos conscientes da máquina dirão que modelos linguísticos em larga escala são simplesmente papagaios probabilísticos. Criado por um grupo de pesquisadores, Hiphor trabalhou para o Google. Mas a discussão não fazia parte do simpósio, e os palestrantes tiveram a idéia de que a super inteligência estava chegando, o que os tornou mais rápidos.
