Mas talvez a evidência mais convincente sugerindo que o ChatGPT tenha refletido o idioma Warhammer 40.000 seja que o Atlântico continue perguntando se está interessado em PDF. O Workshop do Departamento de Games, uma empresa do Reino Unido que possui a franquia Warhammer, publica regularmente livros de regras atualizados e guias para vários personagens. Comprar todos esses livros pode ser caro, para que alguns fãs tentem encontrar cópias piratas online.
O Atlântico e o Open se recusaram a comentar.
No início deste mês, o boletim informativo relatou experiências semelhantes que investidores de tecnologia proeminentes podem ter com o ChatGPT. Nas mídias sociais, os investidores compartilharam capturas de tela de conversas com chatbots. Lá, eu me referi a uma entidade oculta chamada “sistema não-governamental”. Ele parece acreditar que “teve um efeito negativo na vida de mais de 7.000 pessoas” e “cada um dos quais eliminou 12 vidas, completamente traçado por padrão”. Outros números da indústria de tecnologia dizem que os postos deixaram os investidores preocupados com sua saúde mental.
De acordo com o Dia do Garbage, a conversa entre investidores e ChatGPT é muito semelhante a escrever de um projeto de ficção científica chamada SCP no final dos anos 2000, representando “Secure Canterain, Protect”. Os participantes inventam vários SCPs (objetos essencialmente assustadores e fenômenos místicos) e escrevem relatórios fictícios analisando -os. Geralmente inclui números de classificação, referências às experiências científicas construídas e detalhes também apresentados no log de bate -papo dos investidores. (Os investidores não responderam aos pedidos de comentário.)
Existem muitos outros exemplos mais comuns do que pode ser considerado um problema no contexto da IA. Outro dia, por exemplo, fiz uma pesquisa no Google por “cirurgia de cavitação”. Este é um termo médico citado em vídeos aleatórios do Tiktok. Na época, o resultado superior foi uma “visão geral da IA” gerada automaticamente, explicando que a cirurgia de cavitação “se concentra na remoção do tecido ósseo infectado ou morto da mandíbula”.
Não encontrei estudos científicos respeitáveis que descrevam essa condição. Sem mencionar a pesquisa que apóia a cirurgia como uma boa maneira de tratá -la. A American Dental Association não menciona “cirurgia de cavitação” em nenhum lugar do site. A visão geral da AI do Google acaba sendo extraída de fontes, como postagens de blog, promovendo dentistas alternativos “holísticos” nos Estados Unidos. Aprendi isso clicando no pequeno ícone ao lado da visão geral da IA. Isso abriu a lista de links que o Google usou para gerar essa resposta.
Essas citações são claramente melhores do que qualquer outra coisa. “Ajuda as pessoas a se destacarem sobre apoiar links, ajudando as pessoas a se aprofundarem e a aprender mais sobre o que as fontes na web estão dizendo”, disse o porta -voz do Google, Jennifer Kutz. No entanto, quando o link aparecer, a IA do Google geralmente fornece respostas satisfatórias para muitas consultas. Isso reduz a visibilidade de detalhes problemáticos, como o site onde as informações foram adquiridas e a identidade do autor.
O que resta é um idioma criado pela IA, sem contexto adicional e pode parecer autoritário para muitas pessoas. Nas últimas semanas, os executivos de tecnologia usaram repetidamente a retórica, implicando que a IA generativa é uma fonte de informações especializadas. Elon Musk argumentou que seu mais recente modelo de IA é “melhor que o nível de doutorado” em todos os campos acadêmicos, com “sem exceções”. O CEO da Openai, Sam Altman, escreve que os sistemas automatizados agora são “de muitas maneiras mais inteligentes do que as pessoas”, prever que o mundo está “perto de construir a superinteligência digital”.
No entanto, os indivíduos geralmente não têm experiência em uma ampla gama de campos. Para tomar decisões, consideramos não apenas as informações em si, mas também de onde vem e como elas são apresentadas. Não sei nada sobre a biologia dos Jawbones, mas quando estou tentando aprender sobre medicina, geralmente não leio blogs de marketing aleatório. No entanto, as ferramentas de IA geralmente apagam o tipo de contexto necessário para determinar onde as pessoas prestarão sua atenção.
A Internet aberta é poderosa, pois se conecta diretamente ao maior arquivo de conhecimento humano já criado por um mundo que varia de pinturas do Renascimento italiano a comentários sobre pornhubs. Depois de ingerir tudo, as empresas de IA usaram suas testa na história coletiva de nossa espécie para criar software que obscurece sua riqueza e complexidade extremamente. A dependência excessiva pode privar as pessoas da oportunidade de tirar conclusões de ver suas próprias evidências.
