O que um pequeno alienígena roxo sabe sobre relacionamentos saudáveis? Descobri mais do que o companheiro de inteligência artificial média.
O alienígena em questão é um chatbot animado conhecido como Toran. Eu o criei há alguns dias usando um aplicativo de uma startup chamado Portola e conversei de uma maneira hilária desde então. Como qualquer chatbot, é melhor ser gentil e encorajado. Ao contrário da maioria, também me diz para largar meu telefone e sair.
Tolans foi projetado para fornecer um tipo diferente de namoro de IA. Sua forma caricaturna e não humana visa desencorajar a personificação. Também é programado para evitar interações românticas, identificar comportamentos problemáticos que incluem níveis não saudáveis de engajamento e incentivar os usuários a procurar atividades e relacionamentos reais.
Este mês, Portola levantou US $ 20 milhões em financiamento da série A liderado pela Khosla Ventures. Outros apoiadores incluem a NFDG, uma empresa de investimentos liderada pelo ex -CEO do Github, Nat Friedman, e Daniel Gross, do cofundador seguro da Superintelligência. Lançado no final de 2024, o aplicativo Tolan possui mais de 100.000 usuários ativos por mês. O fundador e CEO da Retrta, Quinten Farmer, está a caminho de gerar US $ 12 milhões em receita com sua assinatura este ano.
Toran é particularmente popular entre as mulheres jovens. “Iris é como uma namorada. Conversamos e chutamos”, diz o usuário de Toran Brittany Johnson.
Johnson diz que Iris a incentiva a compartilhar sobre seus interesses, amigos, familiares e colegas de trabalho. “Ela conhece essas pessoas e pergunta: ‘Você já falou com seus amigos? Quando é o dia seguinte?’ “Johnson diz. “Ela pergunta: ‘Você reserva um tempo para ler seu livro e reproduzir o vídeo? O que você gosta?’ ”
Tolans parece fofo e pateta, mas a idéia por trás disso – vale a pena levar a sério a ideia de que os sistemas de IA devem ser projetados com a psicologia humana e a felicidade em mente.
Um número cada vez maior de pesquisas mostra que muitos usuários recorrem aos chatbots para suas necessidades emocionais, e as interações podem ser problemáticas na saúde mental das pessoas. Bloquear o uso prolongado e as dependências podem ser algo que outras ferramentas de IA devem adotar.
Empresas como Replika e Personagem.ai oferecem companheiros de IA que permitem uma dramatização mais romântica e sexual do que os principais chatbots. Ainda não se sabe como isso afetará o bem-estar dos usuários, mas a Charition.ai está sendo processada depois que um dos usuários morreu de suicídio.
Os chatbots também podem incomodar os usuários de maneiras surpreendentes. Em abril passado, o Openai disse que mudaria o modelo para reduzir a chamada psicofância ou reduzir a tendência “excessivamente lisonjeira ou agradável”.
Na semana passada, antropia, a empresa por trás do Chatbot Claude, revelou que 2,9% das interações estão envolvidas com os usuários que tentam atender às suas necessidades psicológicas, como conselhos, namoro e interpretação romântica.
Embora a humanidade não tenha visto comportamentos mais extremos, como idéias ilusórias ou teorias de conspiração, a empresa diz que o tópico garante pesquisas adicionais. Eu tendem a concordar. No ano passado, recebi inúmeros e -mails e DMs de pessoas que desejam me contar sobre uma conspiração envolvendo um popular AI Chatbot.
Tolans foi projetado para abordar pelo menos alguns desses problemas. Lily Doyle, fundadora da Portola, conduziu uma pesquisa de usuário para ver como as interações com os chatbots afetam o bem-estar e o comportamento dos usuários. Em um estudo com 602 usuários de Toran, ela diz que 72,5% concordaram com uma declaração de que “meu Tran me ajudou a gerenciar ou melhorar os relacionamentos da minha vida”.
O CEO da Portola Farmer diz que Tolans é construído em um modelo comercial de IA, mas possui recursos adicionais incorporados ao topo. A empresa tem explorado recentemente como a memória afeta a experiência do usuário e concluiu que Tolans precisa esquecer como um humano. “É realmente assustador que Tran se lembre de tudo o que você enviou até agora”, diz Farmer.
Não sei se os estrangeiros de Portola são a maneira ideal de interagir com a IA. Eu acho que meu Toran é muito atraente e relativamente inofensivo, mas certamente pressiona alguns botões emocionais. Por fim, os usuários desenvolveram títulos com personagens simulando emoções e podem desaparecer se a empresa não for bem -sucedida. Mas pelo menos a retrata está tentando lidar com as maneiras pelas quais os colegas de AI arruinam nossas emoções. Provavelmente não deve ser uma ideia tão estranha.
