À medida que mais robôs começam a aparecer em armazéns, escritórios e até nas casas das pessoas, a ideia de modelos de linguagem em grande escala hackeando sistemas complexos soa como um pesadelo de ficção científica. Então, naturalmente, os antropólogos queriam saber o que aconteceria se Claude tentasse controlar um robô, neste caso um cão-robô.
Em um novo estudo, pesquisadores de antropologia descobriram que Claude foi capaz de automatizar grande parte do trabalho envolvido na programação de robôs e na execução de tarefas físicas. Por um lado, as suas descobertas demonstram as capacidades de codificação de agentes dos modelos modernos de IA. As outras dicas de como esses sistemas começarão a se estender ao domínio físico à medida que os modelos dominarem mais aspectos da codificação e se tornarem melhores na interação com software e objetos físicos.
“Minha suspeita é que o próximo passo para os modelos de IA é começar a alcançar e impactar o mundo de forma mais ampla”, disse Logan Graham, membro da Red Team da Anthropic, que estuda modelos para riscos potenciais, à WIRED. “Isso exigirá mais interface entre o modelo e o robô.”
Apresentado por Antrópico
Apresentado por Antrópico
A Anthropic foi fundada em 2021 por ex-funcionários da OpenAI que acreditavam que, à medida que a IA avançasse, ela poderia se tornar problemática e perigosa. Embora os modelos atuais não sejam inteligentes o suficiente para assumir o controle total dos robôs, os modelos futuros poderão ser, diz Graham. Ele disse que estudar como as pessoas aproveitam o LLM para programar robôs poderia ajudar a indústria a se preparar para a ideia de que “os modelos eventualmente se tornarão auto-corporificados”, referindo-se à ideia de que a IA poderá um dia manipular sistemas físicos.
Ainda não está claro por que o modelo de IA iria querer controlar o robô e muito menos fazer algo malicioso com ele. Mas especular sobre os piores cenários faz parte da marca da Anthropic e ajuda a posicionar a empresa como um ator importante no movimento de IA responsável.
No experimento, batizado de Projeto Fetch, a Anthropic pediu a dois grupos de pesquisadores sem experiência anterior em robótica para controlar o Unitree Go2, um cão-robô quadrúpede, e programá-lo para realizar atividades específicas. As equipes tiveram acesso aos controladores e foram solicitadas a concluir tarefas cada vez mais complexas. Um grupo usou o modelo de codificação de Claude e o outro grupo escreveu código sem assistência de IA. O grupo que usou Claude foi capaz de completar algumas tarefas, mas não todas, mais rapidamente do que o grupo de programação apenas humano. Por exemplo, o robô foi capaz de andar e encontrar uma bola de praia, algo que um grupo exclusivamente humano não conseguiu descobrir.
A Anthropic também estudou a dinâmica de colaboração entre as duas equipes, registrando e analisando suas interações. Descobriram que o grupo que não teve acesso a Claude apresentou mais emoções negativas e confusão. Provavelmente porque Claude codificou uma conexão mais rápida com o robô e uma interface mais fácil de usar.
Apresentado por Antrópico
O robô Go2 usado nos experimentos da Anthropic custou US$ 16.900, o que é relativamente barato para os padrões dos robôs. Eles normalmente são implantados em setores como construção e manufatura para realizar inspeções remotas e patrulhas de segurança. Embora os robôs possam andar de forma autônoma, eles normalmente dependem de comandos de software de alto nível ou de um ser humano operando um controlador. Go2 é fabricado pela Unitree, com sede em Hangzhou, China. De acordo com um relatório recente da SemiAnalysis, seus sistemas de IA são atualmente os mais populares do mercado.
Os grandes modelos de linguagem que alimentam o ChatGPT e outros chatbots inteligentes normalmente geram texto ou imagens em resposta a solicitações. Mais recentemente, esses sistemas tornaram-se adeptos da geração de código e da manipulação de software, transformando-os em agentes e não apenas em geradores de texto.
