Embora a administração Trump possa pensar que a regulamentação está afetando duramente a indústria de IA, um dos maiores participantes do setor discorda.
Durante o grande evento de entrevistas da WIRED na quinta-feira, a presidente e cofundadora da Anthropic, Daniela Amodei, disse ao editor-chefe da WIRED, Steven Levy, que embora a IA do presidente Trump e o czar da criptografia, David Sachs, possam ter twittado que sua empresa está “executando uma sofisticada estratégia de aquisição regulatória baseada na disseminação do medo”, ele acredita que os esforços de sua empresa para destacar os perigos potenciais da IA estão fortalecendo a indústria.
“Temos sido inflexíveis desde o primeiro dia de que a IA tem um potencial incrível”, disse Amodei. “Queremos realmente que o mundo inteiro perceba as possibilidades, os benefícios positivos e os benefícios que a IA traz. Para fazer isso, temos que acertar as coisas difíceis. Temos que tornar os riscos gerenciáveis. E é por isso que falamos tanto sobre IA.”
Mais de 300.000 startups, desenvolvedores e empresas usam alguma versão do modelo Claude da Anthropic, e Amodei disse que a empresa aprendeu através de seu trabalho com essas marcas que, embora os clientes queiram que a IA ofereça grande funcionalidade, eles também querem confiabilidade e segurança.
“Ninguém diz: ‘Quero um produto menos seguro’”, disse Amodei, comparando os relatórios da Anthropic sobre limitações e jailbreaks em seus modelos com as empresas automobilísticas que divulgam estudos de testes de colisão para mostrar como abordam as questões de segurança. Assistir ao vídeo de um boneco de teste de colisão voando pela janela de um carro pode ser chocante, mas saber que a montadora atualizou os recursos de segurança do veículo como resultado do teste pode vender o carro aos compradores. Amodei disse que o mesmo se aplica às empresas que usam os produtos de IA da Anthropic, e que o mercado é auto-regulado até certo ponto.
“Estamos estabelecendo o que consideramos um padrão mínimo de segurança baseado unicamente no que estamos investindo na economia”, disse ela. As empresas “agora estão construindo muitos de seus fluxos de trabalho e tarefas diárias de ferramentas em torno da IA, e estão pensando: ‘Sabemos que este produto não causa tantas alucinações, não gera conteúdo prejudicial, não faz todas essas coisas ruins.'” Por que escolher um concorrente com pontuação mais baixa? ”
Foto: Annie Noelker
