IA continua fazendo merda

Empresas de inteligência artificial aparentemente não conseguem querem conter seus grandes modelos de linguagem.

Dois novos casos chamaram atenção essa semana, ambos da Anthropic:

1. Um modelo de IA da empresa deu dicas falsas à polícia da Filadélfia sobre um homicídio não solucionado;
2. Em outro caso, os modelos preencheram vários formulários de pedidos de vistos americanos (cada pedido de visto tem custo de revisão).

Nos últimos meses, vieram à tona informações de que modelos da Anthropic, OpenAI, Google e Meta hackearam websites e fizeram um monte de ações não autorizadas (e aparentemente não supervisionadas) a fim de cumprir tarefas em fase de testes.

Vai saber o que mais esses modelos estão aprontando por aí.

Via The Verge e The New York Times