A economia do "dedo gordo" na era da IA

Artigo publicado originalmente no site Pluralistic, em inglês. Traduzido e republicado pelo Núcleo sob licença Creative Commons, com concordância do autor. O texto manteve sua formatação original.

>> Acesse o artigo original aqui.

A frase "IA está sendo enfiada goela abaixo" pode significar muitas coisas. Pode significar que nossos chefes estão exigindo que utilizemos IA de forma imprudente ou sem sentido em nossos trabalhos:

https://www.404media.co/manifestos-fear-and-loser-thinking-inside-protons-ai-reckoning/

Pode significar que Elon Musk e o índice NASDAQ entraram em conluio para forçar pessoas que estão economizando para suas aposentadorias a resgatarem seus amigos árabe-emiradenses ou oligarcas da tecnologia:

https://www.nytimes.com/2026/06/05/technology/spacex-indexes-401k.html

Essas são, possivelmente, as principais formas como a IA é enfiada goela abaixo na gente, mas a forma mais visível de recrutamento compulsório para impulsionar o uso de IA acontece na camada da interface do usuário. Esse tipo de sacanagem em interfaces é anterior à IA. Há mais de uma década, empresas de tecnologia e seus executivos combinam entre si para enganar, coagir e forçar você a usar novos recursos que eles querem vender aos investidores como o futuro da empresa.

Lembra do Google Plus, a camada social que ia matar o Facebook e dar ao Google acesso a um mercado novo de trilhões de dólares? Bradley Horowitz, então um vice-presidente do Google, mandou todas as equipes de produto enfiarem o G+ em seus serviços e atrelou seus bônus ao uso do G+ (em empresas como o Google, o bônus pode ser maior que o salário-base).

💎 FAÇA PARTE DA COMUNIDADE DE APOIADORES DO NÚCLEO

Jornalismo crítico sobre tecnologia acontece com o apoio de pessoas como você. Apoie o Núcleo e construa com a gente um futuro mais humano.

Quero apoiar o Núcleo

Os googlers são gente inteligente e cheia de recursos, e se você disser a eles que podem dobrar seus ganhos fazendo usuários clicarem em botões do Google Plus, eles vão inventar todo tipo de artimanha para fazer isso acontecer. Alguns desses lances são parte do que Horowitz sem dúvida esperava: formas inovadoras e criativas de agregar valor aos produtos centrais do Google com recursos do G+.

Mas quando o que está em jogo é tão alto, a Lei de Goodhart inevitavelmente entra em cena: “Quando uma medida vira meta, ela deixa de ser uma boa medida”:

https://en.wikipedia.org/wiki/Goodhart%27s_law

O jeito mais fácil de fazer um usuário clicar num botão do G+ é trocar o botão que ele mais clica por uma versão com G+. Em vez de apresentar o Google Plus de um jeito que transforme usuários em fãs, você só os frustra, enganando-os a clicar num botão inútil.

Do ponto de vista de um gerente de produto, qualquer mudança é válida para garantir que seu salário seja dobrado porque você atingiu o principal indicador de desempenho (KPI, na sigla em inglês), mesmo às custas da lealdade dos usuários ao produto. Preservar a lealdade do usuário ao custo de metade da sua renda é um mau negócio.

Quando um sistema de aprendizado de máquina faz isso, chamamos de “reward hacking”. Programadores de IA criam uma “função objetivo” para o sistema, um único número que ele vai tentar de tudo para aumentar; frequentemente, o programa encontra atalhos perversos pra fazer o número subir, independentemente de cumprir o objetivo do programador:

https://en.wikipedia.org/wiki/Reward_hacking

PUBLI DO NÚCLEO

O Atelier Núcleo é um estúdio de newsletters que desenha e opera newsletters de ponta a ponta — estratégia, texto, design, envio e análise — transformando listas de e-mail em canais de conteúdo original, distribuição e comunidade.

Saiba mais

Por exemplo, se você pede pra uma IA achar o caminho mais curto pra zerar um videogame, ela pode muito bem descobrir um bug que a torna imune aos ataques dos inimigos ou que simplesmente a teletransporta pro fim do jogo. Pra evitar esses resultados perversos, os programadores precisam deixar as funções objetivo cada vez mais específicas: “zere o jogo o mais rápido possível, sem teletransporte e sem descobrir hacks de imortalidade.”

Não por acaso, muitos autores de ficção científica (eu incluso) já notaram que o medo que os chefes de tecnologia têm de seus próprios sistemas de IA é uma espécie de contaminação emocional de suas frustrações em relação às corporações que dirigem, nas quais subordinados praticam o mesmo tipo de reward hacking que vemos nos chatbots:

https://pluralistic.net/2025/04/14/timmy-share/#a-superior-moral-justification-for-selfishness

Apesar da facilidade com que métricas podem ser manipuladas, os chefes de tecnologia seguem comprometidos com o uso de KPIs para mudar as prioridades de suas organizações, e eles usam a mesma técnica de refinamento de função objetiva que os programadores aplicam em IAs que fazem reward hacking, a fim de tentar impedir que os funcionários trapaceiem batendo os KPIs de qualquer jeito.

Isso explica muito da experiência de assistir a um vídeo no celular. Toda vez que você abre um programa numa plataforma de streaming, você é forçado a segurar o aparelho com a delicadeza de quem manuseia um negativo fotográfico. Se qualquer parte da sua mão encostar em qualquer parte da tela, você será imediatamente transportado do vídeo que estava vendo pra outro completamente diferente:

https://pluralistic.net/2022/05/15/the-fatfinger-economy/

Pior: depois que o seu episódio for substituído por um novo, não existe um jeito óbvio de voltar ao que você estava vendo. Isso é bem estranho, considerando que o “botão de voltar” faz parte das interfaces de computador desde 1981:

https://www.merriam-webster.com/dictionary/back%20button

O motivo de não haver botão de voltar é reward hacking. As plataformas de streaming sofrem uma pressão enorme para recomendar o catálogo antigo aos usuários, porque a alternativa (encomendar ou comprar um fluxo constante de séries novas e populares) é muito cara. Os investidores dão muito peso à taxa de “recomendação bem-sucedida” dos serviços de streaming.

Dessa forma, os chefes dos streamings encarregam as equipes de produto de garantir “recomendações bem-sucedidas”. O jeito mais fácil de “recomendar uma série” é encher de armadilhas a interface do serviço, de modo que tocar em qualquer parte da tela leve você a um vídeo que você nunca pediu pra ver.

Esse é um reward hacking óbvio, então os chefes do streaming refinaram a função objetiva: passaram a condicionar os bônus das equipes a fazer você assistir ao novo vídeo por um tempo mínimo. Isso, por sua vez, gerou a rodada seguinte das guerras de reward hacking, em que as equipes de produto tiraram o botão de voltar. Isso dá a usuários uma porção de recursos que os levam embora pra um vídeo novo. Pra voltar ao vídeo antigo, são obrigados a se virarem com os botões.

Essa é a chamada 'economia do dedo gordo' (fatfinger economy): criada nos anos 2010 por equipes de grandes empresas de tecnologia com chefes obcecados por KPIs; refinada nos anos 2020 por equipes de empresas de streaming obcecadas com o resultado financeiro; e agora aperfeiçoada por equipes encarregadas de enfiar IA em cada canto das nossas vidas:

https://pluralistic.net/2025/05/02/kpis-off/#principal-agentic-ai-problem

A economia do dedo gordo é uma beneficiária extraordinária da corrida pra adicionar “telemetria” em todos os nossos apps. Hoje, o desenvolvedor de um app abre um painel e descobre quais botões, campos e sliders são mais usados, e usa essa lista pra decidir quais botões trocar por cópias que acionam sua IA, ajudando as equipes de produto a “provarem” aos seus chefes que “integraram IA com sucesso”, e permitindo que os chefes provem aos investidores que “os usuários valorizam recursos de IA”.

Recentemente troquei o Android pelo Graphene, um sistema operacional de celular sem Google. Os mantenedores do Graphene vivem livres da obrigação de mostrar que “os usuários valorizam recursos de IA”, e é por isso que nunca invoquei sem querer uma IA forçada ao tocar num elemento da interface do Graphene.

A história é diferente quando se trata de apps. O Graphene tem várias formas de instalar apps, incluindo pela Google Play (a loja padrão do Android). Isso é útil porque deixa você instalar seus antigos apps de Android depois da troca para o Graphene, mas também te deixa exposto à economia do dedo gordo.

Semana passada, levei um lembrete doloroso do avanço da economia do dedo gordo fora do universo utópico do Graphene. Eu uso muito um app chamado “Genius Scanner”, que me deixa escanear recibos e mandar por e-mail pra mim mesmo (faço isso o tempo todo porque, como freelancer, preciso controlar um monte de despesas diferentes). Comprei uma assinatura vitalícia do Genius Scanner em 2023, depois de me queimar com o Camscanner (meu app de escaneamento anterior, hoje merdificado [enshittified]), e estava perfeitamente feliz… até agora.

O Genius Scanner está claramente sob pressão pra impulsionar a adoção de IA. Dá pra notar porque removeram o elemento de interface mais importante e botaram no lugar um botão de IA pior que inútil.

Eu uso o Genius Scanner assim: aperto o botão “novo scan” e enquadro o recibo na tela. Depois aperto o botão “renomear”, que abre um campo preenchido com a data e a hora atuais (16 caracteres no total). Esse texto vinha selecionado, de modo que tocar no “x” ao lado dele apagava tudo, facilitando dar um título ao novo ao documento escaneado. Depois era só mandar por e-mail pra mim mesmo.

Só que, desde a semana passada, não existe mais botão pra apagar a data e a hora e digitar um título útil. Aquele pequeno “x” foi substituído por um botão que abre um anúncio das novas ferramentas de IA da empresa, que custam US$ 40 por ano. Não há como avisar ao sistema que não você não tem interesse em comprar uma nova assinatura de uma ferramenta pela qual já pagou uma assinatura vitalícia, e não há como trazer o pequeno “x” de volta.

Deixando claro: aquele “x” representa um quarto do meu fluxo de escaneamento de recibos. Trocaram por um anúncio de um recurso de IA com assinatura nova e me deram 16 toques extras no backspace pra substituir um único toque no “x”. Já vi esse anúncio umas 100 vezes até agora, porque continuo tocando no lugar onde ficava o “x”.

Tenho certeza de que a empresa sabia que seus clientes pagantes dependiam do “x” pra realizar uma função vital em qualquer app de escaneamento (dar bons títulos descritivos aos scans). Eles precisam que o número de usuários de IA cresça, então trocaram o “x” pelo anúncio de IA, o que vai permitir que digam aos investidores que há “forte interesse dos consumidores em seus recursos de IA”.

Enquanto isso, eles já receberam meu dinheiro, então não tenho como puni-los por terem me ferrado pra maquiar uma estatística sem sentido. É um exemplo tão claro (e deprimente) do princípio que diz “mesmo pagando pelo produto, você continua sendo o produto”.

É também uma lição perfeita de como as empresas conseguem reportar interesse e uso crescentes de IA sem gerar interesse nem uso nenhum. Na economia do dedo gordo, toda métrica vira meta e, por isso, torna-se sem sentido.

Este texto foi traduzido do inglês com auxílio de inteligência artificial e integralmente revisado e editado por editores humanos, seguindo nossa política aberta de uso de inteligência artificial.

Editado por Sérgio Spagnuolo