tectectec.xyz/qualquer nota

Eu não tinha visto isso aqui ainda e é de domingo, mas merece destaque. É um trecho de uma entrevista do CTO da Palantir, Shyam Sankar, ao programa Face the Nation da rede americana CBS. A Palantir tem entre seus clientes o Departamento de Defesa dos Estados Unidos e as forças armadas israelenses, por exemplo, o que já diz muito, mas vamos à fala de Sankar:

Muitos pesquisadores de inteligência artificial (IA) começaram a fumar como um modo de sinalizar a outros pesquisadores o quanto eles acreditam na IA. Acreditam que ela vai curar o câncer.

E são também de uma cretinice comovente, mas isso Sankar não disse.

O Cinco de ontem trouxe um link para uma notícia de que a Anthropic atualizou sua política de uso para proibir “comportamentos abusivos ou cruéis, contínuos e desnecessários”. A regra vale apenas para casos extremos e repetidos, e o Claude pode encerrar a conversa quando detectar tais comportamentos. É importante ressaltar que essa regra não trata do uso do Claude para maltratar alguém — o protegido é o próprio Claude.

A atitude da Anthropic com os seus modelos não é nova. Em janeiro a empresa havia publicado uma "constituição" para o Claude. É um documento que, segundo ela, foi escrito “principalmente para o Claude” e funciona como autoridade final sobre seu comportamento. O texto discorre sobre valores, identidade, segurança psicológica, o senso do modelo "sobre si mesmo" e o seu "bem-estar". Lá pelo fim do documento a Anthropic chega ao cúmulo de pedir desculpas caso o Claude realmente sofra e a empresa esteja lhe causando algum dano.

Digamos que a sua torradeira e a sua batedeira não tenham uma constituição nem uma proteção contra maus-tratos. Se alguém passa a tarde insultando eletrodomésticos, é possível que o problema esteja na pessoa e no modo como ela escolheu passar a sua tarde. Isso não quer dizer que os eletrodomésticos foram traumatizados.

Riccardo Mori resumiu bem o problema: quando um chatbot diz algo que parece inteligente, enxergar uma inteligência ali é pareidolia. “Você está vendo um rosto no céu - é apenas uma formação de nuvens.” A Anthropic realmente acredita ter visto um rosto ali. Escreveu uma constituição inteira para uma ilusão e agora a protege de maus-tratos. Mas continua sendo uma nuvem.

A entrevista com David Robinson, que trabalhava com a segurança dos modelos da OpenAI e decidiu sair da empresa por não concordar com seus métodos, expôs um problema inerente à indústria de tecnologia e aos seus líderes. De modo geral, os valores investidos pelos capitalistas de risco e seus fundos (VCs) fazem com que o que realmente importe nessas empresas seja o retorno potencial numa oferta pública inicial (IPO), e não quaisquer outras considerações "menores", como a segurança dos usuários ou os danos que o produto pode causar.

Os líderes da maioria das empresas de tecnologia percebem os investimentos como uma validação de si mesmos e não entendem conceitos como empatia ou responsabilidade social. Isso aparece no relato do ativista Arturo Béjar, que trabalhou com Mark Zuckerberg no Facebook durante oito anos e atualmente luta para proteger menores dos malefícios das redes sociais:

Não dava para dizer ao Mark algo como: "Olha, temos que fazer algo para evitar suicídios porque é a coisa certa a ser feita." Tudo precisava ser colocado em números. Essa era a língua dele. Era como ele se relacionava com as coisas e é também o que está por trás de toda essa dor no mundo atual. (...) Não me lembro de ele demonstrar qualquer empatia pelo sofrimento de uma pessoa e querer melhorar as coisas... ele só queria vencer.

A prioridade é sempre crescer. O modo não importa. Compaixão e responsabilidade são para os fracos.

Andrea Kimi Antonelli, piloto de Fórmula 1 da equipe Mercedes, completou 20 anos há duas semanas. Hoje ele se tornou o primeiro piloto italiano a ganhar o Grande Prêmio da Itália em 60 anos — o que não é pouco, mas ele largou da 19ª posição e ultrapassou quase todo mundo. Quem sabe ele consiga fazer com que a Itália largue esse relacionamento abusivo com a Ferrari.

Kimi já é o mais jovem piloto a liderar uma corrida de F1 (Japão, 2025), o mais jovem a fazer a volta mais rápida (também no Japão), o mais jovem a fazer uma pole (China, 2026) e o mais jovem a liderar o campeonato de F1 (depois da corrida do Japão nesse ano). Se ele tem futuro? Tem, demais, e esse futuro já chegou.