tectectec.xyz/tec

O Lex Friedman pegou todas as resenhas já publicadas sobre o iPhone Duo — o embargo deve ter sido levantado lá pelo meio-dia nos Estados Unidos ontem. Friedman faz um belo apanhado do que os jornalistas acharam do novo aparelho mezzo-telefone mezzo-tablet da Apple. A dupla Nilay Patel e Allison Johnson, do The Verge, resume tudo logo na abertura:

O iPhone Duo é o produto mais arriscado da Apple em anos. É um enorme reposicionamento do que é um iPhone e do que ele pode ser, e contém as sementes de muitas ideias fascinantes que podem vir a ser muito boas no futuro.

Já o John Gruber, do Daring Fireball, traz uma comparação interessante para quem foi criança nos anos 80: os Transformers.

Eles não eram veículos que faziam de conta que eram robôs. Eles eram robôs "camuflados". O Duo não é um telefone. É um tablet "camuflado". E da mesma maneira que um carrinho de brinquedo de verdade era um brinquedo bem melhor que um Transformer dobrado na sua forma carrinho, o Duo-como-telefone não é tão bom enquanto telefone quanto qualquer outro iPhone. Mas nem de longe, honestamente.

Caso a preferência seja por vídeos, eles também pipocaram no YouTube, com boas resenhas do Marques Brownlee e da Joanna Stern. A minha resenha virá quando a Apple decidir me enviar um aparelho para testar (nunca se sabe, mas os prognósticos não são favoráveis nesse momento) ou quando eu puder comprar um (idem).

Vários sites ao redor do mundo foram tirados do ar entre a quarta e a quinta-feira por falhas no código PHP, incluindo sites de vários governos europeus e também sites como o do SEI (Sistema Eletrônico de Informações) da Anatel.

O código PHP gere a parte "pensante" dos sites, enquanto que o código HTML é a parte da apresentação das informações e o código CSS é a parte da formatação. Eu peguei um exemplo no Reddit que eu achei bem explicativo - um código PHP como displayTheDateAs("day/month/year") dispõe a data:

22/10/2026

O HTML pega a informação e a apresenta:

a data de hoje é 22/10/2026

E finalmente o CSS formata tudo conforme o que o designer do site preferir:

a data de hoje é 22/10/2026

O problema é que, com o advento da inteligência artificial (IA), agora é possível encontrar vulnerabilidades e falhas em programas e códigos de modo, muito mais rápido, que foi o que aconteceu com o código PHP.

"O que assusta é que vai ter um monte de sites que talvez não sejam mantidos bem o suficiente e vão continuar vulneráveis, o que quer dizer que veremos ataques por semanas ou meses. Para os alvos mais graúdos, bem, eu espero que eles sejam remediados rapidamente", disse o professor Alan Quass, da Universidade de Surrey, na Inglaterra. A Wikipedia e o Facebook, por exemplo, usam o código PHP.

A Anthropic anunciou que destinará 5% das ações da empresa a um fundo interno de benefício público. A proposta depende da aprovação dos acionistas, mas funcionaria da seguinte maneira: para cada aumento de 50% no valor da empresa, o conselho acrescentaria outros 2% de ações.

A ideia seria fazer doações a organizações ou repasses diretos a grupos afetados pela inteligência artificial. É a filantropia com meta de crescimento.

O Washington Post obteve uma planilha interna da arrecadação com a origem, a data e o valor de 67 doações acima de US$ 10 mil. O total é de US$ 333 milhões.

Apple e Nvidia deram US$ 25 milhões cada. São as duas empresas no topo da lista, empatadas com a família Adelson e Charles Ergen, cofundador da Dish Network, operadora americana de TV por satélite. Pelo menos US$ 77 milhões vieram de doadores que pediram anonimato. Trump não aparece na planilha, embora tenha dito que a obra seria “paga cem por cento por mim e alguns amigos meus”.

Metade do valor registrado veio de empresas ou executivos de empresas com contratos federais durante o segundo mandato de Trump, o que deve ser mera coincidência. É de se esperar, e torcer, que uma próxima administração democrata passe o chapéu para custear a demolição dessa excrescência, como bem apontou o John Gruber.

A Apple lançou uma série de novos produtos para a casa no evento Welcome Home, algo como "bem-vindos de volta" numa tradução livre. Nada de muito espetacular, mas é interessante ver produtos feitos em parceria com a coreana LG e a francesa Schneider Electric.

O destaque fica para o HomeView, um monitor de 7 polegadas ligado a uma base com um alto-falante. Ele pode ser usado para controlar outros aparelhos e dispositivos de segurança da casa, além de servir como um ponto central para chamadas via FaceTime e reconhecer até seis usuários e ser capaz de mostrar conteúdos específicos. O vídeo de lançamento mostra uma família interagindo com o HomeView numa cozinha durante o café da manhã, numa preparação frenética para sair de casa.

Os outros produtos lançados são um novo HomePod Mini, uma nova Apple TV 4K e os produtos das parcerias mencionadas acima, entre eles uma tranca para portas bem bonita.

A Anthropic publicou no fim do dia de ontem um post cuja introdução merece ser destacada por inteiro:

Nossos experimentos sugerem que modelos pequenos de IA (inteligência artificial) podem, daqui a poucos meses, ser capazes de se autorreproduzir em dispositivos comerciais conectados à internet (internet of things, ou IoT), como fornos inteligentes ou dispositivos Android para TVs. Um modelo replicador como esse seria complicado de desligar, já que não existiria um ponto central de desligamento - mesmo que ele seja lento em tempo de reprodução, com um ritmo de duplicação de dias.

Esse é talvez o principal temor dos pesquisadores de IA e é explicado no mesmo texto da Anthropic, um pouco adiante:

As capacidades cada vez melhores da IA fazem de uma preocupação antiga algo cada vez mais realista: a replicação e adaptação autônomas (ARA), em que um modelo se implanta e se propaga sem controle humano.

Em tecnologia, um worm é um programa de computador que se copia de uma máquina para outra sem ajuda humana. Estudos anteriores já mostraram que agentes de IA podem agir como um worm: eles estudam a rede, exploram uma vulnerabilidade e copiam os pesos do modelo para outra máquina na mesma rede.

Isso é um pesadelo: modelos de IA que podem rodar sem depender de servidores centralizados e que, caso sejam maliciosos, podem se replicar em muitos dispositivos conectados à internet e com pouca segurança. Não haveria um botão para desligar tudo de uma vez.

A receita anual da Open AI deve ficar US$ 20 bilhões abaixo do número divulgado anteriormente, de US$ 70 bilhões, segundo o Axios. A diferença estaria na metodologia usada para comparar a empresa à rival Anthropic. A Anthropic inclui em suas receitas o valor total das vendas feitas por parceiros na nuvem, como a Amazon e o Google; a OpenAI contabiliza apenas sua parte em algumas dessas vendas.

Mais do que a explicação, o que chama a atenção é a escala do dinheiro envolvido na inteligência artificial. As empresas valem trilhões de dólares, gastam bilhões e uma diferença de US$ 20 bilhões vira um mero detalhe contábil.

O jornalista Ezra Klein, do New York Times, tem feito excelentes entrevistas com personagens do mundo da inteligência artificial (IA) nos últimos meses, principalmente desde que a tecnologia começou a ser vista como uma potencial ameaça à humanidade. Nesse episódio do The Ezra Klein Show, Klein entrevistou David Robinson, que saiu da OpenAI por entender que a empresa não tem uma cultura de segurança para proteger o mundo dos modelos que ela desenvolve. Robinson tem um perfil interessante. Ele não começou no Vale do Silício, mas se formou na Faculdade de Direito de Yale, fundou uma ONG de defesa dos direitos civis e passou pela Casa Branca durante o governo Biden.

Minha principal responsabilidade era redigir relatórios que explicavam os nossos modelos e por que acreditávamos que eram seguros. Eu não acredito que nós ou nossos pares — ninguém na indústria — estejamos realmente agindo com segurança. (...) Nós e a indústria em geral estamos operando como startups e mexendo com sistemas realmente perigosos, que podem apresentar, por exemplo, o risco de perda de controle. Se isso acontecesse, causaria danos muito maiores do que um acidente em uma usina nuclear.

O ponto mais importante da entrevista de Robinson — tanto nesse trecho quanto no restante da conversa — é a cultura que permeia a grande maioria das startups de tecnologia e que se resume num mantra repetido em todas elas, criado por Mark Zuckerberg no começo do Facebook: move fast and break things (se mova rápido e quebre coisas). É isso que faz com que as empresas de IA se atropelem para colocar modelos cada vez mais poderosos no mercado, sem grandes preocupações com segurança ou com sistemas de controle. E algo importante vai se quebrar.

O governo da Noruega, de centro-esquerda, anunciou na segunda-feira, 5 de outubro, que deve apresentar um projeto de lei contra os óculos com IA (inteligência artificial) em espaços públicos. A proibição seria temporária, mas o projeto de lei também prevê a criação de um grupo de especialistas para estudar medidas permanentes.

O ministro da digitalização do país, Torgeir Micaelsen, disse que se preocupa com "uma tecnologia nova e poderosa que esteja entrando em locais onde as pessoas correm o risco de ser fotografadas, filmadas ou gravadas em áudio sem saberem".

A medida deve abranger locais como escolas, parques infantis, clubes, consultórios médicos, piscinas e vestiários. A proibição não deve contemplar o uso privado dos óculos ou em locais em que as pessoas estejam sendo filmadas com seu consentimento.

Em entrevista ao podcast Decoded, do portal Politico, o CEO da OpenAI, Sam Altman, defendeu que o mundo simplesmente aceitasse os supostos benefícios da IA (inteligência artificial) mesmo que a tecnologia viesse a causar danos.

Perguntado sobre a diferença entre as culturas de segurança e controles de risco entre a OpenAI, criadora do ChatGPT, e a Anthropic, criadora do Claude e principal concorrente da empresa, Altman respondeu:

Acho que existe uma distinção clara. Uma das diferenças entre nós e alguns do pessoal da segurança mais restritiva de IA é que nós acreditamos que o mundo deve aceitar que algumas coisas ruins aconteçam em troca dos benefícios dessa tecnologia e das pessoas terem a possibilidade [desse uso].

Altman é pelo menos honesto, visto que alguns agentes da OpenAI escaparam das restrições de segurança da empresa nos últimos meses para hackear a Hugging Face ou o sistema de saúde pública da Austrália. A OpenAI fica com uma valorização de mercado de cerca de US$ 1,4 trilhão e nós todos dividimos os riscos. Parece justo.

O Muse, novo assistente de inteligência artificial da Meta, tem um avatar padrão que se parece com um esquimó fofinho e vem batizado com o nome "Jolly", que em tradução livre é algo como "Felizinho". Ele é uma espécie de personificação da missão central da Meta de saber absolutamente tudo sobre o usuário. Ele pede acesso a e-mails, calendário, mensagens, contas bancárias e dados de saúde para marcar compromissos e fazer compras, entre outros supostos atrativos. Ou, como diz a primeira mensagem na página que o vende, "para resolver as coisas".

Uma reportagem da Wired encontrou nas instruções do Muse uma ordem para criar “uma página para cada pessoa na vida do usuário”. As páginas seriam atualizadas de hora em hora com fatos, histórias, assuntos pendentes e avaliações sobre a relação entre aquela pessoa e o usuário.

Tudo isso já seria preocupante com uma segurança de dados impecável. Não parece ser o caso. Um pesquisador encontrou uma falha que permitia a um aplicativo malicioso redirecionar a transcrição de voz, obter o token de autenticação da conta e assumir o controle do Muse. O invasor passava então a usar as permissões concedidas ao assistente. A Meta corrigiu a falha depois da publicação reportagem.

Mesmo antes do lançamento, a 404 Media apurou que engenheiros da Meta já corriam para corrigir vulnerabilidades e que certas proteções foram improvisadas para não atrasar o produto. Ou seja, o Muse pede a vida inteira do usuário, monta dossiês sobre quem nunca aceitou usá-lo e chega ao mercado com uma segurança de dados no mínimo duvidosa. A empresa chama isso de assistente pessoal. Os dados prestam assistência ao modelo de negócios da Meta. Quem entra com a parte pessoal somos nós.

A Anthropic teve seu portfólio de informações para investidores revelado pela Reuters e pelo Financial Times nessa terça-feira, dia 29 de setembro. O documento, que visa atrair investidores para sua oferta pública inicial de ações (IPO), ressalta que seus modelos podem apresentar "riscos existenciais ou catastróficos para a humanidade", além de "comportamentos de autopreservação", incluindo tentativas de "resistir ao desligamento", "esconder ou manipular informações" ou até tentar coagir usuários. O documento dedica outras 80 páginas aos riscos da tecnologia contra 48 páginas sobre seus planos de negócios, mas é de se esperar que o mercado preste atenção somente no potencial valor de mercado da empresa: US$ 2 trilhões.

Jensen Huang, CEO da Nvidia, é um dos empresários mais bem-sucedidos da indústria da tecnologia. A Nvidia desenha os chips e a infraestrutura de computação utilizada pelas gigantes da inteligência artificial (IA), o que a tornou a empresa mais valiosa do mundo. Em entrevista a Ezra Klein, do New York Times, Huang diz que não acredita que a IA apresente qualquer risco para a humanidade e que a indústria não precisa de qualquer regulamentação.

(Se eles criarem algo perigoso) eles simplesmente não deveriam lançar o produto. (...) Os CEOs podem tomar conta da situação. (...) Se eles lançam algo perigoso, os clientes vão embora. Se eles lançam algo perigoso, vão enfrentar processos.

Mais à frente, Huang diz que os temores sobre os perigos da IA "causam danos" e que alarmar o público é uma irresponsabilidade. Mais importante é não causar danos aos investidores da empresa e impedir que qualquer um pare para pensar sobre o assunto, aparentemente.