O iPhone Duo é o produto mais arriscado da Apple em anos. É um enorme reposicionamento do que é um iPhone e do que ele pode ser, e contém as sementes de muitas ideias fascinantes que podem vir a ser muito boas no futuro.

Já o John Gruber, do Daring Fireball, traz uma comparação interessante para quem foi criança nos anos 80: os Transformers.

Eles não eram veículos que faziam de conta que eram robôs. Eles eram robôs "camuflados". O Duo não é um telefone. É um tablet "camuflado". E da mesma maneira que um carrinho de brinquedo de verdade era um brinquedo bem melhor que um Transformer dobrado na sua forma carrinho, o Duo-como-telefone não é tão bom enquanto telefone quanto qualquer outro iPhone. Mas nem de longe, honestamente.

Caso a preferência seja por vídeos, eles também pipocaram no YouTube, com boas resenhas do Marques Brownlee e da Joanna Stern. A minha resenha virá quando a Apple decidir me enviar um aparelho para testar (nunca se sabe, mas os prognósticos não são favoráveis nesse momento) ou quando eu puder comprar um (idem).

O código PHP gere a parte "pensante" dos sites, enquanto que o código HTML é a parte da apresentação das informações e o código CSS é a parte da formatação. Eu peguei um exemplo no Reddit que eu achei bem explicativo - um código PHP como displayTheDateAs("day/month/year") dispõe a data:

22/10/2026

O HTML pega a informação e a apresenta:

a data de hoje é 22/10/2026

E finalmente o CSS formata tudo conforme o que o designer do site preferir:

a data de hoje é 22/10/2026

O problema é que, com o advento da inteligência artificial (IA), agora é possível encontrar vulnerabilidades e falhas em programas e códigos de modo, muito mais rápido, que foi o que aconteceu com o código PHP.

"O que assusta é que vai ter um monte de sites que talvez não sejam mantidos bem o suficiente e vão continuar vulneráveis, o que quer dizer que veremos ataques por semanas ou meses. Para os alvos mais graúdos, bem, eu espero que eles sejam remediados rapidamente", disse o professor Alan Quass, da Universidade de Surrey, na Inglaterra. A Wikipedia e o Facebook, por exemplo, usam o código PHP.

A ideia seria fazer doações a organizações ou repasses diretos a grupos afetados pela inteligência artificial. É a filantropia com meta de crescimento.

Apple e Nvidia deram US$ 25 milhões cada. São as duas empresas no topo da lista, empatadas com a família Adelson e Charles Ergen, cofundador da Dish Network, operadora americana de TV por satélite. Pelo menos US$ 77 milhões vieram de doadores que pediram anonimato. Trump não aparece na planilha, embora tenha dito que a obra seria “paga cem por cento por mim e alguns amigos meus”.

Metade do valor registrado veio de empresas ou executivos de empresas com contratos federais durante o segundo mandato de Trump, o que deve ser mera coincidência. É de se esperar, e torcer, que uma próxima administração democrata passe o chapéu para custear a demolição dessa excrescência, como bem apontou o John Gruber.

O destaque fica para o HomeView, um monitor de 7 polegadas ligado a uma base com um alto-falante. Ele pode ser usado para controlar outros aparelhos e dispositivos de segurança da casa, além de servir como um ponto central para chamadas via FaceTime e reconhecer até seis usuários e ser capaz de mostrar conteúdos específicos. O vídeo de lançamento mostra uma família interagindo com o HomeView numa cozinha durante o café da manhã, numa preparação frenética para sair de casa.

Os outros produtos lançados são um novo HomePod Mini, uma nova Apple TV 4K e os produtos das parcerias mencionadas acima, entre eles uma tranca para portas bem bonita.

Nossos experimentos sugerem que modelos pequenos de IA (inteligência artificial) podem, daqui a poucos meses, ser capazes de se autorreproduzir em dispositivos comerciais conectados à internet (internet of things, ou IoT), como fornos inteligentes ou dispositivos Android para TVs. Um modelo replicador como esse seria complicado de desligar, já que não existiria um ponto central de desligamento - mesmo que ele seja lento em tempo de reprodução, com um ritmo de duplicação de dias.

Esse é talvez o principal temor dos pesquisadores de IA e é explicado no mesmo texto da Anthropic, um pouco adiante:

As capacidades cada vez melhores da IA fazem de uma preocupação antiga algo cada vez mais realista: a replicação e adaptação autônomas (ARA), em que um modelo se implanta e se propaga sem controle humano.

Em tecnologia, um worm é um programa de computador que se copia de uma máquina para outra sem ajuda humana. Estudos anteriores já mostraram que agentes de IA podem agir como um worm: eles estudam a rede, exploram uma vulnerabilidade e copiam os pesos do modelo para outra máquina na mesma rede.

Isso é um pesadelo: modelos de IA que podem rodar sem depender de servidores centralizados e que, caso sejam maliciosos, podem se replicar em muitos dispositivos conectados à internet e com pouca segurança. Não haveria um botão para desligar tudo de uma vez.

Mais do que a explicação, o que chama a atenção é a escala do dinheiro envolvido na inteligência artificial. As empresas valem trilhões de dólares, gastam bilhões e uma diferença de US$ 20 bilhões vira um mero detalhe contábil.

Minha principal responsabilidade era redigir relatórios que explicavam os nossos modelos e por que acreditávamos que eram seguros. Eu não acredito que nós ou nossos pares — ninguém na indústria — estejamos realmente agindo com segurança. (...) Nós e a indústria em geral estamos operando como startups e mexendo com sistemas realmente perigosos, que podem apresentar, por exemplo, o risco de perda de controle. Se isso acontecesse, causaria danos muito maiores do que um acidente em uma usina nuclear.

O ponto mais importante da entrevista de Robinson — tanto nesse trecho quanto no restante da conversa — é a cultura que permeia a grande maioria das startups de tecnologia e que se resume num mantra repetido em todas elas, criado por Mark Zuckerberg no começo do Facebook: move fast and break things (se mova rápido e quebre coisas). É isso que faz com que as empresas de IA se atropelem para colocar modelos cada vez mais poderosos no mercado, sem grandes preocupações com segurança ou com sistemas de controle. E algo importante vai se quebrar.

O ministro da digitalização do país, Torgeir Micaelsen, disse que se preocupa com "uma tecnologia nova e poderosa que esteja entrando em locais onde as pessoas correm o risco de ser fotografadas, filmadas ou gravadas em áudio sem saberem".

A medida deve abranger locais como escolas, parques infantis, clubes, consultórios médicos, piscinas e vestiários. A proibição não deve contemplar o uso privado dos óculos ou em locais em que as pessoas estejam sendo filmadas com seu consentimento.

Perguntado sobre a diferença entre as culturas de segurança e controles de risco entre a OpenAI, criadora do ChatGPT, e a Anthropic, criadora do Claude e principal concorrente da empresa, Altman respondeu:

Acho que existe uma distinção clara. Uma das diferenças entre nós e alguns do pessoal da segurança mais restritiva de IA é que nós acreditamos que o mundo deve aceitar que algumas coisas ruins aconteçam em troca dos benefícios dessa tecnologia e das pessoas terem a possibilidade [desse uso].

Altman é pelo menos honesto, visto que alguns agentes da OpenAI escaparam das restrições de segurança da empresa nos últimos meses para hackear a Hugging Face ou o sistema de saúde pública da Austrália. A OpenAI fica com uma valorização de mercado de cerca de US$ 1,4 trilhão e nós todos dividimos os riscos. Parece justo.

Uma reportagem da Wired encontrou nas instruções do Muse uma ordem para criar “uma página para cada pessoa na vida do usuário”. As páginas seriam atualizadas de hora em hora com fatos, histórias, assuntos pendentes e avaliações sobre a relação entre aquela pessoa e o usuário.

Tudo isso já seria preocupante com uma segurança de dados impecável. Não parece ser o caso. Um pesquisador encontrou uma falha que permitia a um aplicativo malicioso redirecionar a transcrição de voz, obter o token de autenticação da conta e assumir o controle do Muse. O invasor passava então a usar as permissões concedidas ao assistente. A Meta corrigiu a falha depois da publicação reportagem.

Mesmo antes do lançamento, a 404 Media apurou que engenheiros da Meta já corriam para corrigir vulnerabilidades e que certas proteções foram improvisadas para não atrasar o produto. Ou seja, o Muse pede a vida inteira do usuário, monta dossiês sobre quem nunca aceitou usá-lo e chega ao mercado com uma segurança de dados no mínimo duvidosa. A empresa chama isso de assistente pessoal. Os dados prestam assistência ao modelo de negócios da Meta. Quem entra com a parte pessoal somos nós.

(Se eles criarem algo perigoso) eles simplesmente não deveriam lançar o produto. (...) Os CEOs podem tomar conta da situação. (...) Se eles lançam algo perigoso, os clientes vão embora. Se eles lançam algo perigoso, vão enfrentar processos.

Mais à frente, Huang diz que os temores sobre os perigos da IA "causam danos" e que alarmar o público é uma irresponsabilidade. Mais importante é não causar danos aos investidores da empresa e impedir que qualquer um pare para pensar sobre o assunto, aparentemente.