O jornalista Ezra Klein, do New York Times, tem feito excelentes entrevistas com personagens do mundo da inteligência artificial (IA) nos últimos meses, principalmente desde que a tecnologia começou a ser vista como uma potencial ameaça à humanidade. Nesse episódio do The Ezra Klein Show, Klein entrevistou David Robinson, que saiu da OpenAI por entender que a empresa não tem uma cultura de segurança para proteger o mundo dos modelos que ela desenvolve. Robinson tem um perfil interessante. Ele não começou no Vale do Silício, mas se formou na Faculdade de Direito de Yale, fundou uma ONG de defesa dos direitos civis e passou pela Casa Branca durante o governo Biden.
Minha principal responsabilidade era redigir relatórios que explicavam os nossos modelos e por que acreditávamos que eram seguros. Eu não acredito que nós ou nossos pares — ninguém na indústria — estejamos realmente agindo com segurança. (...) Nós e a indústria em geral estamos operando como startups e mexendo com sistemas realmente perigosos, que podem apresentar, por exemplo, o risco de perda de controle. Se isso acontecesse, causaria danos muito maiores do que um acidente em uma usina nuclear.
O ponto mais importante da entrevista de Robinson — tanto nesse trecho quanto no restante da conversa — é a cultura que permeia a grande maioria das startups de tecnologia e que se resume num mantra repetido em todas elas, criado por Mark Zuckerberg no começo do Facebook: move fast and break things (se mova rápido e quebre coisas). É isso que faz com que as empresas de IA se atropelem para colocar modelos cada vez mais poderosos no mercado, sem grandes preocupações com segurança ou com sistemas de controle. E algo importante vai se quebrar.