Um sobre Zero #70
Sam Altman foi despedido como CEO da OpenAI. E agora?
Olá, eu sou o António Lopes. Bem vindos a mais uma edição da newsletter do Um sobre Zero.
Um apontamento de humor
A saída de Sam Altman da OpenAI
É sem dúvida a notícia do momento: Sam Altman, co-fundador e CEO, foi despedido do seu cargo na OpenAI. Juntamente com ele, saiu também o presidente do Conselho de Administração, Greg Brockman. A CTO Mira Murati irá ocupar o cargo de CEO interina até que seja encontrada uma nova pessoa para desempenhar o cargo de CEO.
Basta dar um saltinho pelas redes sociais para se perceber que esta manobra foi, sem qualquer dúvida, repentina e uma surpresa para muita gente. Já se começaram a tecer as teorias e há muita especulação, mas ainda não se sabe ao certo (até à altura em que estou a escrever isto) quais as razões por trás desta ação da OpenAI.
De acordo com um tweet (xeet?) de Greg Brockman, esta foi a timeline dos acontecimentos:
Na quinta-feira à noite, Ilya Sutskever (Chief Scientist na OpenAI e membro do conselho de administração) enviou uma mensagem a Sam Altman a dizer que precisava de reunir com ele na sexta-feira ao meio-dia;
Nessa reunião de sexta-feira, estavam os membros do conselho de administração todos, excepto Greg Brockman, e foi comunicado a Sam Altman que ele tinha sido despedido;
Vinte minutos depois, Ilya reuniu com o Greg Brockman para dar as notícias e mais ou menos ao mesmo tempo, a OpenAI fez um comunicado com as notícias;
Tirando Mira Murati (que terá sido informada na quinta-feira à noite), o resto da equipa da OpenAI terá recebido as notícias nesta mesma altura, sem qualquer aviso prévio.
Após estes eventos, Sam Altman não tem falado muito, mas avançou para já com esta mensagem:
E mais esta mensagem:
Olhando para as redes sociais, fica claro que muita gente está do lado de Sam Altman. Não só ele é apreciado pela comunidade de tecnologia no geral, como também muita gente tem partilhado histórias incríveis sobre como ele aparenta ser uma pessoa importantíssima no universo da inovação tecnológica. Eu não tenho grande opinião sobre a pessoa que ele é, mas há que admirar a sua capacidade de inovação ao longo da sua carreira.
O que é certo é que Satya Nadella, CEO da Microsoft, foi rápido a descolar-se da novela, tentando rapidamente deixar claro que a parceria com a OpenAI mantém-se forte sem referir sequer o nome de Sam Altman na sua mensagem.
Mas o que é que se passou realmente?
Para além dos dois tweets que referi acima, Sam Altman só fez mais um tweet com a seguinte mensagem:
É claro que neste momento estamos todos assim:
Algumas teorias começaram a surgir:
Lucros vs. sem fins lucrativos?
Uma teoria que já vem sendo discutida há algum tempo (embora sem se pensar que desse origem a um despedimento tão repentino como este) é a questão da missão da OpenAI ter mudado completamente ao longo da sua (curta) vida.
Inicialmente, a OpenAI foi criada como um centro de investigação sem fins lucrativos para incentivar a criação de inteligência artificial generalizada. Mas rapidamente perceberam que a quantidade de dinheiro necessária para tal era tão avultada, que era necessário ter uma estrutura paralela com intuito lucrativo para alimentar essa vertente não-lucrativa.
Ao longo do tempo, a pressão da concorrência de outras empresas fez com que esta aposta na vertente lucrativa da OpenAI fosse cada vez maior e há quem diga que surgiu um mau-estar na empresa (mais do lado da malta que faz a investigação - leia-se Ilya Sutskever) porque deixou de haver espaço para avançar esta tecnologia com a calma e reflexão que são necessárias.
Contudo, acho muito rebuscado que este desalinhamento entre uma perspetiva e outra é suficiente para ter causado este desfecho. Por um lado, alguns investigadores séniores da OpenAI também decidiram sair após a notícia da saída de Altman, o que leva a crer que havia quem concordasse com ele na área de investigação da empresa. Por outro lado, olhando para as declarações de Greg Brockman e outras informações que dão a entender que isto foi uma manobra do Chief Scientist da Open AI, talvez seja possível que houvesse mesmo guerras internas.
Um escândalo à espera de ser revelado?
O comunicado da OpenAI sobre esta decisão contém uma parte intrigante (não traduzi para evitar mudança de contexto numa tradução mal feita da minha parte):
Mr. Altman’s departure follows a deliberative review process by the board, which concluded that he was not consistently candid in his communications with the board, hindering its ability to exercise its responsibilities. The board no longer has confidence in his ability to continue leading OpenAI.
A forma como esta frase está escrita não é normalmente a forma como os conselhos de administração costumam dar este tipo de notícias. Normalmente, estes anúncios são feitos com frases que dão a entender que, apesar de ter sido afastado, a decisão foi baseada em “razões pessoais”, para “passar mais tempo com a família”, ou para “focar noutros projetos”. Aqui a mensagem é clara e intrigante ao mesmo tempo. O Conselho de Administração está claramente a dizer que Sam Altman não foi “sincero” (a minha tradução de “candid”) com eles, mas não diz sobre o quê. Isto parece mais a mensagem de alguém que está a antecipar-se a um escândalo, para poderem depois dizer, quando esse escândalo vier a público: “O CEO não nos informou da situação, fomos totalmente apanhados de surpresa”.
Acreditando nesta teoria, qual será então esse hipotético escândalo?
Já há algum tempo que se sabia que havia algum desconforto na empresa porque Sam Altman estava sempre a tentar avançar muito rápido. E essa pressão nem sempre favorece a segurança e privacidade dos produtos. Já em março deste ano surgiu um bug que permitiu que alguns utilizadores conseguissem ver as mensagens de outros utilizadores.
A hipótese de escândalo (rumor completo neste momento, mas baseado no facto de terem pausado novas subscrições no serviço ChatGPT Plus e de terem havido diversos problemas de acesso aos serviço nos dias que se seguiram) é de que, algures nos novos produtos que foram anunciados no dia 6 de novembro no OpenAI Dev Day, houve algum tipo de problema de segurança e/ou privacidade e que dados privados foram expostos publicamente ou algo ainda mais grave (Sam Altman). Se isto for verdade, significa também que a empresa não divulgou isto porque Sam Altman não comunicou o problema ao Conselho de Administração e seria portanto razão suficiente para o despedirem.
Se isto for a causa da novela, acho estranho, porque muito provavelmente significaria também o despedimento da Mira Murati, por ser a CTO da empresa, e não a sua “promoção” a CEO interina. Mas pronto, saberemos em breve se for esse o caso.
Sam Altman já estava a preparar a concorrência?
Outra hipótese é semelhante à primeira teoria, mas com um percurso ligeiramente diferente. Isto é, imaginem que Sam Altman estava efetivamente cansado de não conseguir avançar ao ritmo que queria (se calhar ele já queria que o GPT-5 estivesse cá fora) e que portanto, estaria a planear desenvolver a sua própria empresa para o efeito.
Foi entretanto reportado que Sam Altman estava focado em angariar muito dinheiro, mas não se sabe ao certo se isto era efetivamente para financiar o crescimento astronómico que Sam Altman queria para a OpenAI ou se era para uma iniciativa própria dele. Se calhar, o Conselho de Administração soube das suas intenções reais e decidiu antecipar-se.
Esta teoria é a que tem menos probabilidade de ser a verdadeira, na minha opinião, mas seja como for, não me parece que Sam Altman, com a sua reputação, terá problemas em ter uma nova empresa a funcionar já na próxima segunda-feira.
O futuro da OpenAI após a saída de Altman
Será que esta saída de Sam Altman é um sinal de que a OpenAI vai deixar de apostar tanto na evolução constante de produtos como o ChatGPT e vai assumir mais a missão inicial de trabalhar para produzir a verdadeira Inteligência Artificial Generalista?
Por um lado, acho difícil que consigam assumir claramente essa posição e garantir o financiamento necessário para tal (sem o carisma de Sam Altman para alimentar esse evangelismo) ao mesmo tempo que perdem a clientela dos seus produtos que serão, entretanto, ultrapassados pela concorrência se não houver investimento contínuo.
Por outro lado, se efetivamente assumirem essa missão, poderá haver quem dentro da empresa considere que esse não é o caminho e gerar um êxodo em massa que prejudicará ainda mais as aspirações da empresa para reter o talento necessário para atingir o Santo Graal da IA.
É certo que Satya Nadella já reforçou que a parceria entre a Microsoft e a OpenAI se mantém, mas se a evolução dos produtos à base dos modelos GPT desacelerar, será que a Microsoft quererá manter-se agarrada a uma empresa que não terá a capacidade ou sequer a vontade para acompanhar o que a concorrência irá produzir? Amigos, amigos, negócios à parte!
Este parece-me um futuro pouco risonho para a OpenAI, mas isto é baseado na ideia de que toda esta novela foi alimentada por guerras internas e opiniões diferentes sobre o rumo da empresa.
Mas e se a raiz desta situação não tem nada a ver com isso e estamos mesmo prestes a saber de um escândalo na empresa? Como é que isso afetará a capacidade da OpenAI em manter-se à frente da corrida da IA generativa?
Neste momento, os calcanhares da OpenAI já estão em mau estado com o aparecimento de cada vez melhores modelos da Meta, Google, Anthropic e até de iniciativas Open-Source que já conseguem aproximar-se da performance do ChatGPT. Portanto, qualquer percalço nesse percurso, poderá comprometer a capacidade da OpenAI em manter o ritmo de desenvolvimento ou até na capacidade de obter novo financiamento e parcerias que são imprescindíveis para a investigação necessária.
Isto é o mais próximo que nós, geeks de IA, temos de uma novela. Portanto, não percam os próximos episódios porque… nós também não.
Notícias Várias
OpenAI Dev Day
Antes desta notícia repentina no seio da OpenAI, houve o OpenAI Dev Day, onde Sam Altman anunciou alguns avanços interessantes:
GPT-4 Turbo: novo modelo GPT-4 mais rápido e mais barato, com espaço para perguntas/respostas maiores, e atualização de conteúdo (agora abril de 2023 - portanto já sabe que a Rainha do UK morreu e que o Musk é dono do Twitter, mas não sabe que mudou o nome para X);
O modelo GPT-3.5 Turbo tem agora uma nova versão mais rápida e mais barata e também com espaço para perguntas/respostas maiores;
Nova Assistants API, que funciona no fundo como uma framework para criação de agentes inteligentes (estou doido para ter tempo para experimentar esta API);
GPTs: versões customizadas do ChatGPT com fins específicos que podem depois ser usadas por outros. E se forem populares, os autores dos mesmos podem ainda ganhar dinheiro.
Eu já adaptei o meu bot para usar as novas versões das APIs GPT-3.5 Turbo, GPT-4 Turbo e DALL-E 3 e as melhorias são realmente impressionantes (mais notórias na velocidade). Principalmente, no DALL-E 3 (está a milhas da versão anterior).
Grok, o rival do ChatGPT de Elon Musk
Elon Musk já tinha anunciado há algum tempo a criação de uma nova empresa de IA chamada xAI. Agora anunciou o seu primeiro produto, chamado Grok. Grok é descrito como sendo um modelo de linguagem que tem uma “veia rebelde”, e tem como objetivo responder a "perguntas controversas" que outros modelos de IA semelhantes podem evitar (por questões políticas ou sociais).
Este modelo foi criado com dados da rede social X (ex-Twitter), o que Elon Musk afirma como sendo uma vantagem. Eu não tenho tanta certeza disso, dado o nível de toxicidade que o Twitter tem mostrado nos últimos tempos. Ao menos, a xAI não tenta dourar a pílula e afirma que o Grok pode ainda gerar informações falsas ou contraditórias (muito normal neste tipo de modelos).
O protótipo está atualmente em fase de testes beta e os utilizadores podem juntar-se a uma lista de espera para o experimentar. Musk planeia integrar o Grok no X Premium+, um serviço de subscrição que custa 16 dólares por mês.
App Store da Apple a ceder à pressão da UE
A legislação anti-concorrência que resulta da Lei dos Mercados Digitais da União Europeia está a pressionar a Apple para permitir a instalação de aplicações fora do universo da App Store da Apple. O código fonte da versão beta do iOS 17.2 sugere que a Apple irá permitir a instalação de aplicações de App Stores externas nos dispositivos iOS, provavelmente como resposta a essa pressão vinda da UE. Até agora a Apple nunca permitiu esse tipo de instalação de aplicações vindas de terceiros no iOS para manter o controlo e segurança das apps disponíveis para os iPhones e iPads.
Estou curioso para ver como é que isto vai funcionar e as implicações da introdução destas novas fontes de instalação de aplicações. A verdade é que isto constitui um potencial risco, tal como a Apple tanto fala, de deixar de haver controlo sobre a qualidade e segurança das apps que instalamos nos nossos dispositivos. Mas por outro lado, a abertura da App Store a outras entidades pode fomentar a inovação e disponibilidade de outro tipo de aplicações que a Apple sempre se opôs a incluir.
Mais pressão sobre a Apple
A Apple anunciou que vai adotar a norma de mensagens RCS (Rich Communication Services), para trazer funcionalidades ao estilo do iMessage entre utilizadores do iPhone e do Android. Esta medida surge no contexto da pressão que reguladores e alguns concorrentes da Apple têm feito e significa uma grande mudança na estratégia de mensagens da Apple. Embora o RCS ofereça uma melhor interoperabilidade para mensagens entre plataformas, o iMessage continuará a ser a plataforma de mensagens segura e exclusiva dos utilizadores da Apple.
Tenho dúvidas que esta integração tenha um impacto real no mundo das aplicações de messaging, numa era em que grande parte do mundo usa o WhatsApp para comunicações entre plataformas diferentes.
A preparação das eleições nos EUA
Uma das preocupações atuais com o avanço da IA generativa é de que este tipo de tecnologia seja usado para manipular (mais ainda) o processo eleitoral para Presidente dos EUA que irá decorrer em 2024. Nesse sentido, as grandes empresas tecnológicas estão a preparar-se para tal anunciando medidas específicas.
É o caso da Microsoft que criou uma nova ferramenta, de nome “Content Credentials as a Service” que visa garantir que conteúdos criados pelos políticos são marcados com meta-dados que provam a sua autenticidade. A ideia é trazer alguma proteção à geração de deepfakes que possam comprometer a mensagem política nesta altura de campanha.
A Meta anunciou também que vai passar a marcar anúncios de campanha eleitorais no Facebook e Instagram que tenham sido gerados por IA para limitar o nível de manipulação que pode surgir da utilização da IA generativa para gerar desinformação.
Estas eleições para o próximo Presidente dos EUA vão ser um caso de estudo muito interessante sobre a utilização de IA nas redes sociais.
Fim da greve dos atores em Holywood
Na última edição da newsletter do Um sobre Zero, eu reportei erradamente de que ambas as greves de argumentistas e atores tinham terminado, mas não era verdade. Fiz confusão com os nomes dos sindicatos envolvidos e achava mesmo que era o caso. Afinal, só o sindicato dos argumentistas tinha chegado a acordo com as produtoras.
Só esta semana é que efetivamente a greve dos atores seguiu caminho semelhante, estabelecendo um acordo que, para além de alguns aumentos nas compensações, aposta também na criação de proteções contra a substituição de atores por ferramentas de IA, sem a sua autorização ou compensação.
O Kevin Bacon é que festejou o fim da greve com uma referência bem nostálgica e engraçada.
Energia Renovável em Portugal
De acordo com informação da REN (Redes Energéticas Nacionais), entre as 04h00 do passado dia 31 de outubro e as 09h00 de 6 de novembro, contabilizaram-se 149 horas consecutivas em que as energias de fontes renováveis foram superiores às necessidades de consumo industrial e das famílias de todo o país. Isto são mais de 6 dias seguidos em que não foi necessário usar outros meios (mais nocivos para o ambiente) de produção de energia elétrica.
Impressionante!
Nota final
E já se ouve a Mariah Carey nos centros comerciais. Está oficialmente aberta a época natalícia!
Até à próxima!
António Lopes