Um sobre Zero #68
A greve dos argumentistas/atores de Hollywood vai ditar o precedente contratual da substituição do humano pela IA generativa
Olá, eu sou o António Lopes. Bem vindos a mais uma edição da newsletter Um sobre Zero.
Se querem invites para o Bluesky, então leiam esta edição com atenção, porque vou deixar aqui 2 códigos (escondidos) para quem for mais rápido. Dica: é melhor clicarem nos links, pelo sim, pelo não.
Um apontamento de humor
Nota Introdutória
Depois da última edição da newsletter, saiu no SAPO Saúde o meu artigo de opinião sobre o potencial de fusão entre a Inteligência Artificial e Medicina, que serviu de preâmbulo para a Master Class que dei no Iscte Executive Education sobre o mesmo tópico a semana passada.
A palestra foi para uma plateia constituída maioritariamente por estudantes dos mestrados executivos do IEE nas áreas da saúde, mas uma vez que a sessão foi emitida através do YouTube, houve alguns participantes de outras áreas. Se por acaso estiverem com insónias, uma boa opção é ver o vídeo da sessão para adormecerem com a minha voz radiofónica.
IA Generativa e Argumentistas/Atores
Durante mais de uma década, a estratégia da Amazon definida por Jeff Bezos (fundador e CEO durante grande parte da vida da empresa) foi a de sacrificar lucros para garantir o crescimento da empresa. A visão dele sempre foi baseada na ideia de que o mercado do retalho online é apetecível de entrar e de que, a qualquer momento, poderia surgir um concorrente para superar a Amazon. E como tal, ele queria fazer crescer a empresa para ser um gigante da logística tão grande de maneira a que fosse quase impossível concorrer com a Amazon. A estratégia de Bezos deu resultados e, apesar de agora começarem a aparecer concorrentes mais desafiantes, a Amazon ainda é a referência do comércio online.
Quando avançou para o negócio do streaming, a Netflix optou por usar uma estratégia semelhante. Percebendo rapidamente que este mercado poderia ser facilmente dominado por um dos gigantes da indústria cinematográfica ou televisiva caso entrassem no mercado (assim que eles percebessem o potencial do streaming), Reed Hastings (o co-fundador e CEO durante um grande período da empresa) fez questão de garantir que a Netflix tinha produção própria e numa dimensão suficiente para que não tivesse de depender (exclusivamente) do licenciamento das séries e filmes das grandes empresas da indústria. O objetivo era ter um catálogo de conteúdos vasto, para atrair o maior número de utilizadores que conseguisse, de forma a ser grande o suficiente para desincentivar os concorrentes.
Com a entrada de novos concorrentes de peso no mercado do streaming (Apple, Disney, HBO, Amazon e muitos outros), a luta por uma fatia deste mercado obrigou a que todos os concorrentes optassem pelo uso da mesma estratégia. Por um lado, isto gerou um excesso de oferta de conteúdo e de serviços que fragmentou o mercado e que não facilita a vida aos consumidores que têm de fazer escolhas difíceis de subscrever um número reduzido de serviços. Por outro lado, a luta pela atenção dos consumidores não está a ser combatida apenas ao nível destes serviços de streaming. Cada vez mais, as camadas mais jovens optam pelo consumo dos conteúdos mais imediatos como Youtube e TikTok que conseguem adaptar-se melhor às preferências dos utilizadores.
A estratégia que funcionou bem para a Amazon, mostrou-se agora ineficaz para a maioria destes serviços de streaming que se vêem a mãos com custos excessivos de produção que são complicados de manter e que não se traduzem necessariamente em crescimento de mercado. Não admira, portanto, que procurem formas de cortar nesses custos.
Na edição #57 da newsletter, eu acabei o texto dizendo:
Quem diria que, de todas as profissões que a inteligência artificial poderia ameaçar, os artistas seriam os primeiros?
Eu depois expliquei na edição seguinte como achava que isto não era bem assim, mas a percepção geral é a de que a Inteligência Artificial Generativa (ChatGPT e amigos) irá impactar fortemente os argumentistas e atores e um sinal disso é a greve que está em vigor atualmente na indústria em Hollywood.
Esta greve defende vários pontos, mas destaco aqui só alguns:
Como os anteriores contratos dos argumentistas e atores não previam a existência de tecnologias como o streaming, cada vez que as séries ou filmes (mais antigas) são vistas nestes serviços, os argumentistas e atores não recebem nada (ou recebem muito pouco). Eles querem portanto mudar isso e querem garantir que os argumentistas possam receber os chamados “residuals” por parte de emissões dos seus conteúdos em plataformas de streaming;
Outra preocupação está na base do uso de conteúdos criados por estes argumentistas ou atores para treinar os modelos futuros de inteligência artificial, sem que sejam respeitados os direitos de autor dos mesmos;
Finalmente, eles querem criar proteções que garantam que os argumentistas e atores não possam ser simplesmente substituídos por inteligência artificial generativa;
O primeiro problema parece fácil de resolver, mas implica rever o modelo de compensação com base na performance que cada série/filme tem no serviço de streaming para definir os “residuals” a pagar. Seja como for, é o tipo de coisa que parece-me que eventualmente poderão chegar a acordo.
O segundo problema também me parece mais fácil de chegar a acordo e até é uma potencial fonte de rendimento para esta malta porque têm a lei do lado deles. Se os conteúdos deles estão protegidos por direitos de autor e os mesmos são usados para o treino destes modelos que depois geram rios de dinheiro às grandes tecnológicas, é justo que estes sejam compensados pelo mesmo. Teremos de aguardar pelo resultado do processo imposto pela Sarah Silverman à OpenAI e à Meta para ver qual vai ser o precedente estabelecido aqui, mas parece-me que isto vai sair a favor dos artistas.
Já o terceiro problema parece-me o mais difícil de resolver. Naturalmente, os estúdios estão a ver uma oportunidade de cortar nos custos de produção, substituindo os argumentistas e atores por IA generativa, sem que isso signifique reduzir a geração de conteúdo.
Neste momento, já se começam a ver alguns exemplos disto, como este simulador de episódios do Southpark (que parece realmente de mau gosto durante esta greve), o uso de IA para gerar imagens de fundo em conteúdos Anime, e o genérico da nova série da Disney, Secret Invasion, que foi gerado usando IA generativa. Até no conhecido festival Fringe em Edimburgo, anda-se a testar escrever piadas com IA.
Na minha opinião, estes conteúdos gerados por IA não são grande coisa, mas eu vejo isto como a primeira camera digital que eu tive. Só tinha 3 Megapixéis e as fotos não tinham boa qualidade (comparando com uma máquina analógica) mas era um claro indicador de qual era o futuro. Passados poucos anos, essa diferença já não era notória e agora é o que se vê, em que as pessoas só usam máquinas fotográficas analógicas como hobby ou arte. E, tal como a Kodak sofreu por não ter conseguido adaptar-se ao novo mercado (embora tenha uma história muito interessante de inovação), também os estúdios estão a perceber que terão rapidamente de adaptar-se a esta nova tecnologia para terem futuro.
Isto alimenta aqui uma guerra contra o tempo e é por isso que os sindicatos estão a tentar puxar isto para a frente o mais rapidamente possível para não dar tempo para os estúdios averiguarem se efetivamente todos estes argumentistas e atores podem ser substituídos por IA generativa. Se isso acontecer, estes artistas perdem totalmente a sua vantagem.
O resultado desta greve vai, portanto, ditar o que será o standard contratual na indústria cinematográfica nos próximos anos. Conseguirão os argumentistas e atores garantir proteções para o seu trabalho? Ou o poder dos estúdios é suficientemente grande para resistir mais tempo que os grevistas e obrigá-los a ceder a condições contratuais que lhes serão menos vantajosas? Este é um braço de ferro que será interessante de seguir.
No meu ver, porém, esta batalha entre os estúdios e os artistas vai além da compensação financeira. Uma das possibilidades de se usar IA generativa para produzir conteúdos de entretenimento é a total liberdade que os estúdios terão para definir o que deve ser o uso do trabalho dos argumentistas e atores.
Recentemente, no Brasil, foi criado um anúncio da Volkswagen que junta a cantora Maria Rita com um avatar realista (e criado com um modelo de IA generativa) da sua mãe, Elis Regina, que faleceu em 1982. O anúncio tem um toque ternurento porque junta a Elis à sua filha, com uma música fabulosa, mas que tem um lado negro por ser de uma marca que apoiava a ditadura Brasileira, algo que a Elis Regina rejeitava fortemente.
Este uso abusivo da sua imagem (ainda que com a autorização dos atuais detentores desses direitos - a sua família) introduz aqui um aspeto importante dos direitos que os artistas perdem ao ceder a sua imagem no futuro.
O que é que acontece com um argumentista que decide ceder os direitos de como um guião que criou pode ser usado no futuro por um modelo de IA generativa? Ou de um ator que decide ceder os direitos da sua imagem e/ou voz e permitir que avatares digitais seus possam ser usados para a geração de um qualquer filme? A “vantagem” de um pagamento inicial chorudo pode ser atraente, mas compensará o risco do uso futuro do seu trabalho? Veja-se o exemplo da nova temporada do Black Mirror em que, logo no primeiro episódio, acontece exatamente esta situação com a utilização de imagem de uma pessoa não-atriz e de uma atriz para fazer episódios (quase) em tempo real.
Outra possibilidade prende-se também com a personalização de conteúdo: num futuro próximo, a geração de conteúdo por IA pode dar origem a que as séries e filmes venham a ser personalizados pelos próprios consumidores. Quem quer finais felizes, pode ter. Quem quer um final alternativo, pode ter. E tudo isso poderá ser gerado no momento por IA. Mas se assim for, onde é que fica aqui a visão dos criadores do produto original? Será que é este futuro que eles querem, em nome da compensação financeira imediata?
Termino aqui com uma citação de uma das edições da newsletter Noahpinion que resume bem um possível caminho para o futuro:
So what should we do? One option is to just do nothing and to let innovation take its course, and then try to figure out later what the problems were and try to fix them. I expect some countries will follow this approach, and in general I think this isn’t a bad idea. If we see jobs being destroyed en masse, we can always start taxing AI or raising corporate taxes or subsidizing human labor or implementing universal basic income or whatever, before things get really dire. This is pretty much what we did with the Second Industrial Revolution, when we implemented new taxes, welfare states, and labor regulations in response to high inequality in the early 20th century.
But in fact I think we can probably do better than that. Instead of trying to slow down technologies that sound scary, or waiting to clean up problems after they happen, we can improve the robustness of our institutions now. With more robust institutions, we can minimize any negative technological impacts on human workers, and reduce the amount of “cleaning up” we need to do later.
Some technologists will simply assume that unions will be eternal enemies of automation, and that technology can only progress over labor power’s dead body. But I think the experience of Northern European countries shows that when unions are given a long-term stake in the growth and competitiveness of their companies, their interests become much more aligned in favor of embracing new technology.
Notícias de Inteligência Artificial
Análise de imagiologia para cancro através de IA pode reduzir o trabalho dos radiologistas a metade
Um novo estudo publicado na revista Lancet Oncology sugere que a utilização de IA no rastreio do cancro por mamografia pode reduzir significativamente a carga de trabalho dos radiologistas sem aumentar os resultados falsos positivos. O estudo, realizado por investigadores da Universidade de Lund, na Suécia, acompanhou mais de 80 000 mulheres durante um ano. Verificou-se que os rastreios apoiados por IA tinham uma taxa de deteção de cancro semelhante à da dupla leitura por dois radiologistas, mas exigiam menos 44% de leituras de rastreio. Tal como referi na minha apresentação, estes sistemas têm mostrado resultados promissores e conseguem ser tão fiáveis como os médicos humanos, em certos casos. Numa doença em que a deteção nas suas fases iniciais é tão importante, o tempo que se ganha com este tipo de avanço tecnológico é extremamente importante.
—
A Google está a propor uma nova ferramenta de IA para jornalistas
A Google está a testar uma ferramenta de IA chamada Genesis, que pode gerar artigos noticiosos ao recolher informações sobre acontecimentos atuais. Esta ferramenta foi apresentada a alguns órgãos de comunicação social e foi vista como um potencial assistente pessoal para os jornalistas automatizarem algumas tarefas, até porque a Google sublinha que a ferramenta não se destina a substituir o papel essencial dos jornalistas na reportagem e na verificação de factos. No entanto, tendo em conta a dificuldade que é manter a sustentabilidade de um negócio à volta de notícias, podem ter a certeza que a seguir à greve dos atores/argumentistas, vamos ver uma greve de jornalistas preocupados que os donos dos órgãos noticiosos os queiram substituir por IA.
—
OpenAI desiste de tentar detetar se um conteúdo foi escrito por IA
A OpenAI decidiu abandonar um projeto interno de um classificador concebido para identificar textos gerados por IA, devido à sua baixa taxa de precisão. No meio da preocupação sobre o impacto do texto e da arte gerados por IA, incluindo preocupações com a educação e a desinformação, há uma grande vontade em desenvolver ferramentas que permitam deixar bem claro o que foi ou não gerado por IA. Infelizmente, a diferenciação entre textos e imagens gerados artificialmente e o trabalho humano está a tornar-se cada vez mais difícil e não se vislumbra que seja uma tarefa fácil dada a sua complexidade. Estou para ver, portanto, como é que a OpenAI vai conseguir cumprir com o compromisso assumido com o Governo Norte-Americano e com as outras gigantes tecnológicas.
—
StackOverflow é vítima e proponente da IA generativa ao mesmo tempo
Com o aumento de ferramentas, chatbots e assistentes de IA acessíveis a programadores, começa a ser cada vez menos necessário recorrer a esta que é, provavelmente, considerada a melhor base de conhecimento de programação e desenvolvimento de sistemas e aplicações. O StackOverflow tem mostrado uma abrupta descida na sua utilização no último ano e meio e não há perspetivas que venha a melhorar. Exatamente por isso, estão a apostar na integração com IA generativa para manterem-se relevantes na comunidade. As ofertas da OverflowAI, ferramenta desenvolvida pelo StackOverlfow, incluem pesquisa baseada em IA, uma extensão de código do Visual Studio e uma integração do Slack para utilizadores empresariais. A ideia é levar exatamente a grande biblioteca de conhecimento que é o StackOverflow para onde estão os utilizadores, diretamente no seu ecossistema de desenvolvimento.
—
Meta continua a oferecer mais modelos de IA em código-aberto
A Meta já tinha oferecido, a semana passada, o mais recente modelo multimodal, LLAMA2, em código-aberto para de certa forma retirar algum poder e valor aos modelos fechados dos concorrentes (OpenAI, Google). Agora lançou um kit AudioCraft de código aberto que utiliza IA para simplificar a produção de áudio para artistas e designers de som. O kit inclui modelos generativos de IA para efeitos sonoros, música e compressão de som.
Outras Notícias
Morreu Kevin Mitnick, um dos hackers mais famosos do mundo.
Teve uma história incrível a testar os limites da legalidade no mundo da tecnologia e fico contente que o Pedro Rebelo tenha feito questão de o mencionar logo no primeiro episódio do podcast Um sobre Zeroquando fez referência às suas peripécias enquanto “hacker social”.
—
A notícia do momento é sem dúvida a publicação de um artigo cujos autores afirmam que conseguiram produzir o primeiro material (LK99) que respeita a propriedade de supercondutividade à temperatura ambiente.
A supercondutividade à temperatura ambiente é uma das maiores ambições da física de materiais porque, se se provar realmente possível, irá modificar grandemente toda a nossa utilização de eletricidade, com um impacto brutal na eficiência energética (com milhentas aplicações interessantes). A questão é que já outros cientistas afirmaram que tinham atingido este marco, mas até agora não foi simplesmente possível replicar esse comportamento de forma independente. O que torna então este caso diferente? É que parece haver umas guerras entre os criadores deste material, o que normalmente associa-se ao facto de estarem a lutar pela glória de serem “coroados” com o prémio Nobel da Física (porque há um limite para o número de pessoas que pode receber o prémio em conjunto - 3 - e eles são mais do que 3). Note-se que o artigo original tem só 3 autores. E os restantes criadores que não foram incluídos nesse artigo original, trataram de publicar outro artigo com a mesma afirmação (e com mais detalhes) meras horas depois. Isto, por si só, já é um bom sinal. Mas agora temos de esperar pela replicação da experiência original. E, portanto, se outros cientistas conseguirem demonstrar os mesmos resultados, então o impacto para todos nós vai ser incrível. Ora acontece que ainda ontem foi publicado um artigo que afirma que conseguiu chegar a resultados semelhantes (embora não tão convincentes). Portanto, isto promete e aposto que há muitos laboratórios de física pelo mundo inteiro que estão a cancelar as férias. As próximas semanas vão ser muito interessantes. Até já há apostas.
—
Elon Musk, dono do Twitter, anunciou uma mudança da marca alterando o nome para X e revelando um logótipo provisório que irá substituir o logótipo do pássaro do Twitter. O novo logótipo, descrito como "art deco minimalista", parece ser, na verdade, um caractere Unicode que é usado em fórmulas matemáticas. Esta ideia de mudar a marca para "X" vem no seguimento da sua intenção de transformar o Twitter na "aplicação para tudo" e também no facto dele ter um historial de incorporar a letra "X" nas suas empresas e projectos. Seja como for, parece-me ser a pior decisão que ele já teve no Twitter desde que adquiriu a empresa. O Twitter e o seu característico pássaro azul já fazia parte do imaginário de todo o mundo. Toda a gente sabe o que é o Twitter e reconhece a sua imagem de marca. Agora tudo isso ficou reduzido a uma letra sem grande significado, que pelos vistos é marca registada pela Microsoft (para o lado do gaming) e registada pela Meta(para o lado das redes sociais) e ainda por cima é normalmente usada no contexto de sites pornográficos.
Recomendações de artigos científicos
arXiv - Universal and Transferable Adversarial Attacks on Aligned Language Models
Há muitas abordagens de jailbreaks para tentar que os modelos de IA generativa produzam conteúdo inapropriado e faz sentido que assim seja, porque só assim poderemos testar os verdadeiros limites e capacidades destes modelos. Mas todos esses métodos são manuais e morosos e, uma vez descobertos, são fáceis de mitigar. O novo método descrito neste paper alega que é possível fazer isto de forma automática e semelhante para os vários modelos já existentes.
Nota final
Apanharam um código Bluesky? Não? É melhor lerem com mais atenção.
Ou então esperar pela próxima edição da newsletter que pode ser que eu partilhe mais códigos.
Até à próxima!
António Lopes