Twitch: Amazon usa seu conteúdo para treinar IA

A Twitch atualizou as configurações de conta para permitir que streamers optem por não ter seu conteúdo usado no treinamento dos modelos de inteligência artificial da Amazon, empresa controladora da plataforma. A medida trouxe alívio para alguns criadores, mas ainda não está claro quando a plataforma começou a usar postagens, transmissões e vídeos dos usuários para treinar os sistemas da Amazon. A revelação levanta novas preocupações sobre como grandes empresas de tecnologia lidam com os dados de seus usuários.

O processo para optar por não participar é simples. Pelo site ou aplicativo da Twitch, o usuário deve clicar no avatar da conta, selecionar Configurações e ir para a seção Segurança e Privacidade no menu. Lá, encontra a opção Treinamento de IA Generativa, onde é possível desativar o uso do conteúdo para esse fim.

No texto ao lado do botão, a Twitch informa que "desativar esta opção não impede que a Twitch e a Amazon usem o conteúdo do seu canal para outros fins descritos no Aviso de Privacidade da Twitch". Esses fins incluem recursos de plataforma com tecnologia de IA para facilitar o crescimento e a monetização dos streamers, como assistência em tempo real para campanhas de patrocínio, descoberta de espectadores por recomendações e segurança da comunidade por meio de ferramentas como o AutoMod.

A nova configuração busca reconhecer o direito dos criadores de decidir como o conteúdo produzido por eles é usado. No entanto, o lançamento também levantou questões sobre como a Twitch e a Amazon usaram esse conteúdo até agora. Em um fórum dedicado ao tema, mais de 16 mil criadores manifestaram oposição ao uso de seu conteúdo por padrão para treinar os sistemas de IA da Amazon, prática que só veio à tona após a atualização das configurações.

A reação negativa ocorreu após uma transmissão ao vivo em que Mary Kish, chefe de comunidade da Twitch, explicou a introdução das mudanças. A executiva reconheceu que a mudança provocaria uma reação negativa. Mike Minton, chefe de produto da Twitch, também observou que manter a opção de usar conteúdo para treinamento de IA habilitada por padrão era necessário, pois, caso contrário, "ninguém participaria" do processo.

Minton apontou que esses mecanismos não são exclusivos da Twitch e considerou provável que outras empresas que desenvolvem sistemas de IA também estejam extraindo conteúdo da Twitch e de outros serviços para usar em seus modelos de treinamento. "Não sei ao certo", disse ele, "mas acho razoável supor que quase qualquer conteúdo publicamente disponível seja usado para treinar modelos de uma forma ou de outra, com ou sem permissão. Então acho que também precisamos reconhecer que há muito aqui que está além do nosso controle direto."

O problema dos dados de treinamento

Os Termos de Serviço da Twitch, em vigor desde março de 2024, estipulam que os usuários concedem à Twitch e seus sublicenciados o direito de usar, reproduzir, modificar, adaptar, distribuir e criar obras derivadas de seu conteúdo. No entanto, até agora, eles não declaravam explicitamente que tais materiais poderiam ser usados para treinar modelos de IA generativa.

Esse caso destaca um dos principais desafios para os desenvolvedores de sistemas de IA: a crescente escassez de dados de alta qualidade para treinar modelos. Embora empresas como a OpenAI tenham fechado acordos com várias editoras para usar parte de seu conteúdo para esse fim, as fontes de dados disponíveis estão diminuindo à medida que a tecnologia avança e a demanda por dados aumenta. Como resultado, várias alternativas surgiram, reacendendo o debate sobre a ética e a transparência dos processos de treinamento.

Há algum tempo, a Meta usa postagens e imagens que os usuários compartilham no Facebook e no Instagram para treinar seus modelos de IA. Recentemente, também veio à tona que a empresa estava usando a atividade de seus funcionários e capturas de tela feitas por usuários de seus óculos inteligentes para o mesmo fim. Casos semelhantes foram documentados envolvendo Google e YouTube.

Assim, dados de treinamento de alta qualidade se tornaram outro recurso estratégico, junto com chips, memória e eletricidade, que os principais desenvolvedores de modelos de IA encontraram em falta enquanto lutam para sustentar o ritmo de inovação exigido pelo mercado. Todos os sinais indicam que parte dessa demanda será atendida com informações geradas pelos próprios usuários, em troca do acesso gratuito a serviços digitais do dia a dia.