Contexto

Nos últimos anos, testemunhamos uma transformação significativa na maneira como as pessoas consomem produtos culturais. O surgimento e crescimento das plataformas de streaming revolucionaram a forma como interagimos com conteúdos musicais e cinematográficos. Com opções que vão desde reprodução gratuita com anúncios até vastas bibliotecas de músicas e filmes a preços acessíveis, o cenário cultural nunca mais foi o mesmo. Observamos assim, como pontua Valente (2016), a reorganização da indústria o que consiste na nova presença de atores e atrizes sociais antes alheios ao setor, é o caso de as empresas de tecnologia e de sujeitos que passam a cumprir funções que antes não existiam1.

No caso das plataformas de streaming de música, como Spotify e Deezer, vemos que elas estão se tornando uma das formas mais populares de ouvir música no Brasil e no mundo. O Spotify é a plataforma de streaming de música mais utilizada mundialmente e conta com 195 milhões de pessoas usuárias pagantes no mundo. O Deezer, por sua vez, tem 9,6 milhões de assinantes, sendo que 2,7 milhões destes estão no Brasil, sendo o segundo maior mercado da plataforma, atrás apenas da França.

Segundo a pesquisa TIC Domicílios 2021, 61% dos brasileiros ouvem música pela internet. Ainda, houve uma redução na proporção de pessoas usuárias que baixaram músicas: 35% o fizeram em 2021, frente a 41% em 2019, o que também aponta para o crescimento de uso das plataformas de streaming. A pesquisa Panorama Mobile Time/Opinion Box sobre uso de apps no Brasil também confirma essa tendência. De julho de 2021 para julho de 2022, observou-se um crescimento de 33% para 38% de brasileiras(os) que pagam para utilizar o streaming de música em seus smartphones2.

Uma das principais características dessas plataformas é a possibilidade de, a partir dos cliques iniciais, oferecerem recomendações de outras músicas e artistas que possam interessar às pessoas ouvintes. A definição de próximos conteúdos de música é feita a partir do que é chamado de algoritmos de recomendação. 

Embora os detalhes específicos sobre como cada plataforma utiliza seus algoritmos de recomendação sejam em grande parte desconhecidos devido a segredos de mercado e falta de transparência, podemos entender que esses algoritmos são sistemas que utilizam os dados dos usuários, como histórico de reprodução, gêneros musicais ouvidos, playlists, lista de favoritos e comportamento de navegação, para fornecer sugestões personalizadas. As sugestões personalizadas, por sua vez, podem garantir a adesão de um(a) usuário(a) a um serviço de streaming e não a outro. Quem acerta mais? Quem define melhor o meu perfil e o meu gosto? Essas são algumas das questões que perpassam o(a) consumidor(a) ao escolher qual plataforma irá utilizar.

Por um lado, surge a questão de até que ponto as pessoas estão deixando de descobrir músicas e artistas por conta própria, confiando inteiramente nas sugestões das plataformas. Ainda que tenhamos autonomia para pular ou não uma canção, é como se o contato que teremos com uma ou outra canção passe por intermédio de plataformas, sem que usuárias(os) possam pensar autonomamente sobre o que deseja encontrar ou não. Por outro lado, é possível argumentar que essas plataformas proporcionam um aprofundamento do conhecimento de usuárias(os) em relação a um gênero musical específico ou a um artista que já gostam. Ambas as perspectivas suscitam reflexões sobre os impactos e mudanças nas formas de ouvir, conhecer e desfrutar de conteúdos musicais, preocupando intelectuais, ativistas e artistas.

Discriminações algorítmicas versus algoritmos de recomendação

Além dos aspectos mencionados, surge também o desafio de compreender como os algoritmos de recomendação de conteúdo podem contribuir para a marginalização de certos grupos e/ou reforçar desigualdades sociais já existentes. No entanto, é importante evitar cair em um pessimismo tecnológico. Os reforços ou criações de desigualdade muitas vezes estão interligados com questões sociais estruturais. Nesse contexto, nosso objetivo é explorar quais dados serão descobertos e como lidar com as possíveis disparidades encontradas.

Precisamos, no entanto, dar um passo para trás e definir o que é um algoritmo. Um algoritmo pode ser explicado como uma sequência de instruções para executar uma determinada tarefa em um sistema de computação. Os algoritmos de Inteligência Artificial podem ser treinados a partir de bases de dados, por exemplo, fotos para treinar um algoritmo que fará reconhecimento facial. Dos diferentes tipos de algoritmos de Inteligência Artificial, os algoritmos de recomendação podem aprender também a partir de dados de interação entre diferentes usuárias(os) daquele sistema. Pensar sobre algoritmos de recomendação é, portanto, pensar também sobre inteligência artificial. 
Para alguns autores, os algoritmos de inteligência artificial exercem autoridade sobre os seres humanos, visto que supostamente tomam decisões por nós3. Vale, no entanto, sublinhar que, para nós, estes algoritmos tomam decisões, mas essas decisões se correlacionam também aos comportamentos de usuárias(os), o que torna a compreensão de seus sistemas e impactos sociais mais complexos do que uma simples determinação do que fazemos a partir de seu intermédio.

Dado esse passo, fica o alerta para que não se confunda, portanto, a recomendação algorítmica e a discriminação algorítmica! Ainda que ambos os conceitos estejam relacionados, enquanto a recomendação algorítmica se pauta por fazer leituras de comportamentos de usuárias(os), coletar dados e a partir daí personalizar o que será oferecido pelo consumidor, diversos autores e autoras têm defendido que a discriminação algorítmica ocorre quando a aplicação de algoritmos perpetuam preconceitos e desigualdades sociais baseados em dados e formas de tratamento que contêm ou reproduzem vieses e estereótipos6. 

“Parte do desafio em entender a opressão algorítmica é entender que as formulações matemáticas que orientam as tomadas de decisão automatizadas são feitas por seres humanos. Ainda que frequentemente pensemos que termos como “big data” e “algoritmos” são benignos, neutros ou objetivos, eles são tudo menos isso. As pessoas que tomam essas decisões têm variados tipos de valores, muitos dos quais promovem abertamente racismo, sexismo e falsas noções de meritocracia, o que está bem documentado nos estudos sobre o Vale do Silício e outros locais de tecnologia.”7

No âmbito da nossa pesquisa, é essencial destacar que um algoritmo pode influenciar as recomendações de forma a limitar a exploração de outras(os) artistas e estilos musicais por consumidoras(es). Além disso, é válido levantar hipóteses sobre como as recomendações algorítmicas podem potencialmente levar as pessoas, de maneira geral, a consumir predominantemente produtos de cantores e/ou bandas compostas por homens em vez de mulheres, por pessoas brancas em vez de pessoas negras e por artistas originários do Norte Global em vez do Sul Global. Essas possíveis tendências merecem uma análise mais aprofundada e crítica em relação aos impactos sociais e culturais da influência dos algoritmos na indústria musical.

É importante dizer ainda que foi a interseção entre os algoritmos de recomendação e a discriminação algorítmica que despertou nosso interesse para esta pesquisa. Após seis meses estudando sobre discriminação algorítmica em um grupo de estudos, nós queríamos não só observar possíveis vieses em algoritmos de recomendação, mas sair um pouco do campo de estudos da violência, e pensar em discriminação em contextos culturais. 

Por essa razão, queríamos investigar se, a partir dos dados coletados, poderíamos identificar evidências de vieses de gênero e raça, adotando uma perspectiva interseccional. No entanto, como comentado acima, nos deparamos com uma primeira barreira relacionada ao acesso aos dados: as plataformas de streaming nem sempre fornecem informações detalhadas sobre os marcadores sociais das usuárias e dos artistas, como é o caso da categoria “raça” no Spotify e no Deezer.

A importação de tecnologias e os marcadores geopolíticos

Embora as plataformas de streaming sejam amplamente utilizadas no Sul Global, é importante destacar que, em sua maioria, elas foram desenvolvidas no Norte Global. Essa origem no Norte Global acrescenta uma camada adicional de complexidade, levantando a questão se essas plataformas estão focadas no público e nas perspectivas culturais dessa região. 

Nossa pesquisa identificou implicações relacionadas à origem das plataformas do Norte Global. Por exemplo, notamos que os aplicativos de música frequentemente implementam mudanças de forma privilegiada, priorizando um polo geográfico antes de expandir para o outro. Isso pode ser observado quando as plataformas lançam recursos, como a opção de identificação de gênero não-binário, que são disponibilizados primeiro no Norte e depois no Sul. 

Além disso, percebemos que os gêneros musicais do Norte Global possuem categorizações mais refinadas, o que permite recomendações de conteúdo mais personalizadas e elaboradas. Um exemplo concreto dessa disparidade pode ser observado na plataforma Spotify. Ao examinar a lista de gêneros musicais disponíveis para serem utilizados no código de recomendação de músicas através da API do Spotify (genres seeds)8 ,notamos uma maior granularidade nas distinções de estilos musicais estadunidenses, incluindo ritmos específicos como “honky-tonk”, “chicago-house” e “detroit-techno”. Em contraste, os estilos musicais brasileiros possuem categorias mais amplas, como “brazil” e “mpb”.

Essas diferenças na forma como os gêneros musicais são categorizados podem ter impacto na qualidade e na diversidade das recomendações oferecidas aos usuários e usuárias do Sul Global.

Como explica Nina da Hora, pesquisadora que se debruça sobre o tema do viés algorítmico, lidar com tecnologias desenvolvidas em contextos distintos requer a aplicação do conceito de “mitigação”.9 A pesquisadora ressalta, no entanto, que é impossível eliminar completamente os diversos vieses das tecnologias considerando o local de sua origem. Enfatizando ainda a urgência de considerarmos a realidade das desigualdades estruturais presentes na sociedade brasileira, como o racismo e a misoginia, como o principal ponto focal para a mitigação ao discutirmos algoritmos e inteligência artificial10.

Ao lidarmos com apps que surgem em outras regiões, é necessário, portanto, considerar perspectivas comparativas entre uma e outra região.Isso porque, precisamos compreender quanto os problemas que ocorrem em um e outro pólo do globo se cruzam ou se distanciam. Compreender as diferenças entre as regiões do Norte Global e do Sul Global pode lançar luz nas lacunas que se fazem mais presentes em um pólo do que em outro do Globo ou ainda na forma como determinados fenômenos podem ser efeito direto dessa relação geopolítica.