O futuro que os techbros querem
A tecnologia está aí, e é preciso de pessoas com domínio técnico E interesses em suas consequências pra lidar com isso.
O uso de big data foi importantíssimo para a eleição do Trump e outros lideres de direita desde então. Usa-se quantidades enormes de dados pessoais para fazer direcionamento de conteúdo para pessoas e grupos estratégicos (recomendo esse podcast sobre).
A questão que eu trago sobre isso:
Você estava por dentro desse assunto?
Sabe que ainda é um problema?
Você teria conhecimento técnico para opinar ou sugerir algo?
Como um segundo exemplo, empregos e inteligência artificial. É comum ver discussões em que um lado diz que a IA vai tirar empregos, precisamos fazer algo sobre outro lado diz que a IA criará empregos, está tudo bem.
O problema com uma discussão assim? Ser totalmente qualitativa. Quais empregos serão extintos, quais serão modificados? Em que escala de tempo? A falta de nuance nesse debate o torna improdutivo.
Enquanto não houver tentativas sérias e bem informadas de se engajar com o assunto, quem é técnico vai fazendo as coisas da maneira que bem entende, potencialmente equivocada. É o caso dos preconceitos aparecendo em IA por viés de amostragem, por exemplo.
Todos temos vieses. Mas se o sentimento majoritário for simplesmente ser ludita quando a tecnologia se apresenta como um problema, não tem como estruturar argumentos ou soluções.
E falando em IA…
Como estamos? Conservadores.
Vejam aqui por exemplo a análise desse paper, que demonstra que Large Language models como o ChatGPT tendem a serem mais conservadores conforme aumentam em escala. Aqui dá pra interagir com os dados.
Com esses mesmos dados, dá pra ver que a tendência a autopreservação também aumenta. O que é o que a galera tem se preocupado.
Mas, de novo: a um prazo menor, a tendência é termos problemas sociais. Os problemas que já despontam atingem desproporcionalmente grupos vulneráveis: desemprego tecnológico, viéses.
As minorias acabam tendo que lutar por elas mesmas, porque colocar grupos para escanteio é muito fácil. Discuti um pouco sobre isso no texto “O que é assunto feminino, afinal?”.
A conveniência da cyberocracia
A cyberocracia é um conceito utópico de organização da sociedade onde ao menos parte das decisões governamentais seriam feitas por IA. Isso parte do pressuposto de que analises feitas por IAs serão “corretas” e imparciais.
Só que existe o problema dos viéses na IA. Esse não é um problema do futuro: isso já é visto em IAs usadas para selecionar candidatos pra vagas de emprego, aqui.
Agora, juntando as duas coisas: se existe uma “fé” de que a IA toma as decisões mais corretas possíveis, mas a sua IA está reproduzindo vieses, é muito plausível que a IA seja usada para validar e sustentar desigualdades.
Se pessoas que se beneficiam de privilégios ou pessoas indiferentes aos impactos negativos da IA com minorias são as ÚNICAS tendo voz e agência, a chance de nada ser feito é grande.
E veja, por exemplo, o Musk falando aqui que as IAs atuais são muito politicamente corretas, aqui. Nem preciso falar do tamanho da influencia dele.
Moral da históra: se você se importa, busque se inteirar nos aspectos técnicos desses temas. Porque eu duvido muito que os techbros irão.
