chegamos💥
já que a coisa rendeu, vamos falar de discriminação algorítmica em rh, amazon cigana, amazon brincando de pirata...aliás, a amazon está fortona aqui nessa newsletter. vai superar o procon
a longuinha da semana
se eu me candidatar a uma vaga de emprego, rezo 🙏🏻 para não ser avaliado por um algoritmo
lá em nossa última edição, tive oportunidade de falar que a questão da discriminação algorítmica é algo muito sério, um tema complexo, com consequências das mais severas.
em linhas gerais, temos visto episódios de discriminação algorítmica em inúmeras áreas da sociedade, desde a racial, promovida por sistemas de vigilância eletrônica (quem não assistiu, DEVE ASSISTIR “coded bias”, na netflix), até a discriminação de preços, a respeito da qual falei na última edição.
dentre esta e aquela, existem diversas outras.
em tempos de esg em hype, discursos a respeito da necessária inclusão e diversidade no mercado de trabalho, é preciso ficar atento a como essas seleções estão sendo realizadas, quem tem ficado pelo caminho, e as razões disso.
não é de hoje que sistemas de ia relacionados a recursos humanos vêm sendo utilizados, e as funcionalidades vão desde recrutamento e seleção até a avaliação de desempenho de colaboradores.
em teoria, representam um (1) ganho de eficiência, (2) maior chance de identificação e retenção de talentos, (3) redução de custos e (4) redução de análises subjetiva, algo muito relevante em uma sociedade ainda bastante desigual.
um bom exemplo disso, não ligado à tecnologia, foi a adoção, por parte das orquestras sinfônicas americanas, do sistema de audição às cegas, o que resultou na seleção do quíntuplo de mulheres nas últimas duas décadas, isso se comparado ao que era anteriormente selecionado.
na prática, entretanto, a coisa não tem sido assim “tão alice” 😞.
é conhecido o caso da seleção de pessoas para uma vaga de tecnologia na amazon, ocorrido em 2018, que fez com que a big tech tivesse de desativar o algoritmo, reconhecendo seu viés discriminatório.
de modo simples, os dados imputados no sistema “ensinaram” a ia que os homens eram infinita maioria nos cargos de tecnologia, o que a levou a simplesmente rebaixar os currículos nos quais a palavra “feminino” era encontrada 😡.
de lá para cá, é bem verdade, muita coisa mudou, a tecnologia escalou em muito em qualidade, mas a pergunta que fica é: e a sociedade, mudou muito em relação às suas práticas discriminatórias?
a resposta, ao final desse texto. antes, entretanto, vamos analisar o que temos visto ocorrer com o uso dessas ias, que seja digno de nota.
uma rápida pesquisa na internet mostra que são diversas as denúncias em face de algumas empresas de software de recrutamento e seleção, sendo a grande maioria relativa a discriminação por idade ou sexo. segundo as denúncias, pessoas de mais de 40, 50 anos, estariam tendo suas aplicações de plano descartadas para um sem número de vagas.
outro exemplo pode ser extraído do próprio documentário já mencionado, coded bias, no qual um professor, várias vezes premiado por seu desempenho, acaba sendo dispensado da escola em que leciona por um algoritmo baseado em critérios que desconsideravam todo o mérito e avaliações anteriores (o caso foi revertido, como mostra o documentário, mas a ferida ficou exposta).
não se pode deixar de considerar que, por mais que a ia esteja em evolução, e que existam sistemas que aprendem sozinhos, conhecidos por automated machine learning, a realidade é que toda programação depende de códigos e dados, iniciando-se com um ser humano.
se o princípio está em um ser humano, a pergunta que fica é: e a sociedade, mudou muito em relação às suas práticas discriminatórias❓
a resposta é negativa. até melhorou, por um lado, tendo piorado por outro, resultado de extremos com os quais temos nos deparado.
para que a inteligência artificial possa ser útil e, mais do que qualquer outra coisa, eficiente e justa, ela precisa decidir com transparência, permitindo-se que seus usuários (as pessoas que querem contratar e as que querem ser contratadas) possam auditar os resultados.
a sociedade ainda tem de avançar muito para que o resultado de suas criações esteja livre de seus vieses.
as curtinhas
teremos dancinhas em hospitais?
há um silencioso movimento em curso nas big techs, e ele envolve a área da saúde. já faz alguns anos que o assunto é um dos alvos da 🍎, mas mais recentemente a amazon e também voltou seu poderio econômico para a área.
com a pandemia, foi a vez do alibaba desenvolver app de assistência médica (bastante disruptivo, por sinal).
agora foi a vez da bytedance que, para quem não sabe, é a empresa dona do ticoteco, que acaba de adquirir uma enorme rede de hospitais na china, especialmente voltada ao atendimento de mulheres e crianças. aparentemente, a empresa, que já tinha adquirido um app de consultas online para atendimento em massa, agora volta sua atenção ao público de elite.
mas, afinal, por que tanta gente está voltando sua atenção para a área da saúde? porque é uma área ainda muito tradicional, com gigantesco espaço para digitalização, ainda mais após as mudanças trazidas pela pandemia.
será que logo teremos vídeos de médicos influencers dançando ao som de acorda pedrinho no ticoteco?
será tio bezos um cigano?
me recordo que, alguns anos atrás, li uma notícia de que a amazon estava pagando 10 bidens (💵) a cada americano que digitalizasse a palma de suas mãos em um dos inúmeros pontos espalhados pelo país.
o projeto, batizado de amazon one, visava a coleta de um grande número de impressões palmares, de modo a permitir a construção de um banco de dados para fins de pagamento. segundo a gigante, esse sistema seria mais seguro do que qualquer outro em termos de identificação, além de mais “higiênico”, já que a leitura pode ser feita sem toque (eliana “dedinhos” deve estar chateada).
e qual a razão de eu me recordar disso? eu já estudava proteção de dados e privacidade, e aquilo me chamou muita atenção. em verdade, me acendeu um ⚠️.
pois agora a amazon está expandindo a implementação efetiva do projeto, e a rede whole foods (comprada por bezos anos atrás) passou a aceitar pagamentos a partir da leitura da impressão palmar, o que deve ampliar consideravelmente o número de palminhas coletadas.
já existem protestos relacionados à ausência de privacidade, o maior chamado de “amazon doesn’t rock”, para convencer locais a não usar a metodologia de autenticação.
até senadores da terra do tio sam já notificaram a empresa com algumas perguntinhas…tá achando que é só aqui que eles curtem um holofote❓
vamos ver quem ganha essa queda de braço. até lá, cuide bem de suas mãos, afinal elas podem ser a próxima fronteira de pagamento.
amazon vai brincar de pirata, na sua casa
você já assistiu “os goonies”? se a resposta é não, pare tudo (depois de ler essa newsletter, claro) e vá assistir. a aventura de mike e sloth em busca de willy caolho é daquelas inesquecíveis. não sem razão, stranger things foi criada tendo os goonies como inspiração confessa. não vou dar spoilers, obviamente, mas tudo gira em torno de um mapa de tesouro…☠️
pois bem, a amazon acaba de comprar o mapa do tesouro da casa de um grande número de pessoas.
a gigante da tecnologia adquiriu a roomba, fabricante dos aspiradores robô irobot, dos mais conceituados desse ramo.
até aí, poderia ser apenas mais uma das trocentas aquisições do tio bezos. mas não, amiguinho, a coisa vai bem além.
para quem não sabe, as versões mais bem aparelhadas desses robôs dispõem de navegação por gps e capacidade de mapeamento do ambiente. ou seja, enquanto limpa, o robozinho mapeia sua casa. com simplicidade, o que isso significa? que agora a amazon pode, em teoria, acessar tais dados, sabendo qual o tamanho de sua casa, como ela esta dividida, quantas pessoas moram lá, se tem ou não bicho de estimação, crianças, etc, afinal o robozinho tromba e desvia de brinquedos, animais, etc.
é uma quantidade infindável de dados, tudo de modo a permitir, na melhor das hipóteses, um perfilamento de marketing para cada residência.
segura essa aí, doidão…
nós pagamos (caríssimo $$$) por essa lei
"Aviso aos passageiros: antes de entrar no elevador, verifique se o mesmo encontra-se parado neste andar."
se você é de são paulo, ou passou por são paulo nos últimos 15 anos, já deve ter se deparado com uma plaquinha com esses dizeres nos elevadores das cidades do estado. isso é uma obrigação legal, prevista na lei estadual 9.502/1997.
mas não é dessa lei que falaremos hoje. falaremos de uma prima próxima, aqui do sudeste. e se você, como eu, acha essa aí acima bizarra, não vai acreditar na prima.
os vereadores do rio de janeiro aprovaram uma lei que obriga aos prédios comerciais, lojas de departamento e shoppings, que afixem cartazes, de no mínimo 7 centímetros quadrados (deve ser cabalístico), com desenhos e dizeres, informando que “é proibido portar mochila nas costas dentro de elevadores”.
olha só, de fato é desconfortável ficar em um elevador lotado com alguém de mochila nas costas, seja em elevadores, ônibus, metrô, etc, mas daí a você criar uma lei como essa, e ainda prever punição ao local que não afixar o cartaz, vai uma distância enorme. detalhe: a multa, que é de mil reais, mas pode ser acrescida de 50% a cada mês que a irregularidade não for sanada, não é aplicada ao “mochileiro”, mas ao edifício que não colar o cartaz informativo.
logo, logo, algum gênio vai proibir que pessoas puxem assunto com estranhos, ou entrem sem tomar banho em elevadores cheios, ou mesmo apertar andares errados, que vão parar antes do seu.
seria um enorme ganho, afinal, é para isso que custeamos um dos legislativos mais caros do mundo (sarcasmo).
