uma semaninha interessante…creepy, é verdade, mas qual das últimas não foi?
vamos falar de fake influencers, ou influencers fake (no sentido literal, tá?), fazendo recomendações na área da saúde. e falando em saúde, vamos falar da mental dos adolescentes e os países querendo correr atrás do prejuízo.
senta que lá vem
(e vou tentar não falar da Virgínia).
você sabe quem está te vendendo "saúde"?
todo mundo aqui já comprou algo que viu nas redes sociais sendo utilizado ou indicado por outro alguém. isso é fato, ok? ou seja, não se discute o poder de influência das pessoas que produzem conteúdo com indicações, até porque esse é um mercado de bilhões de trumps.
mas a coisa fica séria quando esse algo é relacionado à saúde, e o NYT (New York Times) fez uma reportagem (vou deixar o link do vídeo aqui) mostrando o tamanho do problema. entaão vamos lá.
Pam poderia ser sua mãe, avó, vizinha, sei lá. ela tem 71 anos e é caminhoneira aposentada. tem uma doença autoimune que se manifesta em dor nas juntas, inflamação e um cansaço que não passa. viu no facebook um anúncio de moringa (eu nunca tinha ouvido falar disso aí), curtiu, comprou. e foi tomando, por meses.
em fevereiro deste ano, recall para recolhimento. acharam salmonela no lote. poderia ser só mais um caso de contaminação de um produto, como tanto outros, mas tinha um detalhe…
a mulher que recomendou o suplemento pra ela nas redes, de jaleco, consultório, diploma pendurado, NUNCA EXISTIU. o consultório também não. o diploma, por óbvio, menos ainda.
tudo fake, mais fake que muito influencer de carne e osso (normalmente, mais osso do que carne).
a reportagem do NYT analisou vários anúncios. você vê desde bandeirinha americana, quintal de típica casa de subúrbio, estórias no conhecido formato "dia 1 tomando beterraba, dia 50, dia 77, amiga". TUDO FAKE!!!
(imagem retirada da reportagem do NYT - todos influencers wellness fake)
eles chegaram até a uma agência chinesa que revelou produzir em torno de 1200 vídeos por dia, ao preço de 10 trumps cada, feitos sob medida para os americanos (daí a bandeirinhas, a casa de subúrbio, etc). dentre tantos, tem avatar afirmando que um chá de ervas é melhor para problemas renais do que remédio.
mas e aí, isso descoberto, como ficamos?
por que isso importa?
minha querida amiga Dani Serafino, uma baita referência em Direito e biohacking, lembrou de um framework que rodou no SXSW para avaliar influenciador de wellness: A.T.R., de authority, trust and relevance. autoridade (quem é essa pessoa?), confiança (tem histórico, é transparente, assume o que ganha?) e relevância (faz sentido?).
baita régua honesta, e que deveria ser seguida por todos nós quando diantes de influenciadores wellness.
mas o problema é que o framework aponta para pessoas reais, e está cada dia mais difícil você saber quem é ou não é humano…
quando você aponta pro avatar, tudo muda.
autoridade: jaleco, consultório, diploma na parede. dez trumps. confiança: rosto familiar, quintal de subúrbio, bandeirinha, "dia 1, dia 50, dia 77". dez trumps. relevância: a segmentação entrega o vídeo exatamente pra quem tem doença autoimune e anda pesquisando moringa. de graça, cortesia da plataforma.
veja só, o problema não é o framework, mas nossa régua que se apoia em quem “parece confiável”, já que o parecer hoje é vendido no atacado.
quando você vai buscar as regras, e então envolve o Direito, ele vai travar pelo mesmo motivo. se o influenciador é real, existem várias. só no Brasil, tem o CONAR, tem o código de defesa do consumidor, tem responsabilidade solidária de quem anuncia e de quem veicula. e o mundo inteiro vem apertando esse parafuso, a França legislou sobre influenciadores, a China exige qualificação pra quem fala de saúde. só que tudo isso pressupõe uma coisa meio óvia, boba, até: que exista alguém ali.
responsabilizar: verbo pelo qual se atribui responsabilidade a alguém ou a si mesmo.
quer ver como é fácil escapar disso?
o avatar não tem patrimônio, não tem registro em conselho, não tem reputação a perder, não pode ser intimado. ok, mas e quem opera o avatar? aí surgem empresas criadas para manter seus sócios anônimos, ou em uma teia infinita, ou podem estar em outros países, assim como a agência que aparece na reportagem. sobra pra marca? pode sobrar, sim, e isso fica de alerta para quem quer anunciar produtos nas redes!
a união europeia aposta em uma regrinha do seu AI Act que entra em vigor dia 02 de agosto agora (a regrinha). quem opera sistema que gera deepfake tem que revelar que o conteúdo é artificial, marcado de forma legível pela máquina. multa de até 15 milhões de euros ou 3% do faturamento global. parece certinho, já que se nós não somos mais capazes de distinguir o real do fake, delega-se a tarefa para a máquina. como diriam as organizaçòes Tabajara, “seus problemas acabaram" (gente, isso é muito antigo , jovens não entenderão kkkk).
só que não.
na prática, quem deveria colar essa “etiqueta” aí é aquela agência chinesa, que fatura 12 mil trumps por dia, ou a empresa para quem os anúncios são feitos, e todo seu anonimato?
uma coisa que é triste, mas real: regra de transparência funciona com que já é ou pretendia ser transparente.
para se aprofundar
é desse buraco aí que vou tirar mais uma pergunta daquelas que costumo chamar de “desconfortável”: como poderemos saber quem é real, quem não é? na verdade, em muitos casos, o verbo aí deve ser conjugado no presente (que loucura).
lembra daquela notícia de que tinha uma empresa pagando pra galera escanear a íris? essa empresa, que tem como um dos donos o big boss do GPTeco, dizia ter como propósito exatamente isso: proof of humanity! aqui em terra brasilis a iniciativa foi suspensa pela ANPD, e agora a empresa responde a ações movidas pelo país, inclusive uma grandona em Sampa. ela também está (ou estava) proibida em outros seis países.
ela pagava um tico às pessoas, criava uma base da dados enorme, pensando em um futuro no qual alguém teria de fazer o “trabalho sujo” de distinguir o real do fake. e você acha que ela faria isso de graça?
a mesma indústria que tornou o rosto humano infinitamente falsificável é agora a que aparece vendendo o certificado de que você é real. cria o problema de um lado do balcão, cobra a solução do outro.
não tem bordào ou meme da Narcisa que traduza isso aí!
e não pense que estamos longe disso. se não for uma empresa, será o Estado, e não sei o que é pior!
próxima vez que for comprar algo ou contratar alguém, especialmente na área da saúde, vale sim lembrar do framework que a Dani nos trouxe: autoridade, confiância e relevância. isso já te livra até daquela que eu disse não falaria nessa edição kkkkkk!
proibir criança, fichar a família
duas notícias da última semana que tratam do mesmo problema, uma vinda da terra do Rei, outra dos comedores de croissant, e que tem relação com algo que estamos fazendo por aqui…
o Reino Unido quer que, da meia-noite às seis da manhã, as redes sociais não funcionem pra quem tem 16 e 17 anos. junto, no pacotaço, desligamento por padrão do autoplay e do scroll infinito, pausas obrigatórias pra menores de 18 e a promessa de barrar serviços de IA que dão conselho de saúde mental perigoso ou não verificado. se a ideia vingar, começa a valer lá pelo segundo trimestre de 2027. já estão discutindo, inclusive, como pegar quem tentar escapar por VPN (isso é muito doido, coisa pra outra edição).
parece algo excelente. eu tenho filha adolescente, e iria achar ótimo, nào fosse um detalhe que muita gente perde na manchete: pros de 16 e 17, não é proibição. é configuraçào padrão. o adolescente pode dar um jeito de ir nas configurações e desligar seu toque de recolher.
já pelos lados do Rio Sena, a coisa veio mais dura: proibição de rede social pra menor de 15 anos: conta nova barrada a partir de 1º de setembro, contas que já existem banidas a partir de 1º de janeiro de 2027. os franceses seguem a linha da Austrália, e se tornam o primeiro país da UE a fazer isso. dois países, duas doses (uma homeopática, uma cavalar), e exatamente o mesmo efeito colateral, que você encontrará lá embaixo.
por que isso importa?
porque vários países passaram a admitir, de forma expressa e em lei, que quem controla a configuração padrão controla o comportamento.
é a mesmíssima lógica de engenharia reinante há mais de 15 anos: nenhum de nós escolheu scroll infinito, autoplay, nem decidiu de modo consciente “rolar a tela até três da manhã".
no fundo, a mudança vai muito além do horário. os países agora estão partindo para o ataque ao design das redes. autoplay e scroll infinito não são discurso, são arquitetura. isso muda o jogo, tira a discussão da liberdade de expressão e joga pro terreno de responsabilidade de produto, onde ela perde feio (como se ela tivesse de responder à seguinte questão: "que po**a você construiu aqui?”).
e agora vou puxar a sardinha para nosso lado. o ECA digital foi (provavelmente) a primeira lei nacional ampla no mundo a virar essa chave: parar de perseguir o conteúdo e responsabilizar o design.
de modo simples, ao invés de listar o que a criança não pode ver (jogo de gato e rato), agora o canhão vira para a plataforma pela arquitetura que prende a criança ali.
as terras de Charles e Macron estão, cada um do seu jeito, chegando na mesma conclusão que chegamos primeiro: o problema nunca foi só o que aparece na tela, e sim como a tela foi construída pra você não conseguir sair dela. pra quem está cansado de ver o brasil importar regulação com seis anos de atraso, dessa vez o script saiu daqui.
a parte dos chatbots de saúde mental é parecida com a lá de cima, vazio…aqui, um chatbot acolhe um garoto de 16 às três da manhã, sem que ninguém de carne e osso esteja de olho nisso.
apenas sejamos honestos: o menino que abre o chatbot às três da manhã costuma ser justamente aquele que não tem com quem falar. desligar o aplicativo não devolve ninguém pra ele.
para se aprofundar
ok, acho que todos concordam que o design das redes é o grande vilão, e que agora os países estào tentando encontrar formas de reduzir danos presentes e minimizar futuros.
mas, tem um mas aqui que sempre falo em palestras que envolvam o mundo digital, ou educação, ou proteçào de dados, e que costuma incomodar exatamente a plateia certa: quem ligou o wifi fomos nós.
não foram os adolescentes. eles já nasceram em uma casa conectada, o roteador estava lá, não foram eles que trouxeram da maternidade. antes mesmo de eles terem o primeiro celular, seus pais davam uma olhada no deles durante o jantar.
nós ligamos, e nunca mais desligamos. agora, a maioria dos pais apoia essas iniciativas de subir lá e apagar a luz do quarto.
isso dito, nada invalida a lei, mas ajuda a entender. lei costuma aparecer justamente onde o combinado saiu caro, ou então sequer foi feito. mas muda bastante o tom de quem grita "paternalismo" com o celular na mão.
só que tem um preço a pagar em tudo isso, preço esse que é alto, ligado à privacidade e proteçào de dados: como as redes saberão quem tem mais ou menos do que a idade de corte, a depender do país? surge aí a verificação de idade.
mas esse é outro assunto extenso e polêmico. só tente responder a uma pergunta: se proibições, via de regra, vazam feito peneira, com adolescentes e VPN bem integrados, não corremos o risco de ter o pior de dois mundos? a criança continua entrando, e o adulto é que passa a viver identificado.
está na hora de fechar essa notícia, apesar de ainda haver muito mais a ser dito…fica apenas a provocação.
curtinhas pra fechar
sua empresa vai ter que contar o que a IA fez com os empregos
nova york avança com projetos que obrigam empresas a informar todo ano ao departamento do trabalho como a IA impactou contratação, demissão e redução de jornada. é o início da contabilidade social do algoritmo. se a moda pega…
a IA escreve a peça, o processo disciplinar é seu
a suprema corte da índia decidiu que citar precedente alucinado por IA é má conduta do advogado, e está fechando o cerco pra limitar a IA em tribunal a função estritamente assistiva. nada de muito novo sob o sol jurídico: quem assina, responde. o detalhe cruel é que a ferramenta ficou boa o bastante pra parecer certa e ruim o bastante pra inventar acórdão. o carimbo e a responsa sào seus.
fui…beijo!