dia desses eu estava pensando no tanto de coisas que tinha para fazer, e sempre que isso acontece lá me vem a ideia do gêmeo digital. agentes eu já tenho, mas queria ir além, avatar, voz, tudo…mas sempre esbarro no meu lado jurídico kkkk. e se depois clonarem a minha voz pra vender "curso de fique rico com IA em 7 dias", ou sairem por aí recomendando voto, eu processo quem? essa semana a resposta deixou de ser "boa pergunta" e virou "depende do país".
foi uma semana em que três notícias, vindas de três cantos do mundo, tratavam de uma mesma coisa: procurar um dono. dono pro seu rosto, dono pra decisão que te demite, dono pro robô que age sozinho.
bora lá.
a Gupy que se cuide: o fim do chefe-caixa-preta
o que está acontecendo?
dois estados de trumplandia, Connecticut (com a SB 5) e a Califórnia (com o simpaticamente batizado “No Robo Bosses Act”), decidiram que decisão (ficou meio ruim essa frase rs) de IA sobre contratar, promover, disciplinar ou demitir precisa ser explicável, auditável e com revisão humana. acabou o “o sistema decidiu”.
(parênteses para o nome do normativo californiano: No Robo Bosses Act. kkkk, sensacional)
por que isso importa?
virou arroz com feijão: todo mundo que já se candidatou a uma vaga e recebeu aquele “seguiremos com outros candidatos mais aderentes ao perfil” quatro minutos depois de aplicar sabe do que estou falando. a triagem virou uma caixa-preta que rejeita gente sem nunca dizer por quê, sempre sob alegação de que o tal algoritmo é “neutro”, “objetivo”, coisa e tal.
com leis como estas, acabou esse negócio aí. essa lógica está enterrada. se a IA te barrou, você ganha o direito de saber a lógica. ah, mas tem “segredo comercial”. então explica. e aí, plataformas de recrutamento automatizado (as Gupy da vida que se cuidem) vão ter que abrir o capô e explicar por que o fulano “não tem fit”.
spoiler: “porque o modelo disse” não cola mais como defesa.
para se aprofundar
o ponto fino é o deslocamento de poder.
nas últimas décadas, o algoritmo de RH foi intocável. fit pra lá, fit pra cá.
mas esse fit fit agora está sujeito à análise. o profissional de RH do futuro não é mais o “analista de currículo”: é gestor de governança algorítmica. e a empresa que não consegue explicar a própria seleção descobre, do pior jeito, que opacidade virou passivo jurídico (ah, e vai virar, isso é barbada).
(não vou me aprofundar nisso aqui, até porque falei sobre na edição passada, mas quero só ver o que será a tal “supervisão humana”)
dono do próprio rosto: seu "eu digital" entrou pra jogo
o que está acontecendo?
nos EUA, o Comitê Judiciário do Senado avançou com uma proposta pra proteger nome, imagem, semelhança e voz contra uso não autorizado de IA, a NO FAKE ACT. traduzindo: deepfake da sua cara virando problema federal.
claro que o movimento americano chama atenção, até porque é o tal país das liberdades…
mas o movimento mais ousado veio lá da terra dos contos de fada: a Dinamarca querendo dar copyright sobre o seu corpo, rosto e voz. o seu rosto tratado como obra protegida, com direito a notificação de remoção, indenização (mesmo sem dano à reputação) e responsabilização da plataforma que não tirar do ar. paródia e sátira ficam de fora, pra não matar o meme (ufa).
por que isso importa?
primeiro, porque imagem saiu de direito e virou zona.
tá, eu sei que esse não é o escopo, então vamos a ele.
repara na diferença. os americanos miram a conduta (”não use minha imagem sem permissão”). os dinamarqueses miram a titularidade (”a imagem é minha, ponto, como uma música”). são dois jeitos de responder à mesma pergunta incômoda: de quem é o seu rosto quando uma máquina consegue reproduzi-lo perfeitamente?
e aqui eu acho que está o principal: você, em sua versão digital, virou bem. ativo. coisa que se possui, se licencia e se litiga. a personalidade, que o povo do direito aprende na faculdade como “indisponível”, está recebendo tratamento com lógica da propriedade. é eficaz pra brigar com uso indevido? muito.
mas abre uma porta filosófica desconfortável: se o meu rosto é propriedade, ele pode ser vendido? cedido? penhorado?
para se aprofundar
quem gosta de foresight, conhece bem o valor dos futuros desejados, possíveis e prováveis.
vale acompanhar se isso vira tendência global ou exceção escandinava (que é bem lá um outro mundo). quando um direito de personalidade ganha roupagem de direito autoral, a gente importa junto toda o resto do copyright: prazo, licenciamento, herança. seu bisneto vai poder cobrar royalties pela sua voz daqui a 70 anos? em Lulaland, onde a imagem ainda é direito de personalidade clássico, observar a Dinamarca é observar um futuro possível...
quem assina embaixo do robô? Singapura criou um sistema
o que está acontecendo?
uma das grandes dores de quem trabalha com IA é a responsabilidade agêntica. ou seja, quem responde quando seu agente de IA sair por aí fazendo alguma caca.
pois Singapura veio com uma ideia e lançou o primeiro framework de governança do mundo dedicado à IA agêntica (para quem não sabe, seus robozinhos que não só sugerem, mas decidem e agem sozinhos ).
mais interessante é a essência da proposta, algo que parece simples: agent identity management. cada agente de IA precisa ter uma identidade rastreável amarrada a um humano responsável. ou seja: todo robô autônomo ganha, na prática, uma espécie de “cpf” Jetson, e um “dono” que autoriza e responde por ele.
por que isso importa?
não seui você aí, mas boa parte do mundo está saindo ou já saiu da era da IA copiloto (que te sugere) pra era da IA agente (que decide e faz). e isso explode a pergunta que ninguém quer responder: quando o agente faz bobagem, fecha um contrato que nào deveria ter fechado, vaza um dado, comete uma fraude, quem paga o pato (ou a condenação)?
Singapura responde do jeito mais incômodo possível pras empresas: o erro do algoritmo é o erro de quem o supervisiona. não dá pra terceirizar a culpa pro código. ao exigir que cada agente tenha identidade e dono, o framework transforma o “a IA fez sozinha” de desculpa em confissão.
juridicamente (que mania temos de usar essa palavra), é a diretoria assinando embaixo de tudo que o robô faz.
para se aprofundar
repara no padrão das três notícias da semana: decisão, identidade e ação, todas procurando um dono.
o seu rosto precisa de titular, a demissão precisa de quem a explique, o agente precisa de quem responda. num mundo onde a máquina faz cada vez mais coisas sozinha, a lei está tentando fazer o caminho inverso, costurando cada acontecimento digital de volta a um humano de cpf, endereço e bolso.
é isso.
fui...beijo!
Para quem eu entrego as minhas decisões ???