35 anos…essa semana, dia 06 de agosto, faz exatos 35 anos que o primeiro site do mundo entrou no ar. era uma página de texto, sem imagem, sem cookie, sem banner de consentimento, feia pra caramba. se você lembra do barulho do modem discado, aceite: seu RG é baixo e você é patrimônio histórico. se não lembra, calma que é pior, porque significa que você chegou num mundo onde ser rastreado já vinha configurado de fábrica.
hoje não tem fio condutor, já que escrevi essa edição durante a madrugada, sem condições de ligar os pontinhos rs. são só duas histórias que me chamaram atenção, e deveriam chamar a atençào de todos (e algumas curtinhas pra finalziar).
let's bora!
quanto vale sua reputação? a Natura sente na pele o passivo oculto da cadeia de fornecedores de serviço
ano passado, exatamente neste período de agosto, eu fui dar uma palestra na Semana jurídica e de compliance da Leroy Merlin, um baita evento legal. o tema era uso da IA pelo jurídico, benefícios e riscos. ali, eu apontei como maior risco o uso desgovernado, capaz de gerar um enorme passivo oculto.
essa notícia é um pouquinho disso, trazido além do palco, ao mundo real.
a Natura, uma das maiores, mais inovadoras e respeitadas empresas brasileiras, acaba de ser condenada em um processo, lá em Rio Negrinho (SC), por litigância de má-fé, mas por um motivo bem objetivo: uso de prompt injection em uma petiçào da empresa.
já escrevemos aqui sobre prompt injection, e os casos têm crescido de modo exponencial, não apenas aqui em lulaland, mas ao redor de todo mundo.
o juiz do processo qualificou a atitude da Natura como fraude processual, aplicou multa, condenou a empresa a indenizar a consumidora, e ainda mandou oficiar à OAB.
a Natura repudiou publicamente a prática e informou ter notificado o escritório responsável (leia novamente essa frase, afinal ela é o coraçào dessa história).
a verdade é que os valores envolvidos são troco, e não custeiam nem o café da diretoria.
o prejuízo real está no google.
a Natura passou décadas construindo uma das reputações mais sólidas do país em ética empresarial, sustentabilidade e boa governança. é o tipo de marca que aparece em slide de aula como exemplo do que dá certo. é referência de empresa brasileira de sucesso.
e aí, numa quarta-feira qualquer, o nome dela aparece em uma notícia de condenaçào por tentativa de "fraude processual" numa petição que, pelo que tudo indica, inclusive a nota da Natura, foi redigida por um escritório terceirizado usando IA.
(que fique claro, o problema não está em usar IA).
esse é um enorme pedaço do passivo oculto que quase nenhum comitê de risco está olhando. não é o risco de a IA errar: é o risco de alguém na sua cadeia de fornecedores usar IA de um jeito que você jamais autorizaria, e a conta reputacional chegar ao seu colo, não no dele.
será que as empresas estão regrando o uso de IA por seus terceirizados? estão perguntando formalmente aos escritórios que ferramentas eles usam, quem revisa saída, o que entra no prompt, o que sai, e quais as regras da própria empresa?
sei lá, mas acho que as empresas contratam resultado, e acabam presumindo todo o resto.
note, há uma diferença gigantesca entre usar corretamente e usar incorretamente, como foi feito.
e para o escritório, será que valeu a pena? a resposta é meio óbvia: multa, ofício à OAB, provável perda de um cliente que é referência de mercado e o nome eternizado como réplica de manual sobre o que não fazer. tudo isso pra ganhar um processo no juizado especial?
na boa, é um dos piores, se não o pior cálculo de risco e retorno que eu vi nos últimos tempos.
para se aprofundar
tem uma confissão involuntária escondida aí, e ela é gigante. ninguém vai inserir um comando oculto em uma petiçào a não ser que se acredite (fortemente) que essa petiçào será lida por uma IA, e não por uma pessoa, ainda que em revisão. e o que digo agora vai desagradar muita gente, mas a verdade é que isso só cresce porque tem muito trabalho ali no judiciário sendo delegado, e não é de hoje. só se ganhou escala. ou seja: a fraude é apenas um sintoma de um problema que é bem maior do que o escritório.
se você é jurídico interno, ou responde pelos fornecedores de uma empresa, dá pra transformar isso em quatro linhas de contrato ainda esta semana: obrigação de declarar uso de IA na produção da peça, vedação expressa a conteúdo oculto ou não visível em qualquer documento entregue, direito de auditar amostras e cláusula de regresso sobre multa e dano reputacional. custa uma tarde. bem menos que seu nome no google ou sendo citado em newsletters por aí, como agora rs.
o burburinho dos óculos anti-tarados de 35 dólares
talvez uns conheçam, outros não, então é importante apresentar o DuckDuckGo, um buscador alternativo ao Google, focado em privacidade. eu sempre usei para fazer buscas que não queria me retornassem um mundo de ofertas, sugestões, etc, em um sistema atolado em cookies.
pois o buscador do patinho lançou, em collab com uma marca, um par de óculos escuros. o nome oficial do produto é ESPETACULAR:
“Normal F***ing Sunglasses”.
e o marketing os apresenta como “os óculos antivigilância mais inovadores do mundo”.
e o que esses óculos têm de diferente? nenhuma câmera, nenhum microfone, nenhuma IA, nenhuma bateria, nenhum componente eletrônico.
é plástico preto fosco com um logo brilhante. custam apenas 35 trumps, uma pechincha se comparados aos 299 do modelo da Meta. até surgiu a versão de que era pegadinha, mas não. a empresa do patinho foi ao X para falar que o produto era real, e que já teria vendido grande parte do estoque.
como não poderiam deixar de ser, começaram a surgir as resenhas fictícias. a que eu mais gostei foi: “0/10, inútil para tarados”. outra, também ótima: “acho que vou ter que violar a privacidade das pessoas do jeito antigo, escondido no mato” (kkkk).
mas por que esse barulho todo?
na edição #77, falamos sobre o hot surveillance summer, a entrada na jogada de Kylie Jenner virando o rosto do Meta Starfire, emprestando a própria voz à IA do produto, e a tese de que a moda estava ajudando a fazer o trabalho que o Zuckaichinhos sozinho não conseguia: deixar a vigilância desejável, de carinha bonita.
aí é que está, esses óculos do patinho servem como um provocativo contraponto, a partir de uma piada. o produto que era glamour ganhou o apelido de “pervert glasses”, gente que pagou 299 dólares está com vergonha de usar na rua e a Meta anda tentando, sem sucesso, banir os usuários que abusam da câmera para tornar o produto menos polêmico.
o que mudou em três semanas? teoricamente, nada. mas o mercado não deixou passar a tentativa de usar a moda para tornar o produto aceitável, precificou o estigma, e apareceu alguém pra vender o antídoto de plástico preto por 35 dólares. é prova de que quando a regulação não resolve, a norma social pode ajudar. foi mais ou menos o que aconteceu com o Google Glass, que nasceu e logo morreu, em 2013, sem uma única lei ter sido escrita: morreu de vergonha.
tudo isso é divertido, mas não é para se esquecer que estamos diante de uma provocação, algo que deve sumir assim que a próxima celebridade decidir que agora ficou legal de novo (ou receber uma fortuna para dizer que é legal).
a pergunta que ficou pendurada lá na #77 segue pendurada: de quem é o rosto capturado sem permissão, e quem responde por ele?
faço aqui duas confissões: 1. eu comprei os óculos da Meta em março, quando estive no SXSW, a pedido da minha esposa, que gosta de fotografar paisagens, e sempre falou em “cliques mentais”. ela me pediu para testar enquanto estivesse por lá, e eu comecei a usar os óculos no primeiro dia do evento. 2. bastou eu ficar de frente para uma pessoa, para uma conversa cara a cara, que me senti constrangido e retirei os óculos, colocando de volta meu bom e velho amarelinho.
para se aprofundar
um detalhe interessante: o produto anuncia ser “sem IA”, e isso talvez mostre outra coisa: que a sociedade está um pouco de saco cheio de tanta IA pra cá, IA pra lá. depois de três anos empurrando IA embarcada em geladeira, torradeira e escova de dente, a indústria produziu um público que está é doido para pagar por ausência.
por enquanto, no cantinho que me cabe, o jurídico, o buraco continua o mesmo. quem é filmado por um óculos alheio não deu consentimento, não recebeu informação, não tem como exercer oposição…
curtinhas pra fechar
1. o X e seu super trunfo…Minnesota aprovou em maio uma lei que proíbe apps capazes de gerar imagem íntima não consensual de pessoa real, os tais "nudify”. o X tentou suspender a lei na justiça, mas em primeira instância se deu mal. repara na escolha da empresa. existia um caminho técnico ridiculamente simples, que era não gerar imagem íntima de pessoa real sem consentimento. ela preferiu ir ao tribunal sustentar que impedir isso fere a liberdade de expressão. "eu só forneço a ferramenta, o que fazem com ela não é comigo". já vimos isso antes, especialmente no X. "não fui eu, foi o usuário" fica difícil quando a fábrica é sua.
2. e aí, tá viciado? Hank Green, um dos caras mais sólidos do YouTube educativo, entregou o ouro sem querer: no meio de um vídeo apareceu no roteiro a frase deslocada "agradeço a contestação", resposta típica de chatbot, colada ali por descuido. diante da reação do público, em vez do movimento óbvio de assessoria de crise, ele disse que "o nível de dopamina que venho obtendo ao interagir com LLMs não é saudável para mim nem bom para o mundo". e você, já parou para pensar em quanto está dependente da IA? ou é melhor não pensar nisso, já que anda curtindo os "você está absolutamente certo”, “que ideia incrível”, “você tem razão”, “lindo, tesão, bonito e gostosão” (essa é piada)?
3. eu guardei essa terceira curtinha para celebrar o retorno de TED LASSO. se você já assistiu, é fã, como eu. se não assistiu, deveria tomar uma surra de crocs.
não é uma série sobre futebol. é uma série sobre liderança e humanidade, sobre acreditar nas pessoas.
fui, já que estou ficando emotivo...beijo!