cheguei, pra você curtir (enquanto derrete 🔥🫠)
hoje vamos falar de deepfake chegando às escolas (assunto extremamente sério), do dispositivo que está sendo visto como "o novo celular", do juiz trapalhão e mais.
partiu…👩🚀🚀
deepfake chegou às escolas, e da pior forma possível 🚫
(não tem nem imagem engraçada, dada a seriedade do assunto)
faz algum tempo que venho falando por aqui das deepfakes, e todos os riscos a ela associados. várias das newsletters anteriores tocaram no assunto, em situações bastante diversas.
semanas atrás, atriz Isis Valverde foi vitimada por criminosos (sim, criminosos) que inseriram sua imagem em corpos nus.
pois não demorou nada para que alguns dos piores riscos mapeados começassem a aparecer de forma concreta: deepfakes nas escolas.
sim, já existiam registros de casos na espanha e colômbia, mas agora eles estão também por aqui, no Brasil.
o primeiro, ao menos em termos públicos, ocorreu com alunos do colégio santo agostinho, no rio de janeiro.
👀 no colégio Santo Agostinho, no Rio, alguns alunos do 7º ao 9º ano usaram um aplicativo para criar montagens de colegas, fazendo parecer que estavam sem roupas, e então compartilharam essas imagens em grupos de mensagens. 😱
🚨 mais de 20 meninas foram afetadas, e os pais correram para a polícia. o colégio chamou a situação de "lamentável" e prometeu tomar medidas disciplinares, apesar de não ter nenhum controle sobre o episódio.
fazer montagens como as realizadas é, por si só, crime. se a vítima for menor de idade, as punições são ainda mais rigorosas. mas é pouco, em especial pela facilidade com que tais deepfakes podem ser criadas atualmente e os danos que podem trazer às vítimas, para muito além de patrimoniais, já que essas vítimas estão em sua fase de desenvolvimento, físico e mental.
vale lembrar que, na esfera cível, se os autores das manipulações forem menores de idade, seus pais podem ser responsabilizados e até ter que pagar indenizações. mas e a saúde mental das vítimas, como fica❓
🤖🚫 o desafio é enorme: uma deputada até propôs um projeto de lei para criminalizar a criação dessas imagens falsas usando inteligência artificial. é fundamental que se intensifiquem as discussões acerca de como lidar com deepfakes.
💡🔍 para prevenir, é importante falar sobre segurança digital e ensinar os jovens a usar a internet de maneira responsável, ao menos enquanto não existem disponíveis ferramentas de identificação de imagens falsas.
o substituto do celular❓um negócio que parece um broche❓
🔮📌 e aí, já ouviram falar do novo "broche do futuro"❓ uma empresa de tech, a Humane, finalmente revelou seu primeiro dispositivo, batizado de AI Pin, e parece coisa de filme de ficção científica! 🤖🎥
esse negócio é um acessório de $699 bidens que você prende na roupa com um imãzão! 💰🧲 além disso, tem uma mensalidade caso queira usar com dados…vai vendo. 📱💸
o AI Pin é controlado por voz, gestos e até tem um projetorzinho embutido! 🗣️🤏💡 ele vem com uma câmera de 13 megapixels que, depois de uma atualização, vai gravar vídeos também. 📷
mas ó, ele não fica gravando ou ouvindo o tempo todo. você tem que ativar ele manualmente, deslizando no touchpad. e tem até uma luzinha que pisca pra avisar que tá coletando dados. 💡
a ideia é que você só converse ou toque nele e diga o que quer fazer ou saber. ele então acessa uma base de dados de inteligência artificial para entender e responder. pensa só: pedir comida, saber informações nutricionais ou até tradução em tempo real! 🍔🥗🌍
a Humane diz querer simplificar a tecnologia: nada de telas de início ou milhares de configurações. parece que eles estão apostando alto no AI Pin, e querem que ele evolua como os smartphones fizeram. 📱➡️📌
por enquanto, eles estão pensando em adicionar recursos de navegação e compras, e dar espaço para desenvolvedores criarem mais coisas. 🛒🗺️
se quiser ver um vídeo de como ele funciona, clique aqui.
ainda falta muito para esse "broche inteligente" mostrar tudo que pode fazer, mas a Humane tá empolgada para começar. e aí, será que o AI Pin vai ser o novo must-have da tecnologia❓
minha modesta opinião, apesar de parecer ser um dispositivo extremamente funcional, funcionando extremamente bem para uma situação de assistente pessoal 24/7, com inúmeras possibilidades de desenvolvimento, acredito que as gerações atuais são muito mais visuais, e nesse sentido a ausência de tela para interação fará com que a iniciativa ainda patine.
é uma opinião arriscada, posso quebrar a cara, mas acho que eles têm de investir na reprodução visual se quiserem atingir a gen Z. e, nem adianta pensar em gadget que não tenha a gen Z na mira, afinal eles são os maiores consumidores de conteúdo na rede, útil ou inútil, mas são.
(eu teria um deles se fosse mais barato, para usar como uma espécie de assistente pessoal, um grilo falante, mas útil, preso à lapela.)
juiz 🦥 e o gptudo 🤖
quando você vai utilizar o chatgpt, no rodapé da página está escrito, com todas as letrinhas: “ChatGPT can make mistakes. Consider checking important information.”.
ou seja, o próprio gptudo afirma que pode errar, às vezes até criar coisas que não existem , o que chamamos de delírio da IA.
por isso, a mais básica das recomendações é sempre (1) tenha repertório para usar e/ou (2) faça uma checagem dos resultados, para não passar vergonha, para dizer o menos.
pois aconteceu algo assim com um juiz federal do TRF-1, a região de brasília (para surpresa de um total de 0 pessoas). o juiz assinou uma sentença que, na verdade, foi escrita pelo famoso ChatGPTudo. 🤖📜 parece futurista, né❓
ao que parece o juiz acreditou que tudo ia passar batido, e ele teria apenas sido mais um a usar a ferramenta como um elemento de suporte à preguiça. mas não passou.
na sentença, foram citadas algumas decisões do STJ (Superior Tribunal de Justiça) para fundamentar a decisão. p problema é que tais decisões não existiam 😂😂🤯💥. sim, a IA delirou, algo bastante comum, diga-se de passagem.
o advogado do perdedor foi dar uma olhadinha e, voilà. descobriu que as decisões não existiam, e então decidiu meter a boca no trombone 🎺.
mas se você pensa que o juiz esquentou a cabeça, ledo engano. culpou um funcionário, provavelmente estagiário, e chamou tudo de "mero equívoco" por causa da correria e do excesso de trabalho. 😅📚
quer saber o pior❓ corregedoria do tribunal, o tal TRF1, arquivou o caso, mas o CNJ decidiu dar uma nova olhada. 🕵️♂️🔍
o caso, apesar de divertido, esconde um dos assuntos mais polêmicos que terá de ser enfrentado em curto prazo: até onde a IA poderá ser utilizada para decidir, pelo Poder Judiciário❓
em um caso semelhante, mas com polos invertidos, advogados foram multados lá em bidenland por terem citado decisões “inventadas pela IA”.
mas, como é cá, não lá, e como quem fez a bobagem foi o juiz, não um advogado, quero ver só no que vai dar…🤔📖
youtube riscou a faca🔪 para reprodução de voz de artistas por IA
o youtube decidiu entrar na guerra contra as deepfakes (mas não pensem que não há um excelente motivo por detrás disso 💵💵).
agora, se você for postar algum conteúdo realista que tenha sido gerado em IA, terá de marcar a opção "AI-generated" 🏷️. a primeira preocupação do YT é clara e declarada: eleições ou conflitos.
mas já há aí um problema: o YT ainda não definiu direitinho o que considera "realista" o suficiente para precisar dessa marcação. 🤷♂️
mas e aí, e se eu não marcar direitinho❓ o vídeo pode ser derrubado e o canal desmonetizado (💸). ok, ok, mas como o YT vai poder comprovar que o conteúdo foi gerado por IA, apesar de não marcado❓ aí é que está: eles dizem que estão trabalhando em ferramentas de detecção.
e o lado 💵💵 disso, onde está❓
ok, vamos tentar explicar.
se você postar conteúdo que imite alguém, mas houver pedido de retirada, o YT vai analisar vários fatores, inclusive se é sátira, pessoa famosa, etc.
entretanto, o YouTube diz que será extremamente rigoroso com deepfakes de música , especialmente se imitar a voz única de um cantor famoso, já que as gravadoras parceiras do YouTube podem pedir pra derrubar. e parece que não vai ter exceção para sátiras ou paródias nesse caso. ou seja, se a gravadora pedir, alegar violação, é pumba, derruba.
eles precisam manter as gravadoras felizes 🎵🤝, mas também estão usando a internet inteira para alimentar suas próprias IA. ou seja, pau que dá em chico, não está dando em francisco 😂.
resumindo: O YouTube tá tentando navegar nesse mar de IA e direitos autorais, desde que não sejam os que ele viola. 👀📱
que tal uma nova seção especial❓
ao longo da história da news, já tivemos algumas seções especiais, sendo a mais famosa delas a das leis absurdas do brasil (muita gente pede para eu voltar com ela rs).
estou pensando agora em criar uma seção com dicas de apps para facilitar sua vida, ou então que sejam muito legais.
então é isso, por hoje é só.
Ps: todas as imagens foram retiradas do tenor.com e giphy.com, todas em homenagem a Mathew Perry.