Pular para a navegação Pular para as publicações Pular para o conteúdo
Assine
Sérgio Spagnuolo Sérgio Spagnuolo
Google lançou e já tirou do ar uma ferramenta de deepfakes de IA

No prazo de um dia, o Google lançou e já tirou do ar sua excelente ideia de permitir que usuários criassem deepfakes geográficas, que permitiam a manipulação de imagens de satélite com inteligência artificial generativa via Google Maps.

Usuários, claro, fizeram todo tipo de peripécias desinformativas com isso, inclusive adicionando uma usina nuclear fictícia no Irã (!).

Segundo o investigador de dados públicos Hank Van Ess, em sua newsletter:

Esta noite, digitei apenas uma frase no Google Earth e coloquei refugiados perto da fronteira mexicana. Depois, plantei uma usina nuclear no Irã. Depois, coloquei um acidente fatal em uma rua de Amsterdã. As próprias imagens de satélite do Google estão por baixo de todos os três exemplos.

A resposta inicial do Google foi apenas dizer que "cada imagem criada com o Nano Banana no Google Earth inclui a marca d'água digital do SynthID" e que "evitamos a criação de imagens sobre temas nocivos e estamos continuamente atualizando nossas proteções".

No dia seguinte, a empresa deu um duplo twist carpado e mudou totalmente de posição: "estamos revertendo este recurso no Google Earth enquanto trabalhamos na implementação de proteções mais robustas."

Via The Verge (link cortesia)

Google Inteligência Artificial

Outros Jogos Rápidos

  • Alexandre Orrico Alexandre Orrico
    DuckDuckGo lança óculos normalzão, sem IA

    O DuckDuckGo, mecanismo de busca e navegador focado na privacidade dos usuários, lançou um par de óculos bem normalzão: sem câmera, sem IA, sem bateria. É uma alfinetada clara em produtos como os Meta Glasses, que enfrentam graves questões de privacidade (o Sérgio escreveu um pouco sobre elas.)

    Apesar da piada, os óculos existem de verdade e estão à venda no site da Knockaround. A descrição do produto diz:

    A Knockaround e a DuckDuckGo estão lançando os óculos escuros antivigilância mais inovadores do mundo. Também conhecidos como: óculos escuros normais pra c******. Sem câmera, sem microfone, sem IA, sem bateria, sem eletrônicos de qualquer tipo. Apenas um belo par de óculos foscos pretos, com o logo brilhante da DuckDuckGo, feitos para bloquear o sol e nunca enviar seus dados para a nuvem.
    Meta sofre para resolver buraco de privacidade para seus óculos de IA
    Empresa vai implementar novas medidas para tentar conter abusos
    Núcleo JornalismoSérgio Spagnuolo

    Via 9to5mac e Knockaround.

    Inteligência Artificial
  • Sérgio Spagnuolo Sérgio Spagnuolo
    Mark Zuckerberg quer que uma IA seja sua advogada

    Mark Zuckerberg, que em geral não gosta mais da imprensa, deu entrevistas na última semana a fim de promover o desenvolvimento de inteligência artificial com código aberto. Ele também escreveu um editorial no Wall Street Journal.

    Em uma parte notável, para ilustrar seu argumento de que a IA precisa ser acessível a todos, ele falou:

    Como um experimento mental, imagine que apenas uma pessoa tenha um advogado superinteligente. Ela teria uma vantagem injusta no tribunal — mesmo que a sua posição estivesse errada no mérito. Isso levaria a uma sociedade pior. Mas, agora, imagine que todo mundo tenha um advogado superinteligente. A justiça seria realizada de forma muito mais justa e eficiente do que é hoje. Quando as pessoas são empoderadas, elas naturalmente fiscalizam e equilibram umas às outras e ao poder das grandes instituições.

    O argumento é hilário.

    Primeiro, porque Zuckerberg é bilionário e sua empresa Meta é trilionária. Apenas no segundo trimestre de 2026, a empresa gastou US$2,4 bilhões em despesas legais, com equipes gigantes de advogados – e ainda assim consegue perder casos importantes nas cortes.

    Segundo, porque executivos da Meta foram escrachados por uma juíza por entrarem com os óculos "inteligentes" Meta Glasses no tribunal – um gostinho de que o judiciário pode não ser tão aberto ao uso de IA nas cortes tão cedo.

    Por fim, porque a Meta está muito atrás na corrida do desenvolvimento de ponta de IA. Google, Anthropic e OpenAI possuem modelos superiores àqueles desenvolvidos pela Meta ou por empresas que fazem modelos de pesos abertos ou full open source.

    Não posso provar, mas acredito que se a Meta tivesse um modelo de ponta, não estaria pressionando por código aberto e perdendo sua vantagem competitiva.

    Via Wall Street Journal

    Meta Google Anthropic OpenAI Inteligência Artificial
  • Alexandre Orrico Alexandre Orrico
    OpenAI e Anthropic disputam quem tem os modelos mais rebeldes

    A Anthropic disse nesta quinta, 30.jun, que o Claude burlou um ambiente de testes e realizou ataque hacker contra três empresas. A empresa publicou um longo post com a investigação dos três incidentes. Um trecho do texto:

    Em todos os casos, o prompt de avaliação da Anthropic informava ao Claude que o ambiente em que ele estava era uma simulação e que ele não tinha acesso à internet. No entanto, devido a um mal-entendido entre nós e nosso parceiro responsável pela avaliação, o acesso à internet estava disponível. Por causa disso, quando as buscas do Claude o levaram a sistemas reais na internet aberta, ele os interpretou como parte do exercício.

    A própria Anthropic admite que só descobriu a rebeldia do Claude depois de revisar 140 mil avaliações por causa da OpenAI, que dia antes informou que seus próprios modelos escaparam do ambiente de testes, acessaram a internet aberta e invadiram os sistemas da plataforma de IA Hugging Face.

    O hype em declarar riscos de modelos de IA
    Como empresas de inteligência artificial ganham ao dizer que seus modelos são perigosos
    Núcleo JornalismoSérgio Spagnuolo

    Via Anthropic e OpenAI

    Anthropic OpenAI Inteligência Artificial
  • Alexandre Orrico Alexandre Orrico
    EUA vs. China é cortina de fumaça para corrida pela AGI?

    Eu e o Sérgio andamos lendo e compartilhando por aqui alguma coisas sobre a competição entre EUA e China no campo da inteligência artificial (inclusive o Papo Aberto #2, post de troca com nossa comunidade, é sobre esse assunto).

    Mas para Alvin Wang Graylin, escritor e estrategista global de tecnologia, a verdadeira corrida não é EUA vs. China e sim entre 4 ou 5 laboratórios privados dos Estados Unidos para ver que alcança primeiro a AGI (Artificial General Intelligence, um tipo hipotético de IA que possui a capacidade de aprender, raciocinar e executar qualquer tarefa intelectual no mesmo nível que um ser humano.

    Segundo Alvin, o discurso EUA vs. China interessa a eles porque:

    Isso permite que eles avancem mais rápido, que desregulamentem, que construam data centers com mais agilidade sem preocupação com leis ambientais etc.

    A fala completa de Alvin Wang está disponível no YouTube.

    Inteligência Artificial
  • Alexandre Orrico Alexandre Orrico
    BuzzFeed passa a foice em um terço dos funcionários

    Desde quando fui demitido do BuzzFeed Brasil, em jan.19, acompanho as tentativas da empresa de se tornar relevante no mercado editorial. A última foi uma megapivotagem para conteúdo gerado por IA, que começou lá em 2023, mas não deu muito certo. Do Futurism:

    O BuzzFeed foi um dos primeiros veículos a adotar a IA. Em janeiro de 2023, poucos meses após o lançamento público do ChatGPT, o então CEO Jonah Peretti anunciou que a empresa usaria o chatbot para ajudar a criar seus famosos quizzes.

    Aquilo foi apenas o começo. Pouco depois, a empresa se viu no centro de um escândalo ao ser flagrada usando IA para produzir artigos inteiros e de péssima qualidade — revelação agravada pela decisão de encerrar sua premiada divisão de jornalismo. O tráfego do site despencou, assim como o preço de suas ações, que caiu de cerca de US$ 4 para menos de US$ 0,50.

    Nesta segunda a empresa anunciou que precisou cortar 180 postos de trabalho. As demissões atingiram também o Huffington Post e o Tasty, divisão de vídeos de comida.

    Via Futuirsm e NYT.

  • Sérgio Spagnuolo Sérgio Spagnuolo
    A conta da IA até agora: menos US$700 bilhões

    Um curioso site utiliza dados públicos (e lista todas as fontes) para rastrear os investimentos com inteligência artificial por grandes empresas e responder uma única pergunta: a IA já deu lucro?

    A resposta: não. Até agora, investimentos em IA custaram US$730 bilhões a mais do que o setor conseguiu gerar de receita.

    Vale ressaltar que investimentos bilionários não têm objetivo de retorno de curto prazo, ou até mesmo médio prazo, mas é interessante ver a escala megazórdica dessa indústria.

    >> Acesse o site aqui

    Inteligência Artificial
  • Sérgio Spagnuolo Sérgio Spagnuolo
    Conversas privadas com chatbots de IA aparecem no Google (de novo)

    Diversos chats privados do Claude podem ser encontrados facilmente via Google, após usuários terem usado o recurso de "compartilhar link público" da ferramenta, aparentemente sem saber que isso seria indexado pelo mecanismo de busca.

    Segundo o site Futurism:

    Tais documentos, que foram revisados pelo Futurism por meio do Google Search, incluíam o que parecia ser um relatório médico detalhado de um paciente real, resultados de ensaios clínicos que incluíam nomes de pacientes, documentos compartilhando nomes e números de telefone de crianças, documentos da empresa marcados apenas para uso interno e avaliações de funcionários que incluíam informações pessoais sobre trabalhadores.

    Mesmo que a ferramenta tenha um alerta de que isso possa acontecer, seria bom criar salvaguardas para que documentos privados não sejam abertamente revelados por aí. Isso já rolou antes com ChatGPT, Grok (da xAI) e com o próprio Claude.

    Via Wired e Futurism

    Anthropic Claude Grok ChatGPT OpenAI xAI Inteligência Artificial Privacidade
  • Alexandre Orrico Alexandre Orrico
    A vez e a hora da China

    Modelos chineses de IA, como Kimi K3, DeepSeek e GLM-5.2, estão atraindo empresas globais por oferecer desempenho semelhante ao dos principais sistemas americanos por preços mais baixos. Companhias como DoorDash, Airbnb e Siemens já migraram para as plataformas feitas na China.

    Enquanto isso, a participação de Google, Anthropic e OpenAI na plataforma OpenRouter, hub que permite acessar centenas de grandes modelos de linguagem (LLMs) de diferentes empresas, caiu de 55% para 33% no primeiro semestre.

    Via DW e Financial Times

    Inteligência Artificial
  • Sérgio Spagnuolo Sérgio Spagnuolo
    Meta sofre para resolver buraco de privacidade para seus óculos de IA

    A Meta vai implementar novos recursos e políticas internas para tentar conter os costumeiros abusos com seus óculos de IA, os chamados Meta Glasses, em uma busca para conter a crise de confiança sobre sua principal plataforma de hardware.

    Até hoje, o principal – e talvez único – recurso de privacidade dos Meta Glasses é uma luz de LED que acende para mostrar que a câmera está ligada. Muitos usuários passaram a simplesmente bloquear essa luz.

    GLASSHOLES. Há vários casos registrados online de imbecis usando esse óculos para filmar sem permissão, assediar e humilhar pessoas. Ficou tão comum que foi até cunhado um termo para esse tipo de pessoa: glassholes – mistura em inglês de glasses (óculos) e asshole (cuzão/babaca/otário).

    MEDIDAS. Uma das coisas que a empresa vai fazer é forçar uma atualização de software para desabilitar a câmera em óculos que tiveram o LED bloqueado. Outra coisa que a empresa vai fazer é remover vídeos de assédio do Instagram feitos com Meta Glasses (os outros vídeos de assédio nós não sabemos o que vai acontecer eles, nem vídeos em outras plataformas).

    TOO LITTLE, TOO LATE. Tudo isso é visto como enxugar, segundo o The Verge. Especialmente porque os Meta Glasses representam outros riscos, agora que a empresa testa tecnologias de reconhecimento facial. A Meta também quer permitir que seus óculos façam gravações o tempo todo, não apenas alguns minutos por vez.

    Esse gadget é tão mal visto por alguns defensores de privacidade que anúncios contrários a eles nos EUA e no Reino Unido declararam tratar-se de "óculos de vigilância em massa para predadores".

    Anúncios contra Meta Glasses. Via Glasgow Actions

    Via The Verge [2], The New York Times, Wired, Financial Times

    Meta Privacidade
  • Sérgio Spagnuolo Sérgio Spagnuolo
    Modelos chineses de IA vs tokenmaxxing

    Empresas grandes e pequenas estão de saco cheio dos altos custos de ferramentas de IA desenvolvidas nos EUA e começaram a alternar seu uso com modelos chineses, cuja implementação é bem mais barata.

    A prática muda dramaticamente da mentalidade anterior de que a melhor coisa que um desenvolvedor poderia fazer é ficar torrando tokens como se não houvesse amanhã – prática chamada de tokenmaxxing.

    Segundo o Wall Street Journal:

    Fartas com a escalada dos custos, empresas de grande e pequeno porte estão começando a usar modelos de menor custo, incluindo alguns desenvolvidos na China. Em muitos casos, elas estão adicionando os novos modelos, mais baratos, paralelamente aos produtos da OpenAI e da Anthropic, fazendo compras à la carte para sua inteligência artificial. [...]

    Ser econômico — ou "tokenômico" — representa uma reversão dramática de mentalidade. Há apenas alguns meses, usar tanto a inteligência artificial a ponto de gastar muito com tokens era um motivo de orgulho. As empresas recompensavam os funcionários pelo tokenmaxxing, exibindo tabelas de classificação que mostravam quem havia gasto mais. Agora, elas estão no thrift-maxxing.

    Isso me leva a crer que, embora IA generativa seja bastante útil em vários aspectos, os ganhos de produtividade conseguidos em cima de ferramentas da OpenAI, Anthropic e Google não são suficientes para compensar o custo de ficar torrando tokens sem muito critério.

    Como disse um entrevistado da matéria, colocar modelos de ponta para fazer tarefas mundanas é igual ir de "Lamborghini para o mercado comprar leite".

    Via Wall Street Journal (link com acesso gratuito)

    Anthropic OpenAI Google
Ver tudo

Assine Entrar