falhas de IA » Guia de Tecnologia

Na última semana, o novo produto de IA do Google, o AI Overview, tem gerado uma onda de memes e críticas nas redes sociais. Isso porque a tecnologia, que deveria auxiliar os usuários em suas pesquisas, passou a dar conselhos bizarros, como sugerir que coloquem cola em suas pizzas ou até mesmo que comam pedras. Imagem: Álvaro Bernis Esse lançamento conturbado forçou o Google a desativar manualmente diversas visões gerais de IA para consultas específicas, gerando ainda mais curiosidade e piadas entre os internautas que viam os conteúdos desaparecerem rapidamente após serem postados. A ironia é que o Google vinha testando essa tecnologia há mais de um ano, desde que o recurso foi lançado em beta em maio de 2023 como parte da Search Generative Experience. O CEO do Google, Sundar Pichai, revelou que a empresa já atendeu a mais de um bilhão de consultas com o AI Overview. Contudo, ele também mencionou que o custo para fornecer essas respostas de IA foi reduzido em 80% durante o mesmo período, graças a avanços em hardware e engenharia. Parece que essa otimização pode ter sido prematura, resultando nas atuais falhas cômicas. Um fundador de IA, que preferiu permanecer anônimo, comentou ao The Verge: "Uma empresa que já foi conhecida por estar na vanguarda e enviar coisas de alta qualidade agora é conhecida pela produção de baixa qualidade que está recebendo meme." Apesar disso, o Google defende seu produto, alegando que em grande parte ele oferece "informações de alta qualidade". Meghann Farnsworth, porta-voz do Google, afirmou que muitos dos exemplos problemáticos foram manipulados ou eram consultas incomuns, e que a empresa está tomando "medidas rápidas" para corrigir essas falhas. Especialistas como Gary Marcus, professor emérito de ciência neural da Universidade de Nova York, apontam que alcançar precisão total em IA é extremamente difícil. Ele explica que enquanto atingir 80% de precisão é relativamente simples, os 20% restantes exigem um nível de raciocínio e verificação que os atuais modelos de linguagem, como o Gemini do Google e o GPT-4 da OpenAI, ainda não conseguem proporcionar. Marcus e Yann LeCun, chefe de IA da Meta, concordam que os modelos atuais não serão os responsáveis por criar a tão esperada Inteligência Artificial Geral (AGI). Com a concorrência acirrada, especialmente de empresas como a Microsoft com seu Bing e a OpenAI, além de novas startups no mercado de pesquisa de IA, o Google está sob pressão para entregar resultados impecáveis. No entanto, essa pressa tem resultado em lançamentos problemáticos. Marcus relembra que, em 2022, a Meta enfrentou uma situação semelhante com seu sistema de IA, Galactica, que também teve que ser retirado do ar por fornecer informações absurdas, como sugerir o consumo de vidro. Apesar dos tropeços, o Google mantém grandes planos para seu AI Overview, prometendo avanços como raciocínio em várias etapas para consultas complexas e a geração de páginas de resultados organizadas por IA. Contudo, neste momento, a prioridade da empresa é acertar o básico e recuperar sua reputação. Como Marcus coloca, "esses modelos são constitucionalmente incapazes de fazer verificação de sanidade em seu próprio trabalho, e é isso que veio morder essa indústria por trás".

Tag: falhas de IA

Google AI Overview vira piada nos USA após sugerir uso de...

Páginas Importantes

Institucional

Categorias

Conecte-se com a gente

Newsletter

Receba Novidades em Seu E-mail