Googles AI Overviews leverer farlige og upræcise svar

For få dage siden, i forbindelse med udviklerkonferencen Google I/O, lancerede Google funktionen AI Overviews til de amerikanske brugere. Den nye søgefunktion skulle kunne bruge information i realtid, forstå argumentation i flere led og sammenfatte svar fra mange forskellige kilder.

Som en del af præsentationen blev det demonstreret, hvordan AI Overviews f.eks. kunne svare på “find de bedste yogastudier inden for 10 minutter fra mit hjem, og hvad de har af introduktionstilbud”.

Men allerede få dage efter den nye søgefunktion, hvis svar bliver vist over de normale søgeresultater, var blevet tilgængelig, begyndte brugere på sociale medier at vise eksempler på, at AI Overviews til tider kommer med vanvittige svar på helt normale spørgsmål.

Uappetitlige og decideret farlige råd

En bruger spurgte Google, hvordan han kunne forhindre osten i at glide af hans pizza. Svaret? Du kan blande lim i osten, så sidder den bedre fast!

Google is dead beyond comparison pic.twitter.com/EQIJhvPUoI

Annonce

— PixelButts (@PixelButts) May 22, 2024

Endnu værre var det, at en anden bruger fik en opskrift på sennepsgas, da han bad om et råd til, hvordan han kunne rengøre sin vaskemaskine.

I asked how to clean my washing machine, and it told me to make chlorine gas pic.twitter.com/BniM2j1VGv

— goose queef (@Mia62651937) May 15, 2024

Kilden til det gode råd om at putte lim i osten? Et 11 år gammelt opslag på det sociale medie Reddit fra en bruger ved navn “fucksmith”.

60 millioner dollars til Reddit

Det er ikke tilfældigt, at AI Overviews videregiver et svar fra en Reddit-bruger, for i begyndelsen af året indgik Google nemlig en aftale med Reddit, der indebærer, at det sociale medie modtager 60 millioner dollars (knap 414 millioner danske kroner) for at Google må bruge det sociale medies indhold til at træne sine AI-modeller. Det skrev det tyske techmedie Winfuture tilbage i februar måned.

Læs det med småt

Men Google fraskriver sig ethvert ansvar for de svar, AI Overviews giver brugerne. “Generative AI is experimental”, står der med små bogstaver under alle de AI-skabte søgeresultater, så det overlades med andre ord til brugernes eget ansvar og mediekompetence at vurdere svarene fra den kunstige intelligens.

Til The Verge siger Meghann Farnswort, en talsperson fra Google, at de pågældende fejl stammer fra “generelt meget ualmindelige forespørgsler, der ikke er repræsentative for de fleste menneskers oplevelser.”

Virksomheden har grebet ind over for overtrædelser af sine politikker, sagde hun, og bruger disse “isolerede eksempler” til at fortsætte med at forbedre produktet.

Peter Gotschalk

(f. 1973): Chefredaktør for L&B Home. Peter har arbejdet for Lyd & Billede siden 2012. Han har været aktiv som tech-journalist for talrige medier siden 1998, bl.a. som chefredaktør for gadget-magasinet GEAR og som journalist for magasinerne PC World og Privat Computer. Peter skriver om smartphones og andre bærbare enheder samt om teknologisk innovation, herunder 5G, elektronisk mobilitet og smarte hjem.