Artsen en patiëntenorganisaties slaan alarm over Googles functie AI Overviews. Het systeem toonde de afgelopen dagen misleidende informatie over kanker in Nederlandse zoekresultaten. Dat is riskant, omdat mensen gezondheidskeuzes kunnen baseren op foutieve adviezen. De kwestie past in het bredere debat over Europese digitalisering gevolgen bedrijfsleven en zorg.
AI-overzicht misleidt over kanker
AI Overviews geeft bovenaan Google Zoeken een automatisch antwoord op een vraag. Bij zoekopdrachten over kanker verschenen samenvattingen met onjuiste of onvolledige claims. Het ging om uitspraken over symptomen, testen en behandelingen die niet stroken met medische richtlijnen. Dat kan leiden tot verwarring en uitstel van zorg.
Nederlandse artsen en patiëntengroepen noemen dit gevaarlijk. Mensen geven veel vertrouwen aan wat bovenaan in Google staat. Een foutief antwoord weegt dan zwaarder dan een correct artikel verderop. Daardoor neemt het risico op verkeerde beslissingen toe.
AI Overviews is een generatieve AI-functie die tekst voorspelt op basis van patronen in data. Het is geen medisch hulpmiddel en vervangt geen diagnose door een arts. De functie gebruikt bronnen van het web, die wisselende kwaliteit hebben. Zonder strenge filters kan dat snel ontsporen.
AI Overviews: automatisch gegenereerde samenvattingen bovenaan Google Zoeken, samengesteld door een taalmodel op basis van webbronnen.
Google belooft snelle aanpassingen
Google zegt extra veiligheidslagen toe te voegen en foutieve antwoorden te verwijderen. Het bedrijf beperkt de functie voor gevoelige onderwerpen zoals gezondheid. Ook past Google de rangschikking van bronnen aan om betrouwbare informatie te bevoordelen. Op het moment van schrijven is het herstelwerk gaande.
Eerder voerde Google al correcties door nadat AI Overviews onzinantwoorden gaf. Toen werden de modellen en de promptregels aangescherpt. Bij gezondheidsinformatie blijken die maatregelen nog onvoldoende. De foutmarge is daar simpelweg minder acceptabel.
Technisch gezien blijft er een risico op hallucinaties bij grote taalmodellen. Bedrijven dempen dat met bronkoppelingen, filters en zogeheten retrieval augmented generation, waarbij actuele bronnen worden opgehaald. Bij medische onderwerpen vergt dat strengere curatie van bronnen en duidelijke waarschuwingen aan gebruikers.
DSA stelt strenge plichten
In de EU valt Google Zoeken onder de Digital Services Act (DSA) als zeer groot online platform. Deze wet verplicht tot het inschatten en beperken van systeemrisico’s, waaronder schade aan de volksgezondheid. Foute medische informatie in AI Overviews raakt direct aan die verplichtingen. Transparantie en effectieve mitigatie zijn vereist.
De DSA eist onder meer jaarlijkse risicobeoordelingen, aanpassingen in ontwerp en onafhankelijke audits. Bij aanhoudende tekortkomingen kan de Europese Commissie boetes opleggen tot 6% van de wereldwijde omzet, op het moment van schrijven. Dat zet druk op snelle en aantoonbare verbeteringen. Documentatie en toegang voor onderzoekers spelen daarbij een rol.
In Nederland coördineert de Autoriteit Consument & Markt het DSA-toezicht op diensten die hier actief zijn. Samenwerking met Europese toezichthouders moet leiden tot consistente handhaving. Publieke rapportages van platforms maken zichtbaar of maatregelen werken. Dat is relevant voor burgers, zorginstellingen en het bedrijfsleven.
AI Act vraagt transparantie
De Europese AI-verordening (AI Act) legt regels op aan general-purpose AI, zoals de modellen achter AI Overviews. Fabrikanten moeten technische documentatie, risicobeperking en duidelijke gebruiksaanwijzingen bieden. Voor toepassingen die medische beslissingen beïnvloeden gelden extra waarborgen. Zoekfuncties vallen niet automatisch in de hoogrisicoklasse, maar gezondheidsadviezen verhogen wel de zorgplicht.
Zorgaanbieders die AI inzetten voor diagnose of triage vallen wél onder strengere eisen. Denk aan datakwaliteit, menselijke controle en incidentmeldingen. Dat contrast toont het gat tussen gereguleerde medische AI en consumentgerichte zoekantwoorden. Bruggen slaan vraagt transparantie over hoe antwoorden tot stand komen.
Voor aanbieders van AI in consumentenproducten betekent de AI Act ook bronvermelding en respect voor intellectueel eigendom. Daarnaast stimuleert de wet testen in realistische omstandigheden, juist bij gevoelige onderwerpen. Als Google die standaarden omarmt, kan dat de betrouwbaarheid van AI Overviews verbeteren. Het voorkomt bovendien frictie met Europese toezichthouders.
Gevolgen voor Nederlandse zorg
Huisartsen en oncologen krijgen vaker vragen op basis van online informatie. Foute samenvattingen kunnen consulten verlengen en onnodige angst veroorzaken. Zorgorganisaties adviseren daarom te vertrouwen op erkende bronnen. In Nederland zijn Thuisarts.nl en KWF Kankerbestrijding veelgebruikte startpunten.
Ziekenhuizen en universiteiten experimenteren met AI in beeldvorming en logistiek onder strenge protocollen. De problemen bij AI Overviews laten zien dat consumententools een ander risicoprofiel hebben. Daar ontbreken vaak dezelfde checks en validering. Dat vraagt om duidelijke kaders en betere uitleg aan gebruikers.
Ook het bedrijfsleven voelt effecten. Wanneer AI-antwoorden verkeer weghalen bij betrouwbare publicaties, raakt dat uitgevers en adverteerders. De discussie over Europese digitalisering gevolgen bedrijfsleven speelt dus ook hier. Heldere regels en consistente implementatie moeten de balans herstellen.
Veilig zoeken naar zorginfo
Controleer altijd wie de afzender is en wanneer de informatie is bijgewerkt. Vergelijk meerdere bronnen en kijk of er consensus is met richtlijnen. Let op voor absolute claims zonder bronvermelding. Bij twijfel: neem contact op met de huisarts.
Gebruik in Google desnoods de weergave “Web” om alleen links naar websites te zien. Meld foutieve AI-antwoorden via de feedbackknop bij het resultaat. Dat helpt platforms om problemen sneller te vinden. Het versnelt ook de verplichte risicobeperking onder de DSA.
AI kan nuttig zijn om snel overzicht te krijgen, maar is niet leidend bij medische keuzes. Officiële bronnen en zorgprofessionals blijven de basis. In acute situaties geldt altijd: bel 112. Zo blijft digitale innovatie ondersteunend in plaats van schadelijk.