De Amerikaanse techjournalist Karen Hao waarschuwt dat niet kunstmatige intelligentie zelf het grootste risico vormt, maar de bedrijven die deze systemen bouwen. In een recente publicatie in Nederland stelt zij dat bedrijfsmodellen en machtsconcentratie bepalend zijn voor de uitkomst. Het gaat vooral om makers van generatieve AI zoals OpenAI, Google, Meta en Microsoft. Haar analyse is relevant voor Europese digitalisering en de gevolgen voor het bedrijfsleven, beleid en burgers.
Macht bij AI-bedrijven groeit
Volgens Hao verschuift de macht naar een kleine groep technologiebedrijven met veel data, rekenkracht en kapitaal. Wie de cloud, chips en modellen bezit, bepaalt het tempo en de spelregels. Dat vergroot het risico op keuzes die winst boven zorgvuldigheid zetten. De samenleving draagt dan de ongewenste effecten.
Het verdienmodel van veel platforms draait om groei en marktaandeel. Daardoor komen AI-functies soms snel op de markt, terwijl de risico’s nog niet volledig zijn getest. Denk aan vooroordelen in algoritmen, misinformatie en onduidelijkheid over herkomst van data. Ook de arbeidsomstandigheden van data-annotators blijven vaak buiten beeld.
Voor Europa en Nederland speelt nog een afhankelijkheidsvraag. Veel organisaties draaien AI op Amerikaanse clouds, wat kan leiden tot lock-in en hogere overstapkosten. Dat beperkt keuzevrijheid en ondermijnt strategische autonomie. Het maakt transparante inkoop en strenge contractvoorwaarden extra belangrijk.
Transparantie en datagebruik onder druk
Generatieve AI wordt getraind op enorme hoeveelheden tekst, beeld en audio van het internet. Onder de AVG is daar een geldige grondslag voor nodig, plus dataminimalisatie en duidelijke doelen. Zonder helderheid over welke datasets zijn gebruikt, is toezicht lastig. Ook makers en afnemers weten dan niet goed welke bias of fouten in het systeem zitten.
Documentatie is vaak nog beperkt. Veel modellen missen duidelijke “model cards” en datasetbeschrijvingen met herkomst, licenties en kwaliteitscontroles. Ook informatie over energieverbruik en watergebruik van datacenters wordt niet altijd gedeeld. Dat maakt de milieu-impact moeilijk te beoordelen en te verminderen.
Foundation models zijn algemene AI-systemen die zijn getraind op grote hoeveelheden data en inzetbaar zijn voor verschillende taken, zoals tekst genereren, programmeren of beeld maken.
Voor gebruikers in zorg, onderwijs en overheid is dit een risico. Zij moeten kunnen uitleggen hoe een uitkomst tot stand komt, vooral bij impact op burgers. Zonder transparantie is dat bijna niet te doen. Daardoor groeit de behoefte aan onafhankelijke audits en bruikbare technische documentatie.
Europese regels sturen AI-markt
De Europese AI-verordening (AI Act) zet, op het moment van schrijven, een risicogestuurd kader neer. Verboden praktijken, zoals ongerichte gezichtsherkenning in de publieke ruimte, worden aangepakt. Hoogrisico-toepassingen in bijvoorbeeld werving, kredietwaardigheid en kritieke infrastructuur krijgen strenge eisen. Denk aan risicobeheer, data-kwaliteit, menselijk toezicht en logboekvorming.
Voor zogeheten general-purpose of foundation models komen transparantie-eisen. Leveranciers moeten technische documentatie, testresultaten en samenvattingen van trainingsdata beschikbaar maken. Voor zeer krachtige modellen met “systemisch risico” gelden extra plichten, zoals model-evaluaties en incidentmelding. Dit sluit aan bij de roep om meer openheid die Hao benoemt.
De Digital Services Act verplicht grote platforms om systeemrisico’s van hun algoritmen te beoordelen en te beperken. De AVG blijft leidend voor persoonsgegevens, met regels voor grondslag, doelbinding en rechten van betrokkenen. Samen moeten deze wetten machtsconcentratie en ondoorzichtige datapraktijken in bedwang houden. Handhaving door Europese en nationale toezichthouders wordt daarbij cruciaal.
Gevolgen voor Nederlandse praktijk
In Nederland houden de Autoriteit Persoonsgegevens en de Autoriteit Consument & Markt, op het moment van schrijven, toezicht op datagebruik en algoritmen. Zij kijken naar misleiding, oneerlijke voorwaarden en onrechtmatige verwerking. Publieke diensten die AI inzetten, moeten DPIA’s uitvoeren en straks AI Act-eisen volgen. Dat vraagt om nieuwe kennis, processen en budget.
Organisaties doen er goed aan nu al te handelen. Leg in contracten met AI-leveranciers transparantie, auditrechten en beveiliging vast. Documenteer datasets en beslisregels, test op bias en laat systemen periodiek “red-teamtesten” ondergaan. Zo wordt naleving aantoonbaar en worden incidenten sneller ontdekt.
Ook de fysieke kant telt. Datacenters vragen veel stroom en water; schaarste en netcongestie spelen in meerdere Nederlandse regio’s. Beleidskeuzes over locatie, koeling en hernieuwbare energie bepalen de milieudruk. Heldere rapportage door aanbieders helpt bedrijven en overheden om duurzame keuzes te maken.