Ja, die kop klinkt als of hij zo van een ‘nieuwsmedium’ vol met samenzweringstheorieën geleend is. Maar het is geen grapje. De Amerikaanse overheid werkt gericht aan het beïnvloeden van de werking van large language models (LLM’s).

 

Stel het Chinese DeepSeek wat kritische vragen over de rol van Chinese technologie bij de onderdrukking van etnische groepen en je krijgt een uitvoerig antwoord – dat kort daarna als sneeuw voor de zon verdwijnt. DeepSeek eindigt het gesprek vervolgens met een zinnetje als ‘Sorry, that’s beyond my current scope. Let’s talk about something else’. Geen goed begin voor de scholier die het maken van het profielwerkstuk wil outsourcen.
Lang leve het vrije Westen!

Het fundament onder onze GenAI

Nederlandse bedrijven zijn uiteraard niet overgestapt op het Chinese DeepSeek, maar gewoon trouw gebleven aan de modellen van OpenAI en consorten. Met de inmiddels klassieke LLM’s heeft die nieuwe lichting big tech spelers ook een stevig fundament gelegd onder klantcontact. Die taalmodellen vormen de basis van allerlei toepassingen: van geautomatiseerd samenvatten tot analyseren en opstellen van teksten. Of dat fundament zo stevig blijft, is de vraag. Dat zit zo.

Vorige week tekende Trump een executive order waarmee hij een verbod invoert op het gebruik binnen overheidscontracten van AI-modellen die niet ‘ideologisch neutraal’ zijn. Het is de volgende stap in het antiwoke-beleid van Trump. Volgens het decreet vormen diversiteit, gelijkheid en inclusie (DEI) een ‘alomtegenwoordige en destructieve’ ideologie die ‘de kwaliteit en nauwkeurigheid van de output kan verstoren’. In het decreet wordt specifiek verwezen naar zaken kritische rassentheorie, transgenderisme, onbewuste vooringenomenheid en intersectionaliteit. The New York Times: ‘The Chatbot Culture Wars are here‘.

Leveranciers die aan de overheid willen leveren, moeten aantonen dat hun trainingsdata, RLHF-prompts en evaluaties niet ‘woke’ of politiek gekleurd zijn. Die RLHF-prompts (Reinforcement Learning from Human Feedback) staan voor de trainingsfase waarin een model beloond of bestraft wordt op basis van menselijke voorkeuren, waarden en normen ten aanzien van de antwoorden.

LLM’s verbeteren?

Amerikaanse experts vrezen nu dat ontwikkelaars van LLM’s – ja, diezelfde nieuwe generatie big tech spelers, waar we ook in klantcontact allemaal dankbaar en op grote schaal gebruik van maken – terughoudend worden in het tegengaan van bias. Technieken die bijvoorbeeld expliciet corrigeren voor achtergestelde groepen kunnen nu als ‘partijdig’ worden bestempeld, waardoor veiligheids- en inclusie-filters mogelijk worden afgezwakt. Het eindresultaat kan zijn dat de kwaliteit van de output van grote taalmodellen achteruitgaat in plaats van vooruit, maar een vervolgstap kan zijn dat de output beïnvloed wordt door de conservatieve agenda van Trump cs.

De Amerikaanse regering heeft nog meer ijzers in het vuur als het gaat om het beïnvloeden van de werking van LLM’s. Zo wil de regering af van het gedoe rond het scrapen van content (ook materiaal waarop auteursrecht ligt) voor training. En Amerikaanse taalmodellen mogen voortaan afwijken van internationale eisen op het gebied van privacy.

Goed op dreef

Een tijdje terug besteedde Ziptone al aandacht aan het wankelen van het Data Privacy Framework: de set aan afspraken die zorgen voor een min of meer betrouwbaar en veilig gebruik van Amerikaanse cloudoplossingen. De ontmanteling van dat afsprakenstelsel – onder meer door de toezichthoudende commissie zo goed als uit te schakelen – was een van de vele acties uit  ‘Project 2025’. Dat is de 900 pagina’s tellende beleidsagenda van de conservatieve denktank The Heritage Foundation, bedoeld als blauwdruk voor een nieuwe Republikeinse regering.

Het zal je niet verbazen: Project 2025 stelt (onder meer) voor om alle diversiteit-, gelijkheids- en inclusieprogramma’s (DEI) in de federale overheid te beëindigen. Meest recente voorbeeld: na homo’s zijn nu ook vrouwen uit militaire topposities verwijderd.

Dat Project 2025 kwam een half jaar geleden nog over als het script voor een slechte B-film. Maar op dit moment heeft Trump al 46 procent van alle doelstellingen uit Project 2025 bereikt, meldt Project 2025 Tracker. Dus dat plan om de makers van de LLM’s aan te pakken, dat gaat vast ook wel lukken.

(Ziptone/Erik Bouwer)

Featured, Opinie, Technologie