Goed Maken ❤️

Een stok in de modder* of de twee vragen die bedrijven zichzelf moeten stellen

Over (niet zo makkelijk) lerende jongeren, griezelige ontmenselijking, slechte en goede bedrijven.

Het is tijd: Sam Altmans droom is dat intelligentie een commercieel product wordt. Op scholen lijkt dat proces zich al te voltrekken: docent Merel Kamp is in de rouw omdat haar leerlingen zoveel uitbesteden aan genAI. (En de kwaliteit van het werk keldert.) Tegelijk vinden afgestudeerde jonge mensen in de digitale media geen werk: junioren passen niet (meer) binnen bedrijven waarvoor ze zijn opgeleid. Tijd voor een goede WTF blog. 

Nog even over AI

Bent u het al zat? Dat gezeik over (gen)AI? Ik ook. Toch zeur ik nog even door. Waarom? Omdat het nog steeds alleen maar erger wordt. Inmiddels wil Sam Altman intelligentie als product gaan verkopen, overigens nadat bij in 2025 al duidelijk had gemaakt dat niet hij maar de maatschappij het probleem van tech maar moet oplossen. 

Sam Altman, 2026: “We see a future where intelligence is a utility, like electricity or water, and people buy it from us on a meter.”

Sam Altman, 2025: “I really believe that society figures out, over time with some big mistakes along the way, how to get technology right.”

Deze houding kenmerkt de techbro’s (m/v): ‘Wij zijn met innovatie bezig (snappen jullie niet), laat ons met rust, wij zijn de toekomst.’ Ondertussen blijven wij achter met een enorme AI saturatie in al onze producten. Niet omdat we dat willen, maar omdat ons dat via allerlei dark designs is opgedrongen tot het de nieuwe werkelijkheid werd. ✨

Ralph Crutzen zette de nadelen van genAI nog even op een rij in een mooi reeksje zines: Waarom Gen AI klote is en je het niet zou moeten gebruiken. (Hij vertaalde het werk van Lauren Woolsey.)  Handig voor op een feestje of bij je koffieapparaat. 

Bedrijven

Ik maak me vooral druk om de bedrijven die meebewegen met de AI hype. Consultants en marketingbedrijven hebben hun handen vol. En misschien heb ik het verkeerd en denken ze allemaal de hele tijd na over onze planeet en mensenrechten, maar waar het meer op lijkt is dat deze bedrijven hun klanten vertellen dat ze met AI moeten gaan werken. En als innovatief consultancy bedrijf help je natuurlijk graag- je catert naar de needs van je klanten. En dus: consultancy trajecten en productontwikkeling waar de markt om vraagt, ingefluisterd door diezelfde consultants. 

Als verandering je business model is moet je mee. Consultants gonna consult. En dus zitten ze vooraan op de bandwagon. De bandwagon van big tech marketing.

Het big tech marketing narratief:

  • Het is er al.
  • Tegen AI zijn is naïef en ouderwets. 
  • AI is alwetend als GOD, oh nee, IS God. 
  • Rationeel is de toekomst, wat je niet kunt berekenen is shit. 
  • Machines zijn beter dan mensen. 

(Wanhopig nu? Hoeft niet. Zie hier hoe Emily Bender dit narratief onderuit haalt 🍿.)

Niet alle AI is big tech

Klopt natuurlijk. Er worden Europeese cloud oplossingen gemaakt, er zijn kleinere LLM’s die op legale content draaien en zorgverleners hebben baat bij custom speech to text tools. En ja wetenschap! En ja kunst! Maar democratisch tot stand gekomen en met de juiste intenties (waar we het dan weer over eens moeten worden).

Helpt het? Breng je schade toe?

De big tech bedrijven opereren buiten democratie en landsgrenzen, maar zijn inmiddels wel machtig als landen. En dan moet ik aan Hannah Arendt denken, en haar blik op totalitarisme. (Ik schreef er al eens over.) Die bedrijven zijn schadelijk.

Maar ook kleinere initiatieven moeten goed opletten. Want een datacenter gebruikt net zoveel water en stroom als het door een goede partij wordt gebruikt. En het ingrijpen in het werkende leven ten faveure van effeciency en effectievere marketing is nogal een keuze.

Er zijn twee kernvragen:

  1. Helpt wat je doet? Zo ja, dan kun je door naar vraag 2. (Zo nee dat kun je meteen stoppen.)
  2. Veroorzaakt het schade? Nee? Dan kun je door. Ja? dan moet je goed nadenken over het voorkomen van die schade. Of de stekker uit je project trekken.

(Meer hierover in het DIY ethiek handboek.)

Terug naar de bedrijven

Fair enough, bedrijven hebben met de realiteit van de markt te maken. Maar jeetje! Mens, natuur en planeet staan niet erg centraal zeg maar. 

  • Ontwerp en tekst gerelateerde taken hoeven niet langer goed, maar alleen maar goed genoeg te zijn. Net als code, vibe away!
  • Mensen zijn kosten en kosten moeten naar beneden. En de effectiviteit omhoog. En dus: junioren passen niet, want ze leveren niks op. (Check Emily Bender!)
  • Mensen zijn sowieso nadelig want onbetrouwbaar. Die raken zo snel hun skills kwijt! En kinderen leren ze niet eens.
  • Agentic AI is geweldig voor marketing. We kunnen nu targeted advertenties automatiseren waardoor we minder kosten maken en meer verkopen! (Gepresenteerd zien worden als goede case op een conferentie, zucht.)

Moeras met één duidelijk probleem

Als je in een discussie over AI terecht komt raak je snel vast in een moeras. Het halve internet staat daar inmiddels vol mee. Maar één probleem kunnen we niet verzuipen: het is de markt versus de maatschappij. En daarin gaat het over waarden en wereldbeeld.

  • Big Tech gaat niet over vooruitgang maar over geld en macht. En dat moeten we ernstig wantrouwen. Bedrijven die hun producten inzetten in hun dienstverlening zijn medeplichtig.
  • Als meest disruptieve diersoort verzaken we onze zorgplicht voor de aarde. Maar ook onze zorg naar andere mensen toe schiet te kort. Ghostwork mag niet bestaan en discriminatie ook niet. Bedrijven mogen pas ondernemen als deze basis op orde is.
  • En als pas afgestudeerde mensen geen werk vinden, is dat niet alleen hun eigen probleem, of van hun opleiding. Ook bedrijven zijn verantwoordelijk voor onze jongeren. Een bedrijf is onderdeel van de maatschappij en heeft een taak en rol. En die is niet het maximaliseren van winst voor aandeelhouders, maar onderdeel zijn van de werkelijke wereld. Een wereld waarin je jonge mensen opneemt en laat groeien. Bedrijven hebben een morele rol.

Bedrijven moeten zich afvragen of ze helpen of schade toebrengen. En als ze dat niet kunnen hebben we als maatschappij nieuwe, betere bedrijven nodig. Echt innovatieve bedrijven. 

En wij burgers: laten wij nee zeggen. Wees een stick in the mud* (Ik ben als neo luddiet zeker zo’n stick!) zoals Emily Bender vraagt in haar geweldige lezing Resisting Dehumanization in the Age of “AI”.

*a person who is dull and unadventurous and who resists change.

Bronnen/ referenties