Gisteren stond mijn inbox van Yahoo vol cryptische boodschappen. De ene mail nog vreemder van toon dan de andere. Eerst dacht ik dat het aan de kwaliteit van de copywriters lag. Toen begon ik te denken dat het aan mijzelf lag. Misschien was de hitte naar mijn hoofd gestegen? Hallucineerde ik?
Ik sloot mijn browser en opende het opnieuw. Voor een moment was alles weer normaal. Daarna begonnen de teksten voor mijn ogen opnieuw te veranderen. Ik kreeg rare boodschappen, als: “Tik me reet aan.” En: “Wij ontvangen zo snel mogelijk hetzelfde pakket”.
Uiteindelijk realiseerde ik me dat het probleem in mijn Google browser zat. Blijkbaar stond “Automatisch vertalen” aan voor de website van Yahoo. Maar dat verklaart nog niet waarom de ‘vertalingen’ zo los geslagen waren van de realiteit en de oorspronkelijke teksten dat ik denk dat we hier met een volgend tenenkrommend Google AI experiment te maken hebben.
Het was alsof ik even door de glitch in de matrix kon kijken. Een voorproefje van de toekomst waarin de interfaces waarmee wij communiceren steeds meer AI-gedreven zijn.
Kafka is er niks bij.
Wat maakte deze ervaring zorgwekkend?
1) Mijn privécommunicatie voelde totaal niet meer privé.
In eerste instantie dacht ik dat een AI scraper mijn hele inbox aan het dataminen was (misschien was het ook wel zo). Ik realiseerde me hoeveel persoonlijke data zo’n mailbox bevat.
2) Mijn eigen woorden en de woorden van de ander werden aangepast en verdraaid.
Zo kreeg ik net die dag een nieuwsbrief van een coach die ik net was gaan volgen. Zijn teksten waren zo raar dat ik ernstig twijfelde aan zijn professionele status.
3) Ik wist niet meer wat echt was en wat nep.
Ik begon te twijfelen aan alles in mijn mailbox. Wat was nog echte communicatie? En wat was communicatie die AI zonder mijn medeweten had aangepast?
4) Mijn beleving van de werkelijkheid werd fluide.
De werkelijkheid veranderde waar ik bij stond. Ik had niets meer om me ‘aan vast te houden’ als zijnde ‘de bron’ of ‘het origineel’. Ik had alleen mijn eigen waarneming. Naast de schermopnames die ik gelukkig gemaakt had, had ik geen manier om te bewijzen dat wat ik gezien had echt was. Ik begon aan mezelf te twijfelen.
Het tijdperk van hyperpersonalisatie
We zijn inmiddels gewend dat informatie steeds meer decentraal gemaakt en verspreid wordt. Mensen raadplegen verschillende websites en kanalen voor nieuws en informatie. Van de 7000 beschikbaar films en series van Netflix worden er per profiel maar 300 getoond. Google bepaalt welke zoekresultaten een gebruiker als eerste te zien krijgt. Op sociale media heeft iedereen een eigen tijdlijn bepaald door mysterieuze en almachtige algoritmes. Laatst zag ik bewijs van een TikTok video waarbij de commentsectie voor vrouwelijke volgers andere comments liet zien dan voor mannen.
Veel van deze interfaces lopen al op AI. Daarmee heeft AI, en daarmee de mensen achter grote Techbedrijven, veel invloed op hoe wij de wereld waarnemen.
Met de komst van generatieve AI komt daar een nieuwe dimensie bij.
Naast het tonen en verspreiden van content, kunnen AI tools nu ook zelf content maken. Er worden ter plekke video’s en bedtijdverhaaltjes bedacht. Hele boeken worden samengevat met één druk op de knop. Comments worden geschreven en sollicitatieprocedures doorlopen.
Maar wie bepaalt wat er in de tekst of afbeelding staat en wat wordt weggelaten?
AI is een tool van hyperpersonalisatie.
Alles wordt op maat gemaakt, individueel en afgestemd op deze ene gebruiker op dit moment. En daarmee wordt het steeds moeilijker het verschil te weten tussen echt en nep. Is een gedeelde werkelijkheid verder weg dan ooit.
Wie bepaalt wat waarheid is?
Wat is het effect op de samenleving als mails, websites, nieuws, video’s en artikelen automatisch worden aangepast naar de persoonlijke smaak, geschiedenis, taal en (politieke) voorkeur van de lezer?
Hoeveel macht geven we uit handen aan bedrijven die tot nu geen enkele vorm van moreel kompas hebben getoond?
En dan heb ik het nog niet eens over de vergaande vorm van surveillance en privacy verlies waarmee deze technologie gepaard gaat.
Wat gebeurt er met ons vermogen om elkaar te begrijpen als we gaan vertrouwen op AI om het denkwerk te doen, om onze ideeën te verwoorden en de teksten van anderen te lezen en te begrijpen?
Kunnen we elkaar straks nog verstaan?
Of zijn we voor altijd:
LOST IN TRANSLATION