Further down the AI hole

Ik merk dat ik steeds kritischer op AI word, herken je dat? Enerzijds door mijn eigen ervaringen met AI, anderzijds door de leercurve die we als maatschappij maken. We omarmen technologie vaak te snel, met alle gevolgen van dien. Als vader van een videokijkend kindje (Paw Patrol!) vraag ik me af hoe ik haar straks veilig het internet op begeleid. In ieder geval geen Roblox. Maar ook META en ChatGPT staan nu in de negatieve schijnwerpers, voor het toelaten en faciliteren van schadelijke content.

De richting die generatieve AI momenteel op gaat is eerder dystopisch dan idyllisch, zo klinkt het steeds vaker. Dat gevoel kreeg ik zelf toen ik van Presscloud een persbericht van het Nederlandse bedrijf “AI Bitches” ontving, in dezelfde week dat de zaak Lisa juist vol in het nieuws was. In de 11 september nieuwsbrief onderzocht ik niet zo zeer hoe ‘het’ dan wel moet, maar hoe je je kompas hanteert als organisatie.

1. What technology wants

Kevin Kelly stelt in deze klassieker dat technologie doorgaans te snel wordt geadopteerd. Als voorbeeld van hoe het anders kan, geeft hij de Amish: tijdelijk proberen, en leren of het nut groter is dan de sociale schade. Bewust selecteren in plaats van blinde snelheid.

Over AI is hij optimistisch, maar hij erkent wel de risico’s. Over deepfakes zegt hij in deze podcast:

“Any image has been created by an AI unless we’re told otherwise.”

Zijn oplossing is de bron:

“Did this come from a reliable source? Because that’s the only way. You can’t tell by looking at it. You can only tell from where it came from.”

2. De herkomst herleiden

Het probleem is dat de herkomst van content steeds diffuser wordt terwijl de hoeveelheid content exponentieel blijft toenemen:

• Media voelen de druk om snel nieuws te leveren. Kleinere redacties, dus veel hergebruik van elkaars werk en weinig verificatie.
• Bedrijven brengen commerciële content als objectief nieuws. Iedereen is publisher! Om aandacht te vangen en merkrelaties op te bouwen.
• Social media focust op emotie voor interactie en ophef. Gebruikers knippen en delen nieuws, en de context verschuift. Maar dit is wel de primaire nieuwsbron voor 1 op de 8 Nederlanders. (Newcom)
• Generatieve AI herpakt content zonder bronvermelding. ChatGPT vertelt je niet waar het dat recept voor die Griekse schotel vandaan heeft.

De crux is dat generatieve AI eigenlijk gewoon een mediaproduct is: gepersonaliseerde content op vraag.

Daarvoor stalen de techbedrijven erachter miljoenen boeken voor AI-training. De originele contentmakers verdienden daar niets aan. Hetzelfde geldt voor elke website-eigenaar: minder klikken uit Google door AI Overviews. Originele content maken levert zo steeds minder op. Het gevolg daarvan?

3. Dead Internet Theory

Ondernemer en dagvoorzitter Rens de Jong stelt op LinkedIn dat bots nu al in de meerderheid zijn op het internet en echte mensen zeldzaam worden op het web:

“Vroeger was het internet vóór de mensen, dóór de mensen. Nu wordt het door de bots, voor de bots. De rol die wij mensen spelen? Geen idee, je constant afvragen, is dit menselijk of niet?? Heb ik hier iets aan?”

4. AI-AI bias

Geen verkeerd toekomstbeeld, zou een taalmodel zoals GPT-4 zeggen. Onderzoek over AI-voorkeuren geeft aan:

if we deploy LLM assistants in decision-making roles (e.g., purchasing goods, selecting academic submissions) they will implicitly favor LLM-based AI agents and LLM-assisted humans over ordinary humans

Liever dus AI-content dan menselijke content. Lees hier verder.

Hoe zal dat gaan wanneer robots ook gaan rondlopen?
Mensen verwachten voorrang op robots, volgens dit onderzoek, maar wat als een robot een warme pizza of een cruciale medicijn bezorgt?