BRaiNS Artikel

NOS 3 mei 2024:

Chatbots adviseerden: verspreid desinformatie en zaai angst over EU-verkiezing en

Commentaar door Simon Been,

Spreker en Auteur over AI in het Informatiedomein

Akelig! Wat is wijsheid? Is censuur de enige oplossing voor de problemen van AI? Houden ChatGPT & Co ons alleen maar een spiegel van de maatschappij voor? Tijd voor een discussie.

Dit NOS-bericht benadrukt weer eens hoe lastig en weerbarstig de werking van de huidige generatie chatbots is. Ze proberen te beteugelen is vergelijkbaar met het uitvoeren van een operatie met een botte bijl.

Dat AI’s ongewenste en zelfs gevaarlijke antwoorden kunnen geven is een bekend gegeven. Begrijpelijke verontwaardiging alom. Maar wat we vaak over het hoofd zien, is dat ChatGPT & Co in zekere zin Google 2.0 zijn: een portaal naar de recente menselijke geschiedenis, digitaal vastgelegd door ons allen, inclusief onze ongewenste overtuigingen, leugens en venijn. Oude wijn in een nieuwe, sexy verpakking. Slurpt zo lekker weg.

Sommige aspecten vallen onder de vrijheid van meningsuiting, zoals de vrijheid om meningen van anderen te verkennen. Vanuit dat perspectief is er niets mis met overtuigingen over verkiezingen en kandidaten. Maar de grens wordt overschreden als het gaat om opruiing en aanzetten tot strafbare feiten. Dit zou nergens toegestaan moeten zijn, niet op internet en niet door een AI.

Hinkelen

Ik weet echt niet waar de grens ligt tussen wat wel en niet gecensureerd moet worden, maar duidelijk is dat het vaststellen van deze grens zorgvuldigheid vereist. We zien steeds opnieuw voorbeelden van ongewenst AI-gedrag dat leidt tot mediastormen, gevolgd door rigoureuze reacties. Zo hinkelen we van incident naar incident.

De kern van de zaak is dat we hard op weg zijn om van deze vorm van AI een gatenkaas te maken. Met elke slag van de censuurbijl verliezen we een aspect van onze digitale maatschappij, vaak met matig succes. Is dat de enige weg?

Het artikel stelt terecht dat het beperken van de antwoorden van AI-chatbots ingewikkeld is: “de software traint zichzelf met bestaande informatie en komt daardoor steeds met andere antwoorden. De beperkingen die bedrijven invoeren zijn vaak makkelijk te omzeilen, bijvoorbeeld door dezelfde vraag net anders te formuleren.”

Bewustzijn

Dit is anders dan preventief of correctief ‘foute’ gebruikers, content of apps weren door Facebook, Twitter of App stores, of beter screenen van links door Google. Desondanks moeten ook de bedrijven achter AI’s hun verantwoordelijkheid als gatekeepers nemen, met respect voor fundamentele rechten.

Eén oplossing zou kunnen zijn om helemaal opnieuw te beginnen met het trainen van AI's, met 'pure' data, maar het probleem zit hem niet alleen in de basisinformatie waarmee ze worden gevoed. Je kunt je AI ook vragen om antwoorden te geven op basis van logica, wat dus ook met ‘pure’ data kan leiden tot ongewenste adviezen.

Waar het waarschijnlijk op neerkomt is een hoger 'bewustzijn' van goed en fout. Bewustzijn is de heilige graal waar OpenAI naar eigen zeggen naar zoekt. Maar wat krijgen we dan? Een AI die roomser is dan de paus? En als je dan niet rooms bent? Moet je andere antwoorden krijgen op basis van je geloof, nationaliteit of haarkleur? Of is dat juist discriminatie en dus verkeerd? Europeanen hebben door GDPR, DMA en AI Act al andere technologische beperkingen dan Amerikanen.

Licht na duisternis

Nee, het is niet zo simpel als ‘dat moeten ze verbieden’. We staan misschien wel voor de keuze of we willen deelnemen aan een nieuwe vorm van boekverbranding: niet de boeken zelf, maar de kennis erin ontoegankelijk maken door de toegangspoort erheen stukje bij beetje te sluiten.

Dat is overigens een bekende neiging. Het is een afgezaagde analogie, maar… Ook in Europa werden boeken en drukpersen lange tijd onderworpen aan strenge controle en censuur, tot het tijdperk van de verlichting aanbrak en de technologie toegankelijker werd. Tegenwoordig publiceert iedereen zijn eigen uitgave, fysiek of digitaal, inclusief geluid en beeld, uiteraard met voor- en nadelen. En dat is oké.

Evolutie

Misschien gaan we alwetende AI’s geleidelijk accepteren, net zoals we nu het internet accepteren, inclusief de meeste van zijn grillen. Wat mij betreft is er een vraag die belangrijker is dan ‘wat mogen mensen weten’ of ‘welke afbeeldingen mogen mensen maken’, namelijk ‘wat is waarheid?’ Misschien wordt het ooit helemaal geaccepteerd als iemand onwetend wordt afgebeeld op een gemanipuleerde foto, zolang maar duidelijk is dat hij niet ‘echt’ is. Maar ja, hoe gaan we dat tackelen? ;-)

En dan nog even over dat 'bewustzijn'… Ons krachtigste instrument is nog steeds de mens zelf. Laten we alsjeblieft zorgen dat iedereen, ja ook (en vooral) Rijksambtenaren, zo snel en zo veel mogelijk experimenteert en werkt met de ChatGPT’s van deze dagen. We moeten echt weten, allemaal, waarover we praten en wat de beperkingen en mogelijkheden zijn. Hands-on. Niet uit de media.

Alleen dan kunnen we goed - bewust - inschatten wat we wel en niet kunnen geloven van èn over AI.

AI voor BRaiNIES

Kennis- en Informatiewerkers

AI voor BRaiNIES: Kennis- en Informatiewerkers

NetLoket

Artikel

AI als Gatenkaas

“Nee, het is niet zo simpel”