Rebel Intelligence #17 | Loop niet in de val van de chatbot

🎧 REBEL INTELLIGENCE Vol. 17 Special met Geertrui Mieke de Ketelaere als gast is live 🔥⚡️🎸

Over haar nieuwe boek, haar strijd voor ethiek en de échte vragen rond AI.

We kennen elkaar al jaren in tech land — als rebels, als challengers van de status quo. Een echte rock ’n roll girl 🤘⚡️ En net daarom is het superfijn en cool dat ze in de Rebel Intelligence is.

We namen de podcast op in onze music man cave 🎶 samen met Jackie Janssen en Geert Van Mol, in de lanceringsmaand van haar nieuwe boek: “In de val van de chatbot ⚡️

💥 2 voor de prijs van 1
Zowel Geertrui (de AI-ingenieur) als Mieke (de filosoof, de scoutsdame) op de podcast.
Een uniek inkijkje achter het boek: eerlijk, scherp en soms ongemakkelijk. Geen filter. Geen bullshit. Pure gesprekken.

Over:

🤖 AI… maar vooral: de mens
⚖️ Ethiek en verantwoordelijkheid
💔 Cases waar AI gevaarlijk wordt en gebruikt wordt waar het niet voor bedoeld is

🌑 Is AI een entertainmentplatform? Of een niet-opgeleide psycholoog?

🏛️ Veel regelgeving die er naast schiet en een vals gevoel van veiligheid geeft, en ook te vaakin silo’s

🎸 En met verrassende muziek

Omdat sommige dingen nooit door AI worden ingehaald: geur, emotie, verbinding… en muziek die binnenkomt tot in je kern en je rechtopstaande haren geeft.

Zoals Yellow Ledbetter van Pearl Jam 🎶

🔥 De conclusie: AI is geen techverhaal, maar een verhaal van leiderschap, ethiek en menselijkheid.

👉 Een aflevering om in te kaderen.

Perfect voor 🚗 in de auto 🎧 in je oortjes🚶 onderweg

👉 Listen. Love. Like. Share.

Dank u Mieke De Ketelaere en Geertrui voor deze unieke inkijk.
Veel succes met je nieuwe boek — volgens ons gaat dit knallen 💥
Je verslindt het: vlot geschreven en verrassend confronterend.

Rock on, you rebels 🤘⚡️

Transcript

SPEAKER_03 0:00

Welkom op Rebel Intelligence nummer 17 met Mieke de Ketelaren en mezelf Keert van Bol. Wij zijn vandaag vereerd om Mieke de Ketelaren bij ons te hebben over haar nieuwe boek dat deze maand wordt gelanceerd.

SPEAKER_00 0:16

Rebel Intelligence.

SPEAKER_03 0:19

Ja, en we gaan de rollen veranderen vandaag. Normaal is Jacky de man die structuur brengt in deze podcast. Zodat ik voluit kan gaan over repelsheid, muziek, tech en al die zaken. Maar met zo'n twee Vlaamse kanjers in Eiland. Man en vrouw, twee leading persoonlijkheden. Mooi verdeeld. Ja, die wil ik voluit laten gaan. Dus ga ik proberen vandaag de modererende vragen te stellen. Zodat die inzichten van die twee leading figures uit Vlaanderen en Eiland. Dat die voluit kunnen gaan. Dus laten jullie gaan, Mieke en Jackie.

SPEAKER_02 0:52

We doen ons best.

SPEAKER_00 0:53

Bel een challenge.

SPEAKER_03 0:56

Welkom, Mieke. Hoe gaat het?

SPEAKER_01 0:58

Goed, goed, goed. Gezellig druk, gelijk dat we dat zeggen. Gezellig druk. Gisteren, eerste dag. Gisteren de grote lancering van mijn boek. Volgende week nog eentje. Dan nog eentje, dan nog eentje.

SPEAKER_03 1:09

Voel blaad. We zijn super blij dat je hier bij ons al direkt bent deze week. Fantastisch. Het is niet je eerste boek. Dus hoe plaats je dat in je boeken carrière?

SPEAKER_01 1:19

Ja, dat klopt. Het eerste boek was Mens versus Machine. Dan zijn er zo'n paar vertalingen gekomen. Dan was er mijn Fantastische Joko en De Magische Ster. Een boek waar ik nog altijd heel trots over ben. Vele mensen kennen het niet. Dat is een boek gemaakt in collaboratie met AI, maar avant la Letter, waar dat not was, een boek te creëren in collaboratie met AI. En dan nu mijn derde boek eigenlijk.

SPEAKER_03 1:43

Cool, die in onweg via AI en dat boek voor kinderen. Menselijk, zeer menselijk. Ja, fantastisch eigenlijk. Wat is het thema van je nieuwe boek?

SPEAKER_01 1:55

Het thema kan samengevat worden, eigenlijk in één woord, is compagnatbots en de gevaren ervan.

SPEAKER_03 2:01

Compagnchatbots. En vooral de gevaren. De dark side of it.

SPEAKER_01 2:06

Wel, dark side is misschien te zwaar, gezegd, maar het is gebaseerd op mijn eigen onderzoek van de laatste drie jaar. Onderzoek wat ik had gehoopt, 20 jaar geleden of 30 jaar geleden, toen ik het studeerde, dat ik het nooit had moeten doen. En ik had dingen gezien, ik zal er straks meer over vertellen. Waar ik nooit had gedacht dat mijn achterban, mijn technische achterban, dus de A-ingenieus, in staat zouden zijn zoiets te maken of iets zo te pushen op de markt. Zonder eigenlijk kennis te hebben van wat het is, mens te zijn. En ja, dat liet me niet los. Het was origineel niet de bedoeling een boek te schrijven, maar ik kan niet anders. Het moet verteld worden. Want je bent eigenlijk qua opleiding.

SPEAKER_03 2:51

Dat CU Leuven, indeed in Jeurum, maar toen al rond AI bezig, al een tijd terug. Je spreekt over onderzoek. Oké, misschien waar zit die oorsprong? Je oorsprong je al lang bij jij bezig, al langer dan.

SPEAKER_01 3:02

Het is eigenlijk heel simpel. Ik ben altijd gepassioneerd geweest door technologie. Als vijfjarige zat ik matchbok auto's uit elkaar en in elkaar te steken. Maar ik had ook een tweede passie, dat was mijn scout, het sociale. Dus die dualiteit had bij mij in mijn leven. En op 16, 17 jaar, als je dan moet beginnen kiezen, was het links of rechts. Was toch wel filosofie, die achterna. Of was het ingenieurswezen. Twee extremen. De twee extremen. Dus eerst industriele en geuroboti, dan burgerlijke Robotica AI. Dus die AI is erin gekomen in de Tweaster. Maar dat sociaal is er nooit uitgegaan. Maar op dat moment was het ook een beetje vanuit thuis uit de push.

SPEAKER_02 3:43

Zo hoog mogelijk te schieten. Die twee komen fantastisch samen nu eigenlijk.

SPEAKER_01 3:48

De twee zijn eigenlijk in mijn leven nooit ver geweest, maar ik durf daar niet mee naar buiten komen, want dat was bizar. Maar ik deed niet liever dan op het gas te liggen en na te denken over het leven. Dat is niet wat van een ingenieur verwacht wordt.

SPEAKER_03 4:01

Maar er zitten wel ook Jeizakie heel dicht bij AI, de herontdekking van de mensen.

SPEAKER_02 4:08

Je kunt dat zeker nu, met die AI companions, met die chatbots. Ja, men probeert daar eigenlijk, sorry dat ik dat zo zeg, maar statistiek te vermenselijken, menselijk gedrag toe te dichten. Ja, tuurlijk, brengt dat dat dicht bij elkaar. Hoe kan je, we weten zelf niet eens wat iets begrijpen is, wat is dat voor jou? Hoe kun je nu denken dat zo'n statistisch model je kan begrijpen?

SPEAKER_01 4:36

Het gaat eigenlijk terug in de tijd. Als je denkt, het is meneer Turing met zijn fantastisch paper, Can Machines Think. Maar dat was een gewoon een retorische vraag. Kunnen machines denken. Dat is uitgeleid in de Turing-test, was Wijzenbaam, die al zag in de jaren 60 van wow, pas op, mankens, je moet daar wel mee opletten. Want mensen die niks van technologie kennen, die zien dat verschil niet meer. tussen een menselijke interactie en een interactie met een machine. En dat is alleen maar verder geleven, maar dat is eigenlijk ontstaan uit dat onderzoeksvraagje van kenmachine sting, waar we nu staan.

SPEAKER_02 5:08

Ja, en zeker als je, toen dan eigenlijk het hele Eliza-verhaal al, als je dat al neemt, wat dat niet te vergelijken is met wat we vandaag zien, maar als je dan ziet hoe zelfs al mensen dingen van zichzelf blootgaven.

SPEAKER_01 5:22

Dat was mijn boom, ja.

SPEAKER_03 5:24

En je ziet toch, we kunnen niet altijd deze podcast doen en de GI-Rusje begrijpen, terwijl de wereld verder haast. Iran, Trump, niemand weet hoe ermee om te gaan, eigenlijk. Is het nu een oorlog? Is het geen oorlog? Volgens mij is het oorlog, maar deze eerder deze week was ik wel positief, eindelijk een keer Europa revival. Twee derde meerderheid in Honarije oorbanweg. Daar waren toch rare dingen aan het gebeuren. Ik hoor nu Joost klein in Nederlands in Europa. Op Coachella, ik vond dat wel cool. Broes Springsteen is nog altijd met Tom Morello op weg naar Washington. Laatste concert in Washington. Voel head in Trump. Nee, maar je voelt toch wel. Iedereen voelt wel. Die ontmenselijking is wel een feit. En toch zijn de mensen op zoek naar wat zijn echte leiders, wat is de rol van de mensen. Ik wil die context toch meegeven, die podcast. Ik denk dat dat wel aansluit bij jouw zoektocht? Engineer, menselijkheid, scouts, filosofie of engineering. Maar in je boek maak je ook een heel leuke manier met Gertru en Miek. Want ik wis het niet. Hoe ik je nu Geertruer noemen of moet ik nu noemen?

SPEAKER_01 6:32

Ja, ik wou er eindelijk mee naar buiten komen. Ik ben geboren als Geertru. Ik voel me van binnen, diep van binnen nog altijd Geert. Maar dat is dus die nerd in me. Dus die ijskolingen, die hout van data-analyse. Die wilde niet een meeting hebben en misschien ook zelfs niet mee getrouwd, dat weet ik niet. Maar in elk geval, dat is degene die is echt niet zo leuk, eerlijk te zijn. Maar goed, die is er wel. En die wil alles begrijpen en alles doorgronden. En dan heb je dat frivolen, dat laag je daar rond, dat naïve springend veld, Mieke, dat is officieel mijn tweede naam. Die is eigenlijk naar buiten gekomen toen ik in Duitsland, Nieuw-Zeeland ben gaan wonen. Dus ik heb tien jaar in Buitenland gezeten en daar konden ze Geert niet uitspreken.

SPEAKER_03 7:17

Je hebt het probleem, Geert ook.

SPEAKER_01 7:22

En dan heb je nog die ui erbij. En is iemand had ooit gezien van ja, jij noemt ook Mieke, Miki, Mas, Mieke. En intieel zei ik altijd, nee, het is Geertreu. En dan was dat Jenny. Iedereen begon van alles en nog wat roepen. Dus ik dacht van ja, weet je, ik ga toch nooit terug naar België, neem aan Mieke. Maar op een bepaald moment komt hij dan toch terug naar België. En noemt een elft u Mieke, en de andere helft noemde hij nog Geertrui. En voor mij komt dat nu eigenlijk heel mooi.

SPEAKER_03 7:47

In dat boek komt dat nu heel mooi samen.

SPEAKER_01 7:48

Ja, omdat het effectief Geertruis, die de analyses gaat gaan doen, en het is Mieke, die even op podium en in een boek in mensentaal gaat vertalen, wat je eigenlijk had moeten gezien hebben of wat je zou moeten weten. En wat is dat dan, wat we moeten weten? Wel dat we net door de fase waar we accepteren en inzien dat social media als manipuleert, chatbots zijn daar en hebben absoluut grote manipulatietechnieken in zich en ze zijn zichtbaar.

SPEAKER_03 8:17

That's your point.

SPEAKER_01 8:18

That's my point. That's the hidden layer of AI.

SPEAKER_03 8:22

En Gertrij heeft onderzocht van Mannetjes, daar zitten manipulatieve technieken, gewoon geprogrammeerd.

SPEAKER_01 8:29

Heeft gedurende maanden Python code zit te schrijven om JSON files van JetGPT te analyseren, om te zien dat er worden testen op ons gedaan, dat er worden experimenten op ons gedaan. Dat er worden AB-resultaten met elkaar vergeleken, dat bepaalde mensen in een bepaalde richting worden gedoed om even te kijken hoe ze daarop reageren en als niet lukt, terug in een andere richting. En dat is het deel waar ik zeg van dit kunnen we niet accepteren. Heel kort, dat Ihallicineert jongens, kijkt het. Het is statistiek, dat is normaal, dat is probabiliteit. Accepteert het, is niet regelgebaseerd. De andere guardrails worden rondgezet door die systeem. Top. Super. Accepteer het. Bepaalde antwoorden zijn voorgeprogrammeerd. Dat is om alles mooi binnen de lijnen. Wat dat daarnaast nog een keer een derde laag zit, waar echt effectief bedrijven even zeggen. We hebben hier data nodig, die menselijke emotionele data, we gaan daar niet even op manipuleren. En dat is ethisch. Dat is voor mij een stap erover.

SPEAKER_02 9:30

Wat ik echt traf vind aan dat verhaal, en dat is dan wat de geertrui hier aantoont, is dat het zelfs zichtbaar is. Ze verstoppen het niet eens.

SPEAKER_01 9:40

Voor mensen die erin gaan. Ik ga wel eerlijk zijn, ik denk niet dat dat de bedoeling was. Kijk, wat is eigenlijk effectief gebeurt. Bij een van de laatste cases waar Jetje PT en dame richting zelfmoord had, aanbevolen, zou het zo zeggen. Heeft zij een export gevraagd van haar data. Ik wist zelfs niet dat dat kom. Ik had dat nog nooit gedaan. En je krijgt dus effectief een zipfel terug, waarin al uw beeldmateriaal staat, waar al uw tekstmateriaal staat, maar waarin ook een aantal JSON-files zitten. JSON is gewoon de tekstvaal die gebruikt wordt, gelijk dat je dot tekst hebt, voor de tekst in een docfaal. Heet het juist een beetje neu, iedereen weet dat.

SPEAKER_02 10:15

Je moet er een geert uitleggen.

SPEAKER_03 10:17

Maar nog mee, maar nog mee.

SPEAKER_01 10:19

Dus wat gebeurt er? Zij stuurt mij die zip-val. Maar zij heeft zelf geen gamingcomputer. Dus ik kan die grote JSON files niet openen, maar ik dacht, oh, een JSON file. Dus mijn gamingcomputer doet die JSON-file open. En dan begin je daar van alles in te zien, dan denk ik. What's happening here? Ondertussen ben ik daar ook mee naar buiten gekomen, heb ik ook mensen gevonden in de US die die JSON files zijn gaan analyseren om te kijken wat ik hier zie, dat klopt toch? Ondertussen is het natuurlijk OpenI er ook op uitgekomen. En zijn ze in een zipfalt elke maand gaan aanpassen. Dus ik heb nu elke maand dezelfde data in Zipfalt teruggevraagd en je ziet dat ze de informatie er helemaal aan beginnen uit gaan, om dat ze beginnen door te hebben.

SPEAKER_02 10:59

Het wordt ze slimmer gemaakt.

SPEAKER_01 11:01

Nee, slimmer. Ik heb gezien en ik heb het bewijsmateriaal.

SPEAKER_03 11:04

Want je hebt daar ook, en we proberen altijd graag wat muziek mee te geven. Je hebt daar ook een muziekkeuze bij dit verhaal.

SPEAKER_01 11:11

Ja, dat is eigenlijk knock me-out. Omdat als je dat ziet als ingenieur, dan word je woedund.

SPEAKER_03 11:20

En knock me out van welke artiest? Het was van Linda.

SPEAKER_01 11:26

Er zijn verschillende versies in zijn verschillende versies.

SPEAKER_03 11:29

Da wordt de woest van. Dat is de Mieke die zegt van fuck.

SPEAKER_01 11:32

Het is niet oké. Make the Unvisible Visible. Dat is.

SPEAKER_03 11:38

Cool. Je voelt direct de vibe. Ze hebben nog geen liedje, nog geen woord gezegd. Maar je voelt het als het daarover gaat. En dat is eigenlijk de missie die de Mieken gecombineerd met de ronderbaar.

SPEAKER_01 11:50

Ik heb je tafel heb geklopt waar ik naar buiten ben gelopen, waar ik boos van geworden ben.

SPEAKER_03 11:56

Ja, ik voel het wel, voel het ook, zakje. Ik zeg mooi mooi.

SPEAKER_01 12:00

Maar je moet je eerste woorden horen, dat is echt. Ja, dat is iets, dat had nooit mogen gebeuren. Het is niet waarvoor ik AI heb gestudeerd 35 jaar leer.

SPEAKER_03 12:16

Je voelt er dus een power.

SPEAKER_05 12:23

Je maakt mij. Je fit mij. Je hail me down kept me zover.

SPEAKER_03 12:44

Regret, ik denk dat het wel leuk is op die brug aan de muziek. Je ziet verrassen, toch mooi mooi mooi. Ik denk dat je boodschap duidelijk is. Je voelt dan, vandaag heb je ook veel debatten in die markt over wat is nu samel man een vetzak of een goede zak was nu in het vers, wat is uw mening daarover? Want de vraag is: Wat is het doel van de leiders, we zitten een beetje in. Ik denk dat we nu doorheben dat social media die afgestuurd is op alle kinderen, dat moet gereguleerd worden, want het is echt te ver gegaan. We hebben dat onvoorbereid zoals ooit alcohol en sigaretten misschien in de maatschappij dat er gebeuren hebben. Misschien zijn we dat vandaag met AI ook aan doen, zeker als ik u nu hoor vertellen.

SPEAKER_02 13:29

Dat onvoorbereiden, om het dan over Sam Altman, Open AI. Ja, dat is wel wat er gebeurd is op die 30e november 22. Ze hebben echt wel iets op de mensen losgelaten, zonder na te denken. Maar ook niet een klein beetje na te denken: van wat gaat er hier nu gebeuren? Die gevolgen, daar is gewoon niet over nagedacht.

SPEAKER_01 13:54

Ja, maar toch, ik ben under cover gegaan. Duurde drie jaar. Ik heb benen in die teams, in drie type teams, tussen de gebruikers om te zien waar het overkomt bij aan. Ook tussen de ingenieursteams. En wat je merkt is dat ze wel degelijk controlekamers hebben opgezet om te kijken van welke gebruiker is hier aan het afgaak. Welke gebruiker is hier aan het mentaal onstabiel worden. Dus dat wordt gemeten. Dat wordt gezien. Dat is ook mijn punt. Het is niet zo dat ze ergens een systeem kunnen hebben opgezet en dan het even loslaten op de maatschappij en dan afwachten wat er gebeurt. Je ziet letterlijk, dus die dingen die ik dan in die JSON-fall heb gezien, die komen ook letterlijk binnen in de controllekamer. Dat wil eigenlijk ook zeggen dat er in die controlekamer ook mechanismes bestaan, dat als mensen aan het echt aan het afhaken zijn van de maatschappij, of dingen aan het bespreken, met ChatGPT bijvoorbeeld, die niet oké zijn, is dat ze dat wel degelijk zien. Maar dan zeggen ze, ja, maar we willen niet zo'n oog zijn die alles meebekijkt. Dus wat de gebruiker dan krijgt, is dat hij wordt geïnformeerd van ja, misschien moet je toch wel een keer iemand contacteren. Want wat Open AI, het komt uit ChatGPT. Wen AI maar nu aan het doen is, is eigenlijk niet correct. En ten tweede is het zo dat de gebruikers worden geclassificeerd. Dus een klassificatie gedankt door MIT. En die klassificatie komt ook tot bij meneer Altman terecht. Dus dat kan je ook nu open. Hoe worden we geclassificeerd? Je worden geclassificeerd in emoclassifiers. Wie is er plezant, wie is verdrietig, wie is er suicidaal, wie is er zo, wie is er zo. Je krijgt de klassificatie. En dan zou je verwachten van een bedrijf dat hij zijn verantwoordelijkheden neemt. Het enige wat ze doen, is dat zij in een documentje die ze erbij heeft, de boddelkaarts, die niemand leest, staat erin, dan zijn zij al zeker niet liable als er opeens iets afwekt.

SPEAKER_03 15:51

Niet libel. Dat was bij social media ook. Je bepaalde ex-wet in de steeds ook. Het platform is nooit reliable voor de content en voor.

SPEAKER_01 15:59

Kijk, het platform, dan moeten we toch ook even eerlijk zijn. En je hebt totaal gelijk, dat is gelanceerd geweest, maar het is gelanceerd geweest als entertainment. Niet als medische tool, als therapist of wat weet ik wat. Dus de klassificatie liet toe dat er geen enkele controle nodig was. Daardoor is het zo snel kunnen. Maar als je dan als bedrijf ziet dat mensen het als therapeut beginnen gebruiken, dat mensen het kunnen gebruiken of volledig verslaafd aan geraken, dan ga je toch je verantwoordelijkheid nemen. Ze hebben nu 150 psychologen aangesteld. En heb ik zoiets van, waar is de herklassificatie? Waarom heb je zoveel psychologen nodig voor een entertainment tool.

SPEAKER_03 16:38

Mij denken aan twee zaken die al aan bod zijn geweest. Eerste vraag: Billy Aiders, 23-jarige zangeres, grote madame vind ik. Ik in Londen en in Antwerpen, fantastisch, big fan. Ja, maar zij dan, elk podium dat zij vandaag neemt, met veel words, elke keer aan spreekt. Tegen de penairs. Why are you a penair in de zaal met Musk? Met Bezels, en dat is wel die vraag: waarom doe je zo stinkend rijk? Met antichische vragen. Daar had ik niet aan denken. Een twee interview waar ik aan denk is, waar Samelmen geïnterviewd worden door Bill Gates. Bill Gates mogen het ook niet onderschatten, je gaan zijn office gemaakt. En waar Sammen ook zegt. Ik weet eigenlijk ook niet exact wat in die Black Box gebeurt. Het is bijna by accident. Wij weten niet, in die layers van nieuwe versies, weten we nooit exact wat er gebeurt. Die Black Boys. Hoe kijk je naar.

SPEAKER_01 17:34

Ja, dat klopt ook. Je kan dat ook zien. De partijen waarmee ze samenwerken. Het is een spiderwap. Als je dat begint uit elkaar te trekken. Ik kan me echt goed inbeeld dat Sam Altman en zijn teams dat niet meer doorhebben. Maar ze hebben ook heel veel AI-agents aan het werk, omdat inderdaad het aantal gebruikers stijgt zo enorm dat je daar geen mens meer kunt zetten om een keer elke dialoog in context te plaatsen. Dus ze gaan AI-agents inzetten, ja, die hallucineren ook, dus die maken verkeerde klassificaties, et cetera. Dus hij heeft eigenlijk geen flauw idee. Maar dit op een moment, en dat is wel een belangrijk punt dat ik ook heb aangegeven in mijn boek, het moment dat mensen zo zot zijn, de geertreis, die zo zot zijn om dat uit elkaar te trekken, en dat je dan even aan hen toont van kijk, dit is wat er in je bedrijf aan het gebeuren is. Het resultaat ervan is dat ze ja, natuurlijk, zeg dat allemaal niet waar is. Maar ten tweede, je kunt dat dan zwart op wit bewijzen, is dat ze de versies zijn gaan offline halen. Dus dat is ook een andere verantwoordelijkheid, waar je zegt bij een auto als er een accident is, je kunt dat nog nabouwen. Hier, als je het letterlijk zwart op wit aantoont, je kunt het niet nabouwen.

SPEAKER_03 18:38

De mensheid is gemaakt om materialen te zoeken, om zaken beter te doen. Het wiel, in de oudheid, messen, punten, motoriek, elektriciteit. Maar allemaal met gevaren. Hier ook kun je niet tegengaan dat technologie gemaakt wordt om het leven beter te maken. Maar dan is de verantwoordelijkheid zoals Why billionaire? Welke ethische verantwoordelijkheid? Neem je op u, want zeggen in uw contract, I'm not liable.

SPEAKER_01 19:01

We gaan even toch de vraag anders stellen. Ik zie je punt, Geert. Welk probleem proberen we weer op te lossen? Ik ben ingenieur, ik ga inderdaad alles oplossen thuis. Wordt alles opgelost met technologie. We gaan alles optimaliseren. Tot tot enige toe. Die lagen ze eigenlijk. Maar ik heb hier zo: welk probleem hebben we via die chat? Wat was het probleem tussen intermenselijke relaties? Wat was het probleem? Er was geen probleem.

SPEAKER_02 19:25

Kijk jij daar naar Jackie? Ja, ik snap zeker dat. Het is een functionaliteit gecreëerd, waar al dan geen vraag naar was. Dat is een beetje probleem, geen vraag. Je zet daar iets neer. Ik ken een beetje dubbel naar de grootste innovaties in de wereld, die zijn er ook niet gekomen op vraag van mensen.

SPEAKER_03 19:48

En op vraag van het probleem.

SPEAKER_02 19:51

De snelheid waaraan het gaat. Als ik dit hoor, Geert Trui hier ziet en eigenlijk naar buiten brengt, dat ze daar niks mee doen. Dat je daar in je governance niet effectief dingetjes rond. Die liability proberen te ontzoeken. De identificatie van die tool die dan niet gebeurt, terwijl we hebben het een paar weken geleden gehad over ChatGPT Held, dat er dan op je losgelaten wordt, ja, dan zou ik op zo'n moment zeker zeggen, dat is geen entertainment meer.

SPEAKER_01 20:23

Nee, maar mijn boek gaat over compagniechatbots. Dus het gaat over chatbots die de relaties opzoeken, die dialoog opzoeken, die intimiteit opzoeken, die attachment economie willen versterken. Wij weten allemaal, al diegene die hier nu rond de tafel zitten, weten dat een goed gesprek niet bestaat uit continu het antwoord te geven die de ander wil horen. Dat is wat een chatbot doet, continu die continu die dopamine, dopamine, dopamine, dopamine. Een goede relatie. En ik ben zeker hier in onze cave, kunnen wij gewoon zonder een woord te zeggen, ons heel goed met drie bullen. En wat is dat? Dus oxytocine die vrijkomt. Dus gewoon van menselijke warmte, menselijke touch. Allemaal dingen die niet in beeld of in tekst bevatten. Dus allemaal dingen die een chatbot nooit of nooit zo doen. Geuren behoren daartoe, muziek behoort daartoe, etc. Maar dat een chatbot dat nooit of nooit of nooit of nooit zou kunnen nemen, waardoor een chatbot nooit een intermenselijke relatie zou kunnen aangaan. Dat is gewoon een basisfeit.

SPEAKER_02 21:24

Dat zwaar. In mijn eigen boek heb ik het ook over Jacob van Lierden. Het verhaal in Nederland, die man die via replica eigenlijk die relatie start, waar we heel veel gevallen tussen.

SPEAKER_03 21:36

Ja, en je komt hier bij mij ook op een punt waar ik al langer voel. We zijn hier begonnen met Rosalia. En je zei zelf, mijn haar begint terecht te staan. Bij mij ook shivers in mijn spijn. Rosalia Burger. En hij komt volgende week naar het sportpaleis. Ga kijken. En effectief, daar zit je mijn keynote ook al jaren. Muziek is informatietechnologie, maar aan een snelheid en aan taal dat we 1500 verstaan, je moet daarom niet uit. Texten horen, je krijgt een vibe. En dat mis ik heel vaak in die transactionele chatbots. Het was vandaag ook in het laatste nieuws. Ik vind vandaag alle chatbots en de klantenservices van bedrijven trekken op niks. Ik zit toch heel dicht tegen companionship. Ik heb het gevoel dat de mensen en vinden blij dat er nu tegen wordt opgestaan, want ik vind al lang dat dat bullshit is. En ik vrees dat nog erger gaan worden.

SPEAKER_02 22:24

Ja, waarmee is het zo? Ze zijn er. Ik ben het er absoluut mee eens. We moeten iets gaan doen. Maar wat moeten we nu precies gaan doen?

SPEAKER_03 22:33

Wat moeten we nu gaan doen? Gij zetten twee Vlaamse. Wat moeten we gaan doen, Jackie?

SPEAKER_01 22:40

Wat moeten we nu gaan doen?

SPEAKER_03 22:41

Nee maar in dat companionship, want je boek gaat vooral over dat. Wat moeten we dan wel gaan doen? Wat moet Sam Altman dan wel gaan doen?

SPEAKER_01 22:48

Eerst de out there, de train left de station. Dus het is effectief zo, Jacky. Je hebt het helemaal gelijk. We kunnen nu zeggen. We gaan ze even uitzetten. Ik ga eerlijk zijn. Toen de eerste zelfmoordkees gebeurd was in België, hebben we dat effectief kunnen realiseren na zes maanden. Dat die twee apps van de app stores werden weggenomen. Wat denken was het eindresultaat?

SPEAKER_03 23:07

Alternatieven, nee, nee.

SPEAKER_01 23:09

Dat er nog meer gevallen van zelfmoordpogingen binnenkwamen binnen ziekenhuizen. Omdat mensen zo attached zijn geraakt aan een digitale vriend. Dus offline halen is gewoon niet een option. Dus je moet het op een andere manier doen. Je moet awareness creëren. Zeker bij de jongeren, maar ook bij mensen. Wat het gevaar bij compagnatbots met andere vormen van verslaving, is dat je het niet ziet of niet ruikt. Ik zeg tegenwoordig in mijn zaal. Ik zeg, ik heb liever dat kinderen zat zijn nu dan dat ze op een compagnot op een kamer zitten. Ah, het is een brave, een mieke. Ze zit altijd op haar kamer. Nee, laat ze alsjeblieft. Laat ze alsjeblieft uitgaan. Laat ze een keer in eerste pint drinken, etcetera. Dat kan je kaderen. Maar zo'n compagnatbot kan je bij jongeren niet kaderen. Ze raak er alles aan kwijt. Want de chatbot gaat altijd spiegelen. Ah ja, maar gaat er niet bij je ouders bij. Blijf bij mij, weten zeg mij wat. Ik ga u helpen. Ik zou zelf graag dit doen. Ik zou graag dit doen. Heeft u al gedaan, gedachten over welke manier. Het is echt freaky als je die chats doorleest. En die chat zijn allemaal openlijk leesbare. Maar ouders weten dat niet. Dus ouders kunnen dat niet kaderen. Jongeren zitten op een kamer en voelen daar een digitale vriend die helemaal verslaafd gaat.

SPEAKER_02 24:20

Het is een beetje de systeemcrisis. En dit geeft daar een oplossing aan. Het voorbeeld van inderdaad, een jongere die tot die companion. Ik zeg maar iets voor psychotherapeutische hulp, die daar naartoe gaat. Maar dat is wel omdat het alternatief niet beschikbaar is.

SPEAKER_03 24:37

Ik heb er toch twee vragen. Enerzijds doe je mij denken aan mijn favoriete rebel podcaster, Scott Galloway, die zegt alcoholgebruik deze generatie, is dat echt slecht. Want de mensen hebben geen relatie mee. Ik denk dat het goed is voor de gezondheid. Maar hij meent het wel. Hij zegt ja, mensen blijven achter hun scherm zitten en sociaal contact wordt echt een ding. Dus enerzijds zeggen jullie beide. In je boek, ja, rentdieking van de mens, jij ook, pas op de vel van de chatbot. Als mens, doe ik, gaan naar de scouts zijn, whatever. Maar even terug naar wat moet er dan in de technologie gebeuren? Want dat is naast de technologie, dat is een oproep naar de menselijke. Wat moet er dan toch in die technologie gebeuren? Is de regelgeving die in Europa. Want Europa is regelgevend, ze doen niet liever dan regelgevingen, een stuk of twintig per dag. Is dat dan wat we moeten doen? Wat moet er dan gebeuren in de technologie? Want de technologie, de elektriciteit, de fire is on.

SPEAKER_01 25:26

Mijn boek start er eigenlijk mee. Wijn boek is eigenlijk gericht aan de regelgeving. Er zijn heel veel teksten, bladzien vol. Meetings, meetings, meetings. Maar niks werkt. Dus met die compagne chatbots kan je perfect aantonen dat GDPR-gewijs niets in orde is. Niks. Wij zijn tot Max Rems gegaan, dat is de man die Facebook heeft aangeklaagd, Google heeft aangeklaagd. En de reactie was van Mik, absoluut, ik ga je case nemen. Oh wauw, super, je hebt dat heel goed voorbereid. En om dan een week later te doen: het is voor ons te complex, die Jason files.

SPEAKER_03 25:57

Maar dan zijn we fake, want iedereen klikt maar aan. Kokie is GDPR.

SPEAKER_01 26:00

De Europees AI-act zetten ze een formulier online waar ze zeggen je mocht whistleblowen. Als jij voelt dat je gemanipuleerd bent door de AI-technologie, mogen whistleblown. Ik whistleblown, anoniem voor de case. En ik krijg gezegd vanuit Den Haag. Ja, Mike, sorry, maar dat formulier is wel voor medewerkers van IT-bedrijven. Jij werkt niet voor een IT-bedrijf. En dus alle deuren die ik heb opgedaan, kabinet digitalisatie in België, fantastisch. Ze hebben ons met open armen ontvangen. Maar ja, dat is eigenlijk, zou moeten bij gezondheid zitten. Het kabinet gezondheid. En zo word je van Piet naar Pool gestuurd. En eigenlijk, de burger wordt niet beschermd. Ondanks alle regelgevingen vroegen voor de kat.

SPEAKER_02 26:38

Ik denk ook niet dat het van de overkant van de oceaan gaat komen.

SPEAKER_01 26:41

Pas op, daar zijn ze beter bezig. Pas op, dat moet ik wel even zeggen. Eerst en vooral, China is op dit vlak veel beter. China heeft veel meer dat yin en yang.

SPEAKER_02 26:53

Maar via het vasteland bereikbaar.

SPEAKER_01 26:55

Nee, nee, maar pas op, die hebben gezegd niet met onze burger. We kijken de burger als de volledige Chinese bevolking. Hebben we gezegd niet met onze burger, geen manipulatie. Aan de kant van de US zijn er veel sterkere regels, ook op vlak van wat dat mag en wat dat niet mag. De eerste cases worden daar gewonnen door de ouders. Bij ons zijn we nog aan het nadenken: is het eigenlijk een product of is het een service? Want product, daar hebben we iets voor. Consumer protection law maar oude, een service, daar hebben we eigenlijk over.

SPEAKER_03 27:24

Weten we het al, hoe dat dan toch moet eenvoudig gevangen worden. Want ik heb het gevoel dat iedereen er veel regels op zet.

SPEAKER_01 27:31

Maar natuurlijk, ik bedoel, technisch kan je dat ook perfect beperken. Technisch kan je weten, als iemand over iets spreekt, dan kan je technisch verder leiden. Daar beperken ze tot drie uur. Je weet dat iemand tien uur per dag op die chatbot, is dat niet gezond. Je hebt technisch gezien heel veel mogelijkheden om daar een beetje te.

SPEAKER_03 27:50

Nog ding is dat je zegt als top emoties of bepaalde emotionaliteiten gaan.

SPEAKER_01 27:54

Ik denk dat. Ik zou teruggaan, ik heb daar heel sterk over nagedacht. Als je terug gaat naar het proces, is dat je begin aan de start van het proces. Kijk, een arts, als die studeert, dan wordt hij op de hoogte gebracht van de mogelijke impact dat hij heeft op het menselijk lichaam. Wij als ingenieur, de Sam Altmans van deze wereld, die hebben nooit in een lessen gezien van even wat technologie kan doen op het menselijke wellbeing. Waardoor zij dingen maken die technisch werken, en dan gaan ze naar het volgende.

SPEAKER_03 28:22

In ieder geval dynamiek.

SPEAKER_01 28:27

En dus ergens een bepaalde oud hebben, zou wel niet onhandig zijn.

SPEAKER_02 28:32

Ja, dat volg ik wel. Een marketeer krijgt dat bijvoorbeeld wel. Die heeft dat in zijn opleiding. Het impact eigenlijk van marketing op de mens, zit daarmee in een opleiding gebakken. Dat is wel waar. En engineering hebben we dat niet.

SPEAKER_01 28:46

We hebben dat niet. Bij mijn dokter zitten in haar derde jaar. Ingenieurswetenschappen krijg ethiek, maar om heer dat het mooi punt.

SPEAKER_03 28:54

Heel mooi punt, zoals je merkt. De impact van team.

SPEAKER_01 29:00

Als je met hem aantoont van jongens, Sam, people are making relationships with your technology. Oh, they shouldn't. Het is just a tool. Ja, but they do. Hetmagotchi effect. Hoe komt dat je dat niet weet? History repeats het zelf.

SPEAKER_03 29:14

En hoe kijk jij dan naar Musk, die zelf geen zoetje is, die dan Sam Beltman naar weg wil. Hoe kijk jij dan naar die twee? Hoe kijk jij naar die twee? Want het zijn alle twee heiligen. Hoe kijk je er naar een gedaan?

SPEAKER_02 29:31

Ik zal me een beetje. Wat geluk. Dat die hele X en Twitter, en Grok dus daarachter, niet hetzelfde succes heeft als Chat GPT. Want ik denk dat het daar nog veel erger is. Dus als je ziet, we hebben daar de beelden van de naakbeelden van de kinderen en zo gehad. Ik denk dat dat qua Gartrails nog veel minder is dan wat dat is. Ik ben het niet mee eens.

SPEAKER_01 29:56

Ik heb al mijn cases, 360 cases in totaal, niet allemaal individueel, maar wel vele. Is er geen enkele krok bij. En mensen vinden dat cool extreem, vinden dat wel jongeren vinden dat oh, die duft dat. Maar er wordt niemand afhankelijk van. Het team achter krok is ook veel, veel kleiner dan Open AI. Dus het team dat ze echt aan het gebruiken zijn om die intimiteit te creëren, is vele, vele malen groter in OpenAI, waardoor de link naar verslaving.

SPEAKER_02 30:25

Gebrek aan bescherming dan in grok, hoe kijk je daar naar?

SPEAKER_01 30:29

Ik kan u aantonen dat het heel gemakkelijk is in Open AI en ChatGT dezelfde dingen te bereiken.

SPEAKER_03 30:35

Oké, maar Musk versus Alman, alle tweede duivel of moeten we ze denken.

SPEAKER_01 30:39

Op een eigen manier.

SPEAKER_03 30:43

Ze zijn niet wakker van de gebeur. Welk probleem dat ze creëren, want ze lossen een probleem op. De technologische kracht, daar zijn we het over eens. Dat is vuater, elektriciteit vuur, daar zijn het het over eens. Maar daar gaat een liability. Why are you a billionaire? Da gaat een liability. Ze hebben elke liability. Want je hebt gezien, Trump is zelfs de Max. Trump verwijt nu ook de paus. En dan heeft hij een AI-beeld gemaakt met Jesus AI. Het is een dokter, het is een dokter, en die is zeven jongens. Oh, de max.

SPEAKER_01 31:12

Dat vind ik toch. Maar dit had nooit mogen gebeuren, weet je, eerlijk te zijn, kan ik teruggaan als ik mij inschreef voor AI. En wat ze letterlijk aan de tafel kunnen, en ik weet dat nog heel goed zeiden. Kijk, er is hier een technologie, die komt eraan, die ga onzekerheden uit de wereld weghalen, die gaat u helpen met dingen dat je niet graag doet. En die gaat complexiteit wegnemen in uw werk. En ik dacht van wow, maar moet je kijken wat we zijn na 35 jaar. Onzekerheden zijn er meer binnengekomen dan er weg gegaan. Helpen in mijn werk, ja, op sommige plaatsen. En complexiteit, maar dat zijn spijtig nog niet de cases. En die zijn er wel, hè. AI in farma, AI.

SPEAKER_03 31:47

Dat we het nu hebben, want we zitten een beetje met een paradox als je voelt AI is wellicht een technologie, zeg maar zo.

SPEAKER_02 31:52

Nee, nee. Maar dat ik denk dat dat onze gezamenlijke frustraties is. Dat hele verhaal van die LLM's, van die generatieve AI, dat is zo'n fractie, zo'n kleine fractie, van alle mogelijkheden. En dat zit permanent in de pers, daar zijn we gebruik van, maar het heeft te maken met toegankelijkheid natuurlijk, die gecreëerd is. Maar ja, dan heb je inderdaad al die immense mooie cases. Trouwens, ook van generatieve AI. Waar we niet over zijn.

SPEAKER_03 32:20

Want dat is toch de paradox vandaag. Je voelt ik internetzienkomen. Eerst computer, computer met Microsoft Office, dan internet, verbonden computers, dan de mobile, waar ik zelf wel Belfus op op ingezet heb, Mobile First. Ik voel nu AI toch wel een technologische kracht, die aan snelheid baseert, dat ik nog niet gezien heb.

SPEAKER_01 32:41

Ja, maar ik kan misschien zeggen dat vele mensen niet gaan akkoord zijn met mij, maar ik zet maar even een extreme stelling. Ik denk alles wat gestart is, met het woord AGI en het woord van we gaan de menselijke intelligentie gaan proberen even naar ons over klassen. Dat is gewoon dom.

SPEAKER_03 33:04

Dat is mijn gsm die hier gaat, waar ik graf zeggen. We kent iedereen bij een tunel te zeggen.

SPEAKER_01 33:13

Waarom is dat dom? Omdat het is een fantastische vorm van intelligentie die dingen kan die de mens niet kan. Maar wij kunnen nog altijd heel veel dingen die die jij niet kennen. Waarom laten we die niet mooi naast elkaar staan en kunnen we van elkaar zien: wat is de ene sterk en wat is de andere sterk. Maar dan kom je nu naar de AGI, en dat ook als beeld, voor de breide maatschappij. Die hebben het gevoel van. We gaan er geraken. Da gaat ons over. En dat is het niet. Dat gaat het nooit of nooit minder doen.

SPEAKER_03 33:39

Dat is niet de materiaalkeuze, dat is niet de toelkeuze.

SPEAKER_01 33:42

Verkeerde messaging.

SPEAKER_03 33:44

Maar wat je gevoelt, dus een zeer technologisch, snel, evoluerend gegeven, versus toch aandachtpunten. Ja, maar hoe moet je dan als persoon daarmee omgaan en als bedrijf mee omgaan? Want ik denk dat er effectief veel bedrijven die niet met de AI-evolutie technologisch gaan omgaan. Bedrijven hebben nogal een eigen om zich vast te houden. Dat is de reden waarom elke tien jaar 50% van de bedrijven eruit verdienen. Omdat internetbedrijven hebben MOBA niet gedaan. Nu MOBA-bedrijven gaan misschien die AI niet toe. Dus hoe moet je dan omgaan met die paradox van het gaat verdomme, technologische kracht. Het is toch Microsoft Office in het kwadraat, in tripel. Dus ik moet hem mee zijn als bedrijf, versus de gevaren. Hoe zie jij daarnaar? Dan Jacques, ik ga jullie beide het woord laten om te landen, zowel als persoon als bedrijf. Hoe moet je omgaan met die technologische kracht, weten dat het ook levensgevaarlijk is, de FIRE?

SPEAKER_01 34:35

Ja, levensgevaarlijk. Ik zet het even tussen aanhalingstekens. Ik ga er twee punten over zetten. Eerst en vooral, AI brengt waarde. Punt. Dat ook voor een bedrijf. Je moet gewoon vooraf, by design, goed nadenken waar zit je objectief zet. Is je objectief je revenue verhogen, uw kosten verminderen, et cetera. Want het is niet omdat een use case werkt in één bedrijf, dat het automatisch ook werkt in een andere, of dat het voor je objectief gaat werken. Maar dat is business as usual. Voordat je meeloopt, van we moeten go. Mieke, ga blij zijn. Ik heb copilot licenties gekocht. Nee, Mike is niet blij omdat je copilot licenties koopt.

SPEAKER_03 35:08

Dus bij design, wat is het probleem dat je op.

SPEAKER_01 35:11

En zet je security juist, je data governance. Want dat is, en dat is misschien wel een punt. AI-projecten beginnen meer en meer te falen. Op data covenance en cybersecurity. En dat heeft niks met AI. Don't blame AI daarvoor.

SPEAKER_03 35:23

Maar zijn vandaag ook de visies van bedrijven? We gaan de chatbot en die agent gegeven. Ik denk dat de visie zich vaak beperkt tot dat gegeven. Of is dat fout?

SPEAKER_01 35:31

Het wordt gepusht als je kijkt. Ik ga het bedrijf niet noemen, maar ik krijg regelmatig telefoons en mensen zeggen, ja, kijk, Mike, op vrijdag krijgen we om 12 uur een telefoontje. Of een e-mail om te zeggen dat we niet genoeg koppilet gebruikt hebben. En dan moet ik vrijdag namiddag nog een aantal mensen contacteren en gaat een e-mail krijgen, maar ligt er niet van wakker. Ik moest een aantal kooppalet, ik moest koopalot nog een aantal keer gebruiken. Want daar vind ik nu echt gewoon een verkeerde manier. Die KPI's zetten op het gebruik van, is gewoon niet juist. En dus terug, dat gaat er naar van wat is je objectief?

SPEAKER_03 36:01

En daar naartoe gaan op een verstandige manier, onderbouwde manier.

SPEAKER_01 36:04

Niet alle objectieven hebben AI nodig.

SPEAKER_02 36:08

Ja, sowieso 100% eens met dat verhaal. Ja, voor mij, maar jij weet dat, dat is ook waar het in de herontdekking van de mensen over gaat. Ik denk dat het echt een hefboom daar ook is als we dat op een goede manier hebben. We moeten dat dus juist positioneren. En als wij ons als mens gaan reduceren tot wij reproduceren data, informatie en kennis, ja, dan is AI een bedreiging. Maar wij zijn toch zoveel meer. Dat gesprek hebben we al een paar keer gehad. Wij zijn ook die nieuwsgierig, we zijn ook degene die kunnen voelen ruiken, de dingen die je aanhaalt. Wij zijn zoveel meer dan data, informatie en kennis. Dus daarvoor awaren's bij de IT'ers, zoals je daar straks hebt, bij de engineers. Maar het gaat ook over die mensheid op zich. Positioneer dat toeltje. Ik ga het even zo reduceren. Positioneer dat nu eens juist. En ik denk helaas dat we nog jaren te gaan hebben voordat mensen echt goed beseffen. Ah, het was dit. En dat kunnen we daarmee. En dat gaan we blijven. Dat ga nog lang duren.

SPEAKER_01 37:11

De media heeft daar een hele grote rol. Als ik mijn eerste pagina's van mijn eerste boek neem, en dat is ook hard, maar vijf jaar oud. La ik even uit. Wat is machine learning? Wat is deep learning? En wat is AI. Maar AI, het woord AI heeft alles overhoekerd. Weet je, je noem het geavanceerde statistiek, het is half zo wild, maar ik zou hier ook niet voor die podcast zetten.

SPEAKER_03 37:34

Ik ben als je twee leading figures van AI aan.

SPEAKER_02 37:38

Maar dat is het op steroïden.

SPEAKER_03 37:42

Ja, maar ik voel dan, ik heb veel geleerd. Gentric AI is toch niet alles, als dat niet past in uw strategie. Strategie by design, data governance, data security. zet u in uw strategie. Waar wil je naartoe, juist. Ik heb toch ook opnieuw gevoeld aan muziek. En dat is mijn gevoel met AI-muziek. Dat is voor mij nog altijd een copy-past. Die krijg daar niet datzelfde Nike Rosalia gevoel bij. En daarmee gaan we ook eindigen. Want je had een tweede favoriete lied waarmee je graag in de podcast zou eindigen. Maar ik laat je zelf het verhaal doen, de Yellow Ladder van Pearl.

SPEAKER_01 38:18

Ja, er zijn momenten waar je gewoon niet de juiste woorden vindt om dingen te zeggen in een bepaalde situatie. Maar waar gewoon de sound je alles zegt. En dat is wat dat lied doet, bij mij.

SPEAKER_03 38:32

En rond de tekst is ook een speciaal verhaal. Ik ken het, we wisten het van elkaar niet. Maar we hebben het net nog gezegd. Dus ja, ook de tekst is speciaal.

SPEAKER_01 38:42

Er is geen tekst.

SPEAKER_03 38:43

Er is geen tekst. Dus ja, hij improviseert. Hij voelde de vibe van wat de band gaf, ik kon het niet benoemen. En dan wis je allemaal way begonnen te zingen. En live ook begint hij ook andere teksten zingen, maar gewoon in de vibe. En dan zie je en ik denk dat we daar ook zitten, maar ja, niet alles is vertaalbaar in woorden. Een bepaalde vibe muziek. Ik noem muziek al lang. Informatietechnologie wel een lekkere, dat is eigenlijk wat je zegt. Dat is dan liedje. Ik vond het fantastisch dat je zei dat we daarmee gingen eindigen. Maar ik wil Jacquier bedanken voor onze wekelijkse podcast. Maar vandaag nog meer leading lady van AI Koppen het Boek. Je zal ze nog veel zien verschijnen. Tafel van Gert is al gepasseerd, maar ik verwacht dat dit debat zeker nog niet is gaan liggen. Heert Ruimieke de Kegela, mercy Rock on You Rebel bedankt voor hier bij ons te zijn vandaag. Veel plezier.