Ik praat met AI dus ik ben
22 maart, 2023 ✍️ Reinier Ladan
De laatste paar weken ben ik me wat meer gaan verdiepen in prompt based AI (zoals ChatGPT en Stable Diffusion) omdat het, zoals we nu al zien, niet echt meer te stoppen is.
Toch kan niemand in de toekomst kijken en kunnen we over een paar jaar in dezelfde situatie zitten als nu met de zelfrijdende auto: het had zo enorm veel potentie, maar om het écht goed te laten functioneren moet er nog heel wat gebeuren. De beroemde laatste 20% die 80% van de tijd in beslag gaat nemen. En bij dit soort technologieën is die hefboom zeer waarschijnlijk nog veel heftiger.
Maar net als de push naar de zelfrijdende auto waarbij nu de meeste nieuwe auto’s nu een heel eind komen door een zeer geavanceerde cruise-control, zo zal de “prompt-driven text-to-whatever models”-movement ook al hele waardevolle dingen achterlaten zonder dat het systeem gelijk zelfbewust is en onze banen gaat innemen.
Overigens zullen ook schadelijke dingen naar boven komen. Er is nu al genoeg data om te zien dat ChatGPT een enorme energieslurper is. Of dat er een flinke bias in zit voor witte hetero mannen. En dat het een enorme angst voor technologie teweeg brengt en ons in een Amische toestanden brengt. Zo zou deze hele trend weleens een net-negative kunnen blijken voor ons als samenleving.
Tijdens mijn research (wat in de basis gewoon veel aanklooien met de technologie is) kwam ik het artikel ChatGPT Explained: A Normie's Guide To How It Works van Jon Stokes tegen. Met dit artikel heeft hij me weer een stapje verder gebracht in mijn begrijpen van chat AI, machine learning, Large Language Models, etc. En niet alleen door wat hij zelf heeft geschreven, maar ook door de artikelen waar hij naar linkt.
Een paar interessante highlights:
do I really always want the truth? If I ask the model for a comforting bedtime story about a unicorn, do I really want it to go all Neil deGrasse Tyson on me and open with “well actually, Jon…”? Isn’t the model’s ability to make things up often a feature, not a bug?
Want om ons echt bij te staan als mensen, moet zo’n chat AI ook creatief kunnen zijn. En creatief zijn is vaak tegenstrijdig met 'waarheid'.
When I, a human being with a history and an identity and a set of goals and interests, observe a single point in the model’s probability space, it’s always up to me to interpret that point as language and to imbue it with meaning.
Dat is altijd iets om in je achterhoofd te houden: ChatGPT weet en snapt zelf helemaal niks. Het is aan ons mensen om de volgorde van woorden die ChatGPT je voorschotelt betekenis en waarde te geven.
Every time I hit “Send,” OpenAI is not only submitting my latest input to the model — it’s also adding to the token window all the previous exchanges in the session so that the model can take the whole “chat history” and use it to steer me toward the right lobe in its probability space.
Het was voor mij een eye-opener dat ChatGPT niet ‘onthoudt’ wat je hebt gezegd eerder in de conversatie, maar dat je elke keer dat je iets aan ChatGPT vraagt begint met een schone lei. Om toch te doen alsof er een conversatie aan de gang is voegt ChatGPT onder water de voorgaande conversatie toe aan de input. Zo lijkt het een conversatie terwijl ChatGPT niks hoeft te onthouden.
De hele AI trend blijf ik fascinerend vinden, maar ik ben er ook huiverig voor. Grote beloften worden er gedaan, trendsetters verkopen het als het nieuwe internet, guru’s zien nieuwe schapen ontstaan en de negatieve gevolgen worden vooral afgedaan als ‘het is niet tegen te houden’. AI is een keuze, ook al is het niet alleen jouw keuze.