Normie Curry Burger

23 maart, 2023     ✍️ Reinier Ladan

Hi, Reinier hier,

De laatste paar weken ben ik me wat meer gaan verdiepen in prompt based AI (zoals ChatGPT en Stable Diffusion) omdat het, zoals we nu al zien, niet echt meer te stoppen is.

Toch kan niemand in de toekomst kijken en kunnen we over een paar jaar in dezelfde situatie zitten als nu met de zelfrijdende auto: het had zo enorm veel potentie, maar om het écht goed te laten functioneren moet er nog heel wat gebeuren. De beroemde laatste 20% die 80% van de tijd in beslag gaat nemen. En bij dit soort technologieën is die hefboom zeer waarschijnlijk nog veel heftiger.

Maar net als de push naar de zelfrijdende auto waarbij nu de meeste nieuwe auto’s nu een heel eind komen door een zeer geavanceerde cruise-control, zo zal de “prompt-driven text-to-whatever models”-movement ook al hele waardevolle dingen achterlaten zonder dat het systeem gelijk zelfbewust is en onze banen gaat innemen.

Overigens zullen ook schadelijke dingen naar boven komen. Er is nu al genoeg data om te zien dat ChatGPT een enorme energieslurper is. Of dat er een flinke bias in zit voor witte hetero mannen. En dat het een enorme angst voor technologie teweeg brengt en ons in een Amische toestanden brengt. Zo zou deze hele trend weleens een net-negative kunnen blijken voor ons als samenleving.

Tijdens mijn research (wat in de basis gewoon veel aanklooien met de technologie is) kwam ik het artikel ChatGPT Explained: A Normie's Guide To How It Works van Jon Stokes tegen. Met dit artikel heeft hij me weer een stapje verder gebracht in mijn begrijpen van chat AI, machine learning, Large Language Models, etc. En niet alleen door wat hij zelf heeft geschreven, maar ook door de artikelen waar hij naar linkt.

Een paar interessante highlights:

do I really always want the truth? If I ask the model for a comforting bedtime story about a unicorn, do I really want it to go all Neil deGrasse Tyson on me and open with “well actually, Jon…”? Isn’t the model’s ability to make things up often a feature, not a bug?

Want om ons echt bij te staan als mensen, moet zo’n chat AI ook creatief kunnen zijn. En creatief zijn is vaak tegenstrijdig met 'waarheid'.

When I, a human being with a history and an identity and a set of goals and interests, observe a single point in the model’s probability space, it’s always up to me to interpret that point as language and to imbue it with meaning.

Dat is altijd iets om in je achterhoofd te houden: ChatGPT weet en snapt zelf helemaal niks. Het is aan ons mensen om de volgorde van woorden die ChatGPT je voorschotelt betekenis en waarde te geven.

Every time I hit “Send,” OpenAI is not only submitting my latest input to the model — it’s also adding to the token window all the previous exchanges in the session so that the model can take the whole “chat history” and use it to steer me toward the right lobe in its probability space.

Het was voor mij een eye-opener dat ChatGPT niet ‘onthoudt’ wat je hebt gezegd eerder in de conversatie, maar dat je elke keer dat je iets aan ChatGPT vraagt begint met een schone lei. Om toch te doen alsof er een conversatie aan de gang is voegt ChatGPT onder water de voorgaande conversatie toe aan de input. Zo lijkt het een conversatie terwijl ChatGPT niks hoeft te onthouden.

De hele AI trend blijf ik fascinerend vinden, maar ik ben er ook huiverig voor. Grote beloften worden er gedaan, trendsetters verkopen het als het nieuwe internet, guru’s zien nieuwe schapen ontstaan en de negatieve gevolgen worden vooral afgedaan als ‘het is niet tegen te houden’. AI is een keuze, ook al is het niet alleen jouw keuze.

Ook nog

Verder plaatste ik deze week een recept op mijn blog voor een heerlijke vegan curry met pompoen. Het seizoen is alweer voorbij, maar mocht je nog ergens een verdwaalde pompoen vinden dan zou ik 'm zeker in deze curry stoppen.

Vegan curry met pompoen, linzen en naan

En daarnaast kon ik me nogal opwinden over de framing van de 'overwinning van de BoerBurgerBeweging' want ja, ze zijn de grootste in alle provincies, maar het versnipperde politieke landschap is enorm. De grote middelvinger naar de Nederlandse natuur is kleiner dan hij lijkt.

🔮 Glazen BOL

In de glazen BOL kun je zien wat je misschien nog van BOL.com nodig hebt. Door via deze links wat te kopen zorg je ervoor dat de FYI schoorsteen blijft roken. Zelfs als je wat anders koopt na het doorklikken op een van deze linkjes

🍳 Ik leer mezelf elke dag weer een beetje beter koken, en daar hoort ook het minder bakken in een antiaanbaklaagpan bij. Daarom bak ik nu geregeld iets in onze nieuwe aanwinst: een DeBuyer RVS koekenpan.

🚠 Ik kan niet meer zonder deze kabelclips waar je vijf kabeltjes in kwijt kan en binnen no-time hebt bevestigd. Ik heb er een aan de zijkant van mijn nachtkastje, een in de woonkamer aan het kastje waar altijd alle apparaten worden opgeladen en meerdere in mijn kantoor om alle kabels goed te managen. Onmisbaar voor mij.

☕️ Als je een koffieliefhebber bent dan weet je dit misschien al: de Hario V60 is de koffie-dripper onder de koffie-drippers. En de handige decanter die je erbij krijgt staat niet verkeerd in je servieskast.

WVTTK

• Persvragen? Twitter stuurt je een poep-emoji retour
• typst/typst: A new markup-based typesetting system that is powerful and easy to learn.
• Web fingerprinting is worse than I thought
• macOS Cursors
• OpenAI’s policies hinder reproducible research on language models

Tot de volgende keer!