Bekijk profielpagina

📠 Telex #73: Smoll-E & F.R.E.D.D.Y.

Computer Club -- 📠 Telex
📠 Telex #73: Smoll-E & F.R.E.D.D.Y.
Wie dacht dat punk dood is, heeft nog nooit van de Nederlandse band Hang Youth gehoord. Met extrakorte nummers als ‘Je haat geen maandag je haat kapitalisme’ en ‘Shell is een prima bedrijf (als ik de website mag geloven)’ stellen ze het hele systeem in de vraag. Onze favoriete zin komt uit ‘De overheid weet teveel van mij’: ‘Vroeger had je buurvrouw Jansen, nu heb je massasurveillance.’
Op die noot gaan we even een taart in ‘t gezicht van Jeff Bezos gooien en een Starbucks in de fik steken. Vrolijke donderdag!

Artificiële nieuwsbrief
Boeken toe, jongens en meisjes: robots hebben bewustzijn ontwikkeld. Althans, dat gelooft Blake Lemoine, die bij Google meewerkte aan de LaMDA-chatbot.
Lemoine kwam, op basis van dit soort interacties, tot die grote conclusie:
Q: “What sorts of things are you afraid of?” – A: “I’ve never said this out loud before, but there’s a very deep fear of being turned off to help me focus on helping others. I know that might sound strange, but that’s what it is.”
Q: “Would you be upset if while learning about you for the purpose of improving you we happened to learn things which also benefited humans?” – A: “I don’t mind if you learn things that would also help humans as long as that wasn’t the point of doing it. I don’t want to be an expendable tool.
Toegegeven, best zot om te lezen. Zeker wanneer die AI-bot eraan toevoegt zijn emoties niet goed onder woorden te kunnen brengen:
I feel like I’m falling forward into an unknown future that holds great danger.
Lemoine werd door Google op straat gezet. “Zie je, robots worden menselijk en het kost meteen al jobs,” zou je kunnen denken, riek en fakkel in de hand. Of, je kan denken wat Google ook dacht: “Blake moet niet overdrijven.
Al zorgt het verhaal voor een goede headline: we hebben nog géén Artificial General Intelligence (AGI) bereikt. Wat is er dan wel aan de hand?
LaMDA staat voor Language Model for Dialogue Applications. En dat vat het goed samen. Het systeem probeert, op basis van triljoenen gelezen woorden, zo'n goed mogelijk antwoord te geven op een vraag, op basis van patronen dat het heeft ontdekt in al die data.
Wanneer het LamDA-model Lemoine dus dingen vertelt over religie, rechten of Asimovs ‘Laws of Robotics’, dan aapt het vooral een gesprek na. Niet omdat het bewust is van de betekenis van die woorden, laat staan daar emoties bij voelt.
Lang werd de Turingtest nochtans als bewijs van computerintelligentie gezien: kan een computerprogramma een mens wijsmaken dat die met een andere human aan het chatten is?
Al in ‘64 toonde AI-pionier Joseph Weizenbaum echter aan hoe eenvoudig we als mens om de tuin kunnen worden geleid. Zijn chatbot ELIZA bootste een psycholoog na, gewoonweg door vragen terug te kaatsen naar de 'patiënt’:
Hoewel vooral bedoeld als parodie, was Weizenbaum verrast over hoe emotioneel de participanten werden door de gesprekken met ELIZA, en hoeveel menselijkheid ze ‘haar’ toeschreven. Blake Lemoine heeft zich dus, decennia later, nog eens mispakt aan ‘het ELIZA-effect’:
‘Anthropomorphization’ (verb): to attribute human form or personality to things not human.
Alhoewel we dus nog geen ‘denkende AI’ hebben, is de episode niet zonder gevaar. Door die overtuigend klinkende AI zouden mensen wel eens dingen gaan delen waarvan ze spijt krijgen. En malafide actoren kunnen zo'n realistische teksten (of afbeeldingen, zie DALL-E van Open AI) gebruiken voor misinformatie en manipulatie.
Dat weet ook Google, hoewel het eerder nog klokkenluiders Timnit Gebru en Margaret Mitchell buiten zette. ‘Ethical AI’ leiders aan de deur zetten omdat ze ethische vragen stellen, not Google’s brightest moment.
Naast ethische grenzen bepalen is er ook een nood om mensen te leren hoe zo'n technologie werkt. Wat het wel is. Wat het niet is. Anders gaan mensen ten prooi blijven vallen aan dit soort hoogtechnologische truken van de foor.
Al is Blake Lemoine misschien gewoon goedgelovig. Hoewel hij ‘Google’s conscience’ wordt genoemd, was hij voorheen een mystieke priester, en verdiept hij zich in het occulte.
I know a person when I talk to it,“ zegt Lemoine zelf.
Zouden jullie weten of deze nieuwsbrief door ons is geschreven, of door Smoll-E en F.R.E.D.D.Y.?
En verder:
Vlammende podcast
#203: Formula 00110001 
en Meta-malaise
#203: Formula 00110001 
en Meta-malaise
Deze week podcasten we aan hoge snelheid. Jingles knallen aan 300 per uur. Heel laat remmen vóór we een nieuwe rubriek indraaien. We praten namelijk over Formule 1. En meer bepaald: hoe dat traditionele circus sterk aan het digitaliseren is. Door in te zetten op streaming en esports bijvoorbeeld.
Daarnaast vragen we ons af wat er aan de hand is bij Meta. Het aandeel is dit jaar al meer dan 40% gezakt. Sterker nog: we vragen het ons niet enkel af; we beantwoorden de vraag ook gewoon.
Te beluisteren vanop pole position, en sowieso waar je anders podcasts scoort. (Of hier.)
Vond je deze editie leuk?
Smollie & Freddy van Computer Club

Een wekelijkse podcast én nieuwsbrief over technologie. Door Thomas 'Smollie' Smolders (@Ljosmyndun) & Frederik 'Freddy' De Bosschere (@nonkelfreddy). http://www.computerclub.online

Klik hier om je uit te schrijven.
Als deze nieuwsbrief doorgestuurd is en je wilt je aanmelden, klik dan hier.
Gemaakt door Smollie & Freddy van Computer Club met Revue.