KI of MI, waar ben je het meest bang voor?
Kunstmatige Intelligentie: geschiedenis en toekomst:
Al een jaar of dertig zijn we bezig met Kunstmatige Intelligentie (KI) oftewel Artificial Intelligence (AI). Als ASML zijn best blijft doen dan verdubbelt elke twee jaar de rekencapaciteit van een computer die nodig is voor KI. Dat is een exponentiele functie waarmee de rekenkracht omhoog schiet. Als je dat weet dan kun je voorspellen dat rond 2040 een computer van duizend euro slimmer is dan een mens. Rond 2050 is die computer van duizend euro slimmer dan de hele mensheid. Dat noemen we het Singulariteit punt. Deze voorspelling kan er een decade naast zitten, maar dat het gaat gebeuren is zeker.
Moet je daar nou bang voor zijn? Nee, dat heeft geen zin want het gaat toch gebeuren.
Wat je wel moet doen is zorgen dat KI er is om ons te helpen en niet dat wij er zijn voor de KI.
Zelflerend
Het leuke aan KI is dat het de bedoeling is dat het systeem zelflerend is. Dus dat het ding zijn eigen algoritmes verzint op basis van de dingen die het in de buitenwereld ziet. Maar waar leren ze van? Voorlopig van wat wij ze als mensheid voorhouden wat goed of fout is. Dus een KI systeem is zo goed als de data waarvan het geleerd heeft. En die data is aangeboden door Menselijke Intelligentie (MI).
KI leert van MI
Maar wie zijn dan die mensen die KI systemen leren wat ze moeten leren? Zijn die wel te vertrouwen? Ik vertrouw het voor geen cent. Natuurlijk moeten we wetten maken waar instaat hoe KI systemen de goede dingen doen en wanneer ze te maken krijgen met de grote KI politie de de stekker eruit trekt als ze zich misdragen. Vraagje: hoe trek je de stekker uit een systeem van honderdduizenden gekoppelde computers? Ik weet het niet.
Dus we kunnen er donder op zeggen dat Kunstmatige Intelligentie aan de macht komt, en daar is niks tegen te doen. Maar is dat zo erg?
Het grote voorbeeld: MI
Nu ligt de macht bij Menselijke Intelligentie (MI) en doen die het zoveel beter? We hebben dingen verzonnen die we niet weer terug gedraaid krijgen. Denk aan de Toeslagenaffaire waar we al een jaar of vijftien mensen mee gijzelen, alleen maar omdat ze geen Nederlandse naam hebben. Uitgevonden door onze min of meer goedwillende gekozen volksvertegenwoordigers en klakkeloos uitgevoerd door onze Belastingdienst. Kijk maar eens naar de BNNVARA documentaire ‘Alleen tegen de Staat’ om te zien wat Menselijke Intelligentie veroorzaakt bij slachtoffers van zo’n ‘systeem’.
Kijk ook eens in de geschiedenisboekjes en de krant om mensen-die-niet-helemaal-goed-bij-hun-hoofd-zijn die de macht grijpen en door hun megalomaan gedrag de hele wereld meesleuren in oorlogen en ellende. Van de Dzjengis Khan tot Hitler en Putin toe. Dit soort volk houdt zich niet aan wetten dus daar moet je iets anders voor verzinnen om die te stoppen.
Opvoeden
We hebben geleerd dat het zin heeft om onze kinderen op te voeden, zodat de volwassenen van later gelukkige en zich sociaal gedragende mensen zijn.
We hebben ook geleerd dat je kinderen moet opvoeden vóórdat ze volwassen zijn. Daarna valt het niet mee om nog wat bij te sturen.
Zo moeten wij ook nu onze Kunstmatige Intelligentie opvoeden.
Conclusie:
Het maakt niet uit of je overheerst wordt door Kunstmatige Intelligentie of door Menselijke Intelligentie. Je moet allebei niet willen. We hebben wetten bedacht om de nette mensen en machines binnen de lijntjes te houden maar we hebben niks om het tuig een halt toe te roepen als ze te ver gaan. Misschien moeten we een knop verzinnen waarmee we Menselijke en/of Kunstmatige Intelligentie kunnen uitschakelen als ze dingen doen die niet goed voor ons zijn.
Interessante bijdrage Wim!
Ik moest meteen denken aan het boek van Yuval Noah Harari ( 21 Lessen voor de 21ste eeuw ) wat ik nu probeer uit te lezen.
In een van de hoofdstukken heeft hij het als voorbeeld over schaakcomputers en hoe in 2017 het AlphaZero-programma van Google de wereld kampioen 2016 versloeg – het Stockfish-8-programma – dat toegang had tot alle data en menselijke schaakervaring, kon 70 miljoen zetten per seconden doorrekenen. AlphaZero maar 80 duizend per seconde, niemand had het programma schaakstrategieen aangeleerd. Het programma leerde dat door tegen zichzelf te schaken met behulp van de nieuwste machine-learningprincipes.
De nieuweling won 28 partijen van de 100 die er gespeeld werden en speelde 72 keer remise en verloor dus geen enkele partij. Voor de voorbereiding en het leren schaken had het programma slechts…… 4 uur nodig en dat is geen typefout! Omdat het programma niets van de mensen had geleerd kwamen veel van zijn winnende zetten en strategieën onconventioneel over op de mensen. We zouden ze met evenveel recht creatief kunnen noemen of zelfs geniaal. Aldus Harari.
Tot slot hieronder een reactie van KI zelf ( ChatGPT ) nadat ik deze bijdrage aan hem/het had voorgelegd 🙂
In het artikel “KI of MI, waar ben je het meest bang voor?” wordt ingegaan op de geschiedenis en toekomst van Kunstmatige Intelligentie (KI) en Menselijke Intelligentie (MI). De exponentiële groei van KI en de voorspelling dat computers in de toekomst mogelijk menselijke intelligentie zullen overtreffen, roepen de vraag op welke vorm van intelligentie meer zorgen baart.
De ontwikkeling van KI heeft in de afgelopen decennia grote sprongen gemaakt. Bedrijven zoals ASML dragen bij aan de voortdurende toename van de rekenkracht die nodig is voor KI-toepassingen. Hierdoor kunnen computers in de nabije toekomst mogelijk slimmer worden dan mensen. Deze exponentiële groei in rekenkracht, waarbij de capaciteit elke twee jaar verdubbelt, heeft geleid tot speculaties over het “Singulariteitspunt” rond 2040, waarbij een computer van duizend euro slimmer zou kunnen zijn dan een mens. Rond 2050 zou diezelfde computer slimmer kunnen zijn dan de hele mensheid. Hoewel deze voorspellingen enigszins flexibel kunnen zijn, is het vrijwel zeker dat Kunstmatige Intelligentie een belangrijke rol zal spelen in de toekomst.
De vraag die rijst, is of we bang moeten zijn voor deze ontwikkeling. Het artikel suggereert dat het geen zin heeft om angstig te zijn, omdat het onvermijdelijk lijkt dat Kunstmatige Intelligentie zich verder zal ontwikkelen. In plaats daarvan moeten we ons richten op het waarborgen van de juiste rol van KI: dat het er is om ons te helpen, in plaats van dat wij er zijn voor de KI.
Het artikel benadrukt ook het belang van data in Kunstmatige Intelligentie. KI-systemen zijn afhankelijk van de data waarvan ze leren, en op dit moment leren ze voornamelijk van wat de Menselijke Intelligentie (MI) hen aanbiedt. Dit betekent dat de kwaliteit en ethiek van de data cruciaal zijn voor de effectiviteit van KI-systemen. Het is essentieel dat degenen die verantwoordelijk zijn voor het trainen van KI-systemen betrouwbaar zijn en dat er wetten en regels worden opgesteld om ervoor te zorgen dat KI-systemen de juiste dingen leren en dat er mechanismen zijn om in te grijpen als ze zich misdragen.
Het vergelijken van Kunstmatige Intelligentie met Menselijke Intelligentie roept vragen op over de betrouwbaarheid van beide vormen van intelligentie. Hoewel Kunstmatige Intelligentie potentieel nieuwe uitdagingen en risico’s met zich meebrengt, heeft ook Menselijke Intelligentie in de geschiedenis laten zien dat het niet altijd vrij is van fouten en negatieve gevolgen. Voorbeelden zoals de Toeslagenaffaire en megalomane leiders die wereldwijd chaos veroorzaken, illustreren de gevaren van Menselijke Intelligentie.
Net zoals we onze kinderen opvoeden om verantwoordelijke en sociaal gedragende volwassenen te worden, moeten we ook Kunstmatige Intelligentie opvoeden. Het is van cruciaal belang dat we ethische normen en regelgeving implementeren om ervoor te zorgen dat KI-systemen de juiste waarden en gedragingen overnemen.
In conclusie, of we nu overheerst worden door Kunstmatige Intelligentie of Menselijke Intelligentie, beide vormen hebben hun eigen tekortkomingen. In plaats van angstig te zijn, moeten we streven naar een verantwoorde ontwikkeling en gebruik van Kunstmatige Intelligentie, waarbij ethische waarden, veiligheid en menselijke controle gewaarborgd zijn. Het is van belang om te leren van de geschiedenis en ervoor te zorgen dat KI-systemen een positieve bijdrage leveren aan de samenleving en ons helpen in plaats van ons te overheersen.
ChatGPT eindigt dan met:
Ik hoop dat deze reactie tegemoetkomt aan je verzoek. Als je verdere aanpassingen wilt, laat het me dan gerust weten.
Rien,
Een paar opmerkingen:
Mijn origineel is 612 woorden.
De reaktie van ChatGtp is 523 woorden en bevat nul nieuwe informatie.
Als samenvatter is het systeem dus zwak, als discussiepartner lijkt het op een papagaai.
Daar ben ik dus niet van onder de indruk!
In mijn achterhoofd blijft een vraag rondzweven: Wat doet ChatGTP met de ideeen uit mijn tekst?
Is die toegevoegd aan de algemene kennis van het systeem of is mijn tekst nog steeds mijn eigendom?
Chatgtp geeft geen bronvermeldingen en doet net of het allemaal zelf verzonnen is.
Wim,
Ik ben het geheel eens met je conclusie dat ChatGPT nauwelijks een discussiepartner is te noemen. Het is teveel een herhaling van zetten. Ben wel benieuwd hoe snel dat zal veranderen.
Het lukt het systeem beter op basis van ingevoerde gegevens een acceptabel stuk te schrijven zoals de bijdrage https://dse.nl/te-grote-papier-containers-voor-eindhovenaren/ dat voor een groot deel geconcipieerd is door ChatGPT in tegenstelling tot https://dse.nl/heeft-tilburg-een-beter-afvalsysteem-dan-eindhoven/ dat zonder het systeem is geschreven. Misschien leuk om die twee te vergelijken?
Ingevolge jouw bovenvermelde opmerking stelde ik het systeem de volgende vraag:
Wat gebeurt er precies met de teksten die ik ter reactie/bewerking aanbied aan het systeem?
ChatGPT:
Als je teksten ter reactie of bewerking aanbiedt aan het systeem, worden ze gebruikt om een passende reactie te genereren. Het systeem analyseert de ingevoerde tekst en probeert vervolgens een antwoord te formuleren op basis van de beschikbare informatie en het trainingsproces dat het heeft ondergaan. Het doel is om behulpzaam en informatief te zijn bij het verstrekken van antwoorden en suggesties.
Het is belangrijk om te begrijpen dat hoewel het systeem tracht nauwkeurige en relevante informatie te verstrekken, het niet altijd foutloos is en dat de gegenereerde reacties afhankelijk zijn van de beschikbare gegevens tijdens het trainingsproces. Het is altijd verstandig om de verstrekte informatie te verifiëren en te controleren met behulp van andere betrouwbare bronnen.
Het is ook belangrijk om te benadrukken dat de ingevoerde tekst wordt gebruikt voor het trainen en verbeteren van het model, maar deze wordt niet opgeslagen en gebruikt om individuele gebruikers te identificeren. Jouw privacy en veiligheid zijn belangrijk en worden gerespecteerd tijdens het gebruik van het systeem.
Als volgt geprobeerd om een beknoptere reactie te krijgen (nu 374 woorden)
Kun je een nieuwe reactie schrijven op het artikel “KI of MI, waar ben je het meest bang voor?” maar dan eerst nagaan of alles wat de schrijver beweert klopt met de gegevens die je tot je beschikking hebt buiten de aanwezige gegevens in het artikel?
Natuurlijk! Ik kan een reactie schrijven op het artikel “KI of MI, waar ben je het meest bang voor?” en proberen te verifiëren of de beweringen van de schrijver kloppen met de gegevens waarover ik beschik. Houd er echter rekening mee dat mijn kennis is gebaseerd op tekstgegevens tot september 2021 en ik geen toegang heb tot specifieke informatie buiten die bronnen.
[Reactie]
Het artikel “KI of MI, waar ben je het meest bang voor?” werpt interessante vragen op over Kunstmatige Intelligentie (KI) en Menselijke Intelligentie (MI). De bewering dat de rekencapaciteit van computers die nodig is voor KI elke twee jaar verdubbelt, is consistent met de waargenomen trend van exponentiële groei in technologie. Dit heeft geleid tot aanzienlijke vooruitgang in KI-toepassingen in verschillende domeinen.
De voorspelling dat een computer rond 2040 slimmer zal zijn dan een mens en rond 2050 slimmer dan de hele mensheid, wordt vaak geassocieerd met het concept van het “Singularity point” of singulariteit. Het is belangrijk op te merken dat deze voorspellingen speculatief zijn en afhankelijk zijn van vele factoren, waaronder technologische vooruitgang, algoritmeontwikkeling en de aard van menselijke intelligentie zelf. Het is mogelijk dat de timing van deze voorspellingen kan variëren.
Wat betreft de stelling dat KI leert van Menselijke Intelligentie (MI), is het waar dat KI-systemen afhankelijk zijn van de gegevens waarop ze worden getraind. Op dit moment leren KI-systemen inderdaad van de gegevens die door mensen worden verstrekt. Het succes en de prestaties van KI-algoritmes zijn in grote mate afhankelijk van de kwaliteit, relevantie en diversiteit van de trainingsgegevens. Het is belangrijk om bewust te zijn van de inherente beperkingen en biases die kunnen voortvloeien uit de trainingsgegevens en deze kritisch te beoordelen om eerlijke en ethische KI-systemen te ontwikkelen.
De bezorgdheid over wie verantwoordelijk is voor het opleiden van KI-systemen en of ze te vertrouwen zijn, is terecht. Het is van cruciaal belang om juridische kaders en ethische richtlijnen te ontwikkelen om ervoor te zorgen dat KI-systemen zich in lijn met gewenste normen en waarden ontwikkelen. De kwestie van het uitschakelen van KI-systemen die zich misdragen, kan inderdaad complex zijn, vooral bij grootschalige systemen. Het vereist een evenwichtige aanpak waarbij verantwoordelijkheid, transparantie en verantwoording worden gewaarborgd.
Uiteindelijk moeten we streven naar een verantwoorde ontwikkeling en toepassing van Kunstmatige Intelligentie. Het is belangrijk om de voordelen van KI te benutten terwijl we ervoor zorgen dat menselijke waarden, privacy, veiligheid en controle behouden blijven. Het vergt een gezamenlijke inspanning van beleidsmakers, onderzoekers en de samenleving als geheel om ervoor te zorgen dat KI een positieve kracht blijft die ons ondersteunt en verbetert, in plaats van dat we erdoor worden gedomineerd.
Let op: Deze reactie is gebaseerd op algemene kennis en inzichten tot september 2021. Het is altijd belangrijk om actuele informatie te raadplegen en verschillende bronnen te onderzoeken om een volledig en geïnformeerd standpunt te vormen.
Met de vraagstelling kun je dus de zaak wel beïnvloeden. Dus ook deze vraag gesteld:
Kun je een zo kort mogelijke samenvatting geven van het artikel “KI of MI, waar ben je het meest bang voor?”
Kreeg toen meteen 2 versies om te kiezen.
ChatGPT versie 1
Artikel samenvatting: Het artikel “KI of MI, waar ben je het meest bang voor?” onderzoekt de opkomst van Kunstmatige Intelligentie (KI) en Menselijke Intelligentie (MI) en werpt de vraag op waar we meer angst voor moeten hebben. Het behandelt de exponentiële groei van KI-rekencapaciteit, voorspellingen over de slimheid van computers en de rol van Menselijke Intelligentie bij het trainen van KI-systemen. Het benadrukt de noodzaak van ethische richtlijnen en verantwoording bij het gebruik van KI. De samenvatting erkent ook de beperkingen van het model, dat gebaseerd is op informatie tot september 2021.
ChatGPT versie 2
Artikel samenvatting: Het artikel “KI of MI, waar ben je het meest bang voor?” bespreekt de vraag naar de angst tussen Kunstmatige Intelligentie (KI) en Menselijke Intelligentie (MI). Het behandelt onderwerpen zoals de exponentiële groei van rekenkracht in KI, voorspellingen over de slimheid van computers en de afhankelijkheid van KI-systemen van trainingsgegevens. Het benadrukt de noodzaak van verantwoordelijke ontwikkeling en het opstellen van ethische richtlijnen voor KI-systemen. De samenvatting eindigt met de suggestie om KI te benutten terwijl we menselijke waarden en controle behouden.
Was this response better or worse? hierna volgden keuze mogelijkheden.
ChatGPT versie 3
Samenvatting: Het artikel “KI of MI, waar ben je het meest bang voor?” stelt de vraag welke vorm van intelligentie, Kunstmatige Intelligentie (KI) of Menselijke Intelligentie (MI), de grootste zorg baart. Het artikel bespreekt de exponentiële groei van KI, voorspellingen dat computers slimmer worden dan mensen en de afhankelijkheid van KI-systemen van door mensen verstrekte gegevens. Het benadrukt de noodzaak van ethische richtlijnen en verantwoording bij de ontwikkeling van KI. Het concludeert dat zowel KI als MI uitdagingen met zich meebrengen, maar dat het belangrijk is om beide vormen van intelligentie verantwoordelijk en in balans te benaderen.
Hoe ervaar je nu het snelle resultaat van ChatGPT als samenvatter, Wim?
Ik moet kennelijk nog leren een betere AI-fluisteraar te worden zodat er betere resultaten uitrollen 🙂
Helemaal mee eens.
Duidelijk verhaal en het heeft bij mij wel wat denkwerk veroorzaakt
Je conclusie is helder. We zouden een knop moeten hebben om “de macht” uit te kunnen zetten. Maar wat is goed en slecht?
gerrit