25 February 2018

Eigen (on)aardigheden van Kurzweil.

Ieder mens heeft zijn eigen aardigheden en onaardigheden natuurlijk.Die eigen aard van de mens (Singularity)staat centraal en ter discussie  in de theorie van Ray Kurzweil die gister wintergast was bij de vpro. Zoals science fiction zijn succes (tov echte wetenschap) als voorspeller te danken heeft aan  1 centraal thema: de miniaturisering, zo staat bij Kurzweil de exponentiele groei van informatietechnologie en daarmee van de mogelijkheden van de mens  centraal. Maar dit leidt ook tot verandering in de eigen aard van de mens: hij gaat vergroeien met computers en machines tot een wezen dat meer kan. Maar wat is meer?

Het was natuurlijk een mooi programma, maar het viel me toch tegen. In de eerste plaats omdat komiek(zo noemde hij zichzelf; als excuus?) Heertje als interviewer teveel opkeek (zelfs letterlijk)tegen zijn “geniale” gast   In de tweede plaats echter omdat Kurzweil weinig toevoegde aan zijn boek van, alweer,  5 jaar geleden. Kennelijk zijn wij nu rustig zijn paden aan het afwandelen en is hij zijn gelijk aan het binnen halen. Ook op www.singularity.com heerst de rust van de extrapolatie. De filosofische en politiek-maatschappelijke gevolgen van zijn gelijk doet hij mij te makkelijk af en Heertje vroeg daar te weinig op door.

In de geschiedenis van de ontwikkeling van kunstmatige intelligentie is juist de vraag naar het waarom en de beheersing essentieel.

Turing schrok al terug voor de gevolgen, maar Weizenbaum maakte het wel heel pregnant in de titel van het laatste hoofdstuk van zijn “Computer power and human reason” (nog steeds het beste boek terzake) : “Against the imperialism of instrumental reason”. Hij eindigt dat hoofdstuk en dus het boek met de vraag : “What could it mean to speak of risk, courage, trust, endurance, and overcoming when one speaks of machines?”

Bij de Wintergast Kurzweil kwam ook menselijke trekjes als moed  en liefde ,nog wel aan de orde maar alsof ze aan de hoofdlijn van de ontwikkelingen niks af zouden doen, opgevreten zouden worden door de “blob” van de technologie.

Het middel heiligt de doelen, lijkt hij te suggereren. En het is dan ook wat makkelijk om de Unabomber en McKibben op 1 hoop te vegen als tegenstanders van technologie vanwege de nare effecten. McKibben heeft wel degelijk constructieve voorstellen gedaan om de technologie te sturen. Want dat is wat Kurzweil lijkt over te slaan: wil je de technologie nog sturen of heb je het opgegeven? De technologische gevaren van op hol slaande ontwikkelingen of losse gekken voorkom je niet met wat technische hulpmiddelen (guidelines, rapid response systeem etc.): we hebben een versterkte democratie nodig.

Je moet de mens , al dan niet vergroeid met een machine, toch naar zijn eigen, individuele aard kunnen laten kiezen? En ook al zal de keuze van heel veel mensen hem (en mij) niet bevallen, het is principieel onjuist de technologie voldongen feiten te laten creeren.

In zijn boek (blz 470 ev) gaat Kurzweil in op dergelijke kritiek onder de kopjes “likelyhood of government regulation” en “unbearable slowness of social institutions”. Hij geeft echter aleen maar voorbeelden dat technolgie nu eenmaal de neiging heeft zich om vertragende instituties en regels heen te werken(473).Jammer dat hij zijn inzichten en creativiteit niet los laat op wijze van meningsvorming en besluitvorming die we nodig hebben om het gelijk dat hij aan het halen is te besturen.alleen maar zeggen dat de technolgie voor iedereen beschikbaar zal komen niet alleen voor de rijken en dat het voor de rest een kwestie is van debateren over de wenselijkheden, is natuurlijk te simpel, helemaal als je er aan toevoegt: “it’s easy to predict who will win, since those withe enhanced intelligence will be far better debaters”.(blz 472)

In Mensenarm Dierenrijk vraag Brandt Corstius zich ook af of onze uitvindingen binnen of buiten het lijf moeten (blz 118) en net als Kurzweil gaat hij ervan uit dat we de technologie zullen integreren       ( “de mobiele telefoon zal binnenkort in ons oor gesoldeerd worden”). Maar in plaats van een mensmachine combinatie voorziet hij een overgang van” mensen die elkaar kunnen aanraken naar internetmensen die met elkaar kunnen communiceren”, mensen zonder lichaam. Ook bij hem geen ideeen over de manier waarop we ons met ons allen moeten organiseren en besluiten moeten vormen.

Net als bij alle science fiction is de kans groot dat ze gelijk krijgen, maar dan krijgen we ook de democratie en het imperialisme dat  we verdienen: een technocratie. En helaas zijn die meestal net zo dictatoriaal en imperialistisch als de Mekon van Daan Durf : een en al brein maar geen hersens!

mekon

Baas over je eigen avatar!

Onverkrijgbarium, zo heet het zeldzame metaal waarover oorlog gevoerd wordt in Avatar , de science fiction film van James Cameron (bekend van Terminator en Titanic) in drie dimensies.Onvoorstelbaar wat hij voor elkaar weet te krijgen en hoe hij zijn persoonlijke stempel op een film weet te drukken. (Zie http://www.newyorker.com/reporting/2009/10/26/091026fa_fact_goodyear )

Aan de ene kant erg ouderwets: het verhaal is de zoveelste variant op aloude mythen en sprookjes, aan de andere kant erg modern. Er zijn speciale camera’s voor gemaakt en de film is mede daardoor de duurste ooit. Niet de minste in de filmwereld (Katzenberg van Dreamworks) verwacht dat er de derde revolutie in de filmwereld (na geluid en kleur) mee wordt ingeluid.

De meeste “fantasie” is niet meer dan het navertellen (“they pissed us off without even having the courtesy to call it rain”) en becommentarieren van de bestaande wereld (de verlamde hoofdpersoon krijgt te horen dat hij geopereerd zou kunnen worden maar dat je dat van een veteraan-uitkering niet kunt betalen).

Recensies genoeg, deze vond ik mooi; maar ik wil er hier wat anders uit pikken.

Sinds mijn vader in 1953 uit Amerika een Viewmaster mee nam is de 3D-technologie zover dat je het verschil tussen echte en geanimeerde mensen en situaties bijna niet meer voelt.

Wat mij betreft een prachtige ervaring en een reden om weer vaker naar de bioscoop te gaan en science-fiction hernieuwde aandacht te geven. Waarom was  SF ook alweer zo leuk?

Je kunt er letterlijk even bijkomen in een andere wereld en bij terugkeer kun je je eigen wereld weer wat relativeren. En als het meezit kom je op doorbrekende ideeen.

Niet alleen zijn veel SF ideeen via de echte wetenschap werkelijkheid geworden, maar ik herinner me ook een onderzoek waarin SF het qua voorspellend vermogen glansrijk won. De belangrijkste verklarende factor voor het laatste was overigens de miniaturisering. Toen wetenschappers daar nog niks in zagen was het in de SF-literatuur al erg belangrijk om allerlei technologie op mini-formaat onder handbereik te hebben. En hoe belangrijk was de fantasie, het verhaal in het ontstaan van al de micro-technologie die ons nu omringt? Wat was de kip en wat het ei?

Ik zie in de film Avatar ( oorspronkelijk een god die als mens op aarde verschijnt, later via Second Life en Wi jouw dubbelganger/ plaatsvervanger in een virtuele omgeving) ook zo’n doorbrekende trend verbeeld: we zullen steeds meer met “virtuele dubbelgangers” te maken krijgen. We maken ze zelf (profielen etc) of krijgen ze opgedrongen ( cookies, persoonsgebonden budgetten etc) of raken ze kwijt (identiteitsfraude!).

In de film wordt het je verplaatsen in een avatar positief, als een vooruitgang , of neutraal, als iets onvermijdelijks, gepresenteerd. Maar ook als iets wat makkelijk door kwade krachten tegen je gebruikt kan worden.

De boodschap is dat we ons maar beter  kunnen voorbereiden op een wereld waarin we onze persoonsgegevens, de bouwstenen van onze “avatars” moeten kunnen beheren. Zelf je profiel maken en sturen of via je profiel gestuurd worden: dat is de vraag. Baas over eigen avatar!

Waar deden we het ook al weer voor?

In drie indruk wekkende boeken republiek der verenigde nederlanden en de”radikale verlichting” beschrijft Jonathan Israel de intellectuele voorgeschiedenis van de franse en amerikaanse revoluties. Ook altijd leuk om te lezen dat de nederlandse republiek daar zo’n cruciale rol in heeft gespeeld, al was het maar door gastvrij te zijn voor Spinoza en ruim baan te geven aan uitgevers en drukkers van allerlei grens-verleggende publikaties.

Maar hoe vat je die drieduizend bladzijden samen, welke van de grote lijnen wil je vast houden?

Gelukkig helpt Israel ons nu een handje met de publikatie van “A Revolution of the Mind; Radical Enlightenment and the intellectual  origins of modern democracy”. Een handleiding achteraf van de kern van zijn analyses.

De ondertitel geeft al direct aan waar het om gaat: wat zijn eigenlijk de wortels van onze democratische waarden en wat kunnen we leren van de historische context waarin deze zich hebben ontwikkeld?

Voor de ontwikkeling van Informatiebeleid een belangrijke vraag omdat informatie en de informatietechnologie van dat moment voorwaardelijk zijn geweest voor het ontstaan van een geheel van principes dat Israel “radical enlightenment”noemt en samenvat(blz viii) als : ”democracy; racial and sexual equality; individual liberty of lifestyle; full freedomof thought, expression and the press; eradication of religious authority from the legislative process and education; and full separation of church and state”.

Israel verbaast zich er over (blz 224) dat de “prevailing view  about the french revolution not being caused by books and ideas in the first place” zo wijd verbreid is , maar acht haar onverdedigbaar: er was eerst een “revolution of the mind” before the” revolution of the fact” (blz 228)

Het lijkt me dat beide onmisbaar waren, de intellectuele bewustwording en expressie waren de lont in een kruitvat. Zitten wij  nu ook op zo’n kruidvat en is internet de nieuwe lont? Wie naar de rol van facebook, twitter etc kijkt in China, Irak etc zou het kunnen denken en hopen.

Als ik over de rol van informatie en technologie in die tijd lees (zie de boeken en essays van Robert Darnton[i])

raak ik  onder de indruk van de prestaties van bijvoorbeeld Diderot bij het maken, uitgeven en distribueren van de Encyclopedie. Ik vraag me ook af of er een analogie is tussen die tijd , waarin men het totale aanbod aan informatie probeerde te vangen in één naslagwerk, en onze tijd waarin dat aanbod overmatig volledig lijkt. Toen was er een revolutie van het aanbod, dankzij de technologie van dat moment, nu hebben we een revolutie van de vraag nodig, met de technolgie van nu.. En waarom ook al weer?

Israel (blz x): “the general reading, debating and voting public need some awareness of the tremendous difficulty, struggle, and cost involved in propagating our core ideas in the face of ..ïdelogies,..elites, ..popular movements.. that combated egalitarian and democratic values from the mid 17th century down to the crushing of Nazism, the supreme counter-enlightement, in 1945” en (blz xi): “It is perhaps this global dimension above all that lends the history of radical thought its continuing relevance in our time. Democratic, secular, and egalitarian ideasdismally failed to be accepted or officially sponsored in many new countries…” en (blz xiii) “More recently, among the foremost challenges to radical enlightenment principles and one particularly threatening to modern society, was the modish multiculturalism infused with postmodernism….that deemed all traditions and sets of values more or less equally valid, categorically denying the idea of a universal system of higher values…”.


[i] Zie zijn : The business of Enlightenment; A publishing History of the Encyclopedie, 1775-1800 maar ook zijn recente essays in the NewYork Review of books over Google Books.

Op de automatische piloot

Piloten zijn verwend geraakt door hun “digitale dubbelganger” : de automatische piloot, aldus de New York Times.

Een boeiend verhaal omdat het natuurlijk ook een metafoor is voor de manier waarop wij onszelf in slaap zouden kunnen sussen door te vanzelfsprekend te vertrouwen op onze digitale hulpmiddelen.

Je denkt dat je je afspraak goed in je elektronische agenda hebt gezet en dat je een waarschuwing krijgt, maar je was een bepaald instellinkje toch vergeten. Je dacht dat je een electronische uitnodiging had aanvaard, maar plotseling word je gebeld: waar of je blijft?

En dat is dan nog maar het persoonlijke niveau. Wat moeten we verwachten als we onze bedrijfssystemen gaan opdragen bepaalde handelingen “automatisch” te verrichten en dat gaat vaak zo goed dat we niet meer in de gaten hebben dat er iets is mis gegaan?

Wat kunnen we leren van de piloten , die qua automatisering ook voorlopers zijn?

In het artikel beschrijft de auteur, een ervaren ex-piloot hoe het werk van de piloot in de loop der decennia steeds minder is gaan voorstellen. Hij verklaart daaruit de blunder van de piloten van NorthWest Airlines die hun landingsplek met maar liefst 150 mijl voorbij schoten omdat ze geheel op waren gegaan in hun laptops waarmee ze het nieuwe dienstrooster aan het opstellen waren.

Weliswaar is vliegen een stuk veiliger geworden door de automatisering, GPS en wat niet al, maar is de menselijke  rol daar wel op aangepast?

We doen nog steeds alsof we alles zelf doen en hebben onze rol niet terug gebracht dan wel opgekrikt naar het niveau dat bij de nieuwe situatie hoort.

Iedereen kent het verhaal dat er in Engeland nog jaren stokers mee reden op electrische treinen. Dat zou door de vakbonden afgedwongen zijn, maar misschien had het ook alles te maken met het feit dat het moeilijk is te erkennen dat je een bepaalde betrekking en bijbehorende status eigenlijk gewoon kwijt bent.

In zijn hilarische boek over het eerste amerikaanse astronauten programma “The Right Stuff”     

beschrijft Tom Wolfe in hoofdstuk 8 de confrontatie tussen de ingenieurs en de astronauten over de vraag of er een raam in de ruimtecapsule moet. Bovendien willen de astronauten zelf een luik open kunnen doen na de landing terug op aarde, want dat zijn ze zo gewend van hun straaljagers. Onzin zeggen de ingenieurs: dat is allemaal maar slecht voor de veiligheid en de astronauten moeten niet denken dat ze zijn ingehuurd om te vliegen. Een van de astronauten constateert dan dat ze niet meer zijn dan “college trained chimpanzees” en eigenlijk moet iedereen dat beamen. Om redenen van public relations kwamen de voorzieningen er natuurlijk toch.

De les die we eruit moeten terkken is dat we veel explicieter de nieuwe rollen en verantwoordelijkheden moeten definieren als we een (ver)nieuw(d) systeem in gebruik hebben genomen. En status overwegingen moeten daarbij gewoon besproken kunnen worden.

De menselijke tussenkomst hoeft er immers niet minder waard om te worden, integendeel, misschien minder maar wel van hogere kwaliteit. Het kan zijn dat daar andere mensen voor moeten komen, maar het kan natuurlijk ook heel goed een basis zijn om mensen bij te scholen en hoger te waarderen.

Vandaar ook de conlusie van de schrijver: “Maar de beste veiligheidsgarantie blijft toch de piloot die ergens diep van binnen, los van het vliegtuig, “weet” dat er iets kan falen en waar de kwetsbaarheden kunnen zitten. Geen systeem kan ooit die menselijke intuitie vervangen.”

Zonder grootschaligheid geen schaalbaarheid

Google zowel als IBM en vervolgens ook de National Science Foundation stellen Universiteiten en studenten in staat om groot te denken (Lees hier verder).
Het is nu vaak te benepen terwijl wetenschap en de praktische toepassingen ervan het vooral zullen moeten hebben van grote gedachten: “Science these days has basically turned into a data management problem” aldus een professor uit Maryland.

Het is duidelijk : de “cloud” komt eraan en de krabbers moeten er klaar voor zijn.
of, om het met fedraal CIO te zeggen : alles wat we de komende jaren oeten doen moet schaalbaar zijn: zonder schaalbaarheid geen succes!