De Groene Amsterdammer 35 (7 augustus 2014)
Het brein in een computer
Voor een miljard euro laat Europa een computersimulatie van het menselijk brein bouwen. De beloften zijn indrukwekkend, van genezing van alzheimer tot zelfdenkende computers. Maar er is ook veel kritiek. ‘Het is echte jongetjes-wetenschap.’
- Lees ook: Big Davids, small Goliaths (overig, English)
Zijn uitzicht valt een beetje tegen. Vanaf de derde verdieping kijkt Henry Markram, directeur van het Human Brain Project in Lausanne, recht tegen een lelijke universiteitsmuur aan. Niet te vergelijken met zijn medewerkers aan de andere kant van de gang, die over het Meer van Genève mogen staren tussen het programmeren van de supercomputers door.
Maar voor naar buiten staren heeft Markram toch geen tijd. Tot zijn grote verrassing werd hij vorig jaar ineens gebombardeerd tot belangrijkste neurowetenschapper van Europa. Zijn project werd uitgekozen voor een Europese subsidie van maar liefst 1 miljard euro. Een monstersubsidie, verspreid over tien jaar, waarmee hij zijn grote plan kan verwezenlijken: een simulatie bouwen van de menselijke hersenen, met de allersnelste supercomputers. Het gaat in totaal naar schatting 1,19 miljard euro kosten.
Drie dagen voor dit gesprek kwam er echter slecht nieuws. In een bikkelharde open brief verklaarden honderden collegawetenschappers dat ze het project te eenzijdig vinden. Bovendien vinden ze het management en de wetenschappelijke controle intransparant en roepen ze de EU op om het grondig door te lichten.
“Je komt op een mooi moment”, zegt Markram spottend, terwijl hij achterover in zijn stoel hangt. De officiële reactie vanuit Lausanne, die op de dag van dit gesprek uitgaat, is beleefd. Maar Markram zelf – warrig haar, overhemd in een spijkerbroek gestopt – is vol minachting. De brief is “schandalig”, de kritiek is “stompzinnig”, en wat hersenwetenschappers van het project begrijpen is van “kinderlijk” niveau.
Het gaat hard tegen hard, in de hersenwetenschappen. Zeker als er zoveel geld in het geding is.
De Israëlische wetenschapper Markram werd in 1962 in Zuid-Afrika geboren. Na een aantal wetenschappelijke omzwervingen kwam hij terecht in Zwitserland, in Lausanne. Het doel van zijn Human Brain Project, waar tientallen universiteiten en instituten aan deelnemen, is ambitieus: de hele manier van kennis vergaren in de hersenwetenschap moet op de schop.
Markram: “De ene wetenschapper ontdekt een genetische mutatie. De ander vindt uit hoe een gen correleert met een bepaalde gedragsverandering. Een collega in Australië ontdekt wat er gebeurt als een bepaald eiwit niet functioneert. En iemand in Amerika weet wat een medicijn doet met de informatiehuishouding. Maar niemand weet het van elkaar! Ieder jaar schrijven neurowetenschappers honderdduizend papers. Dat kost bij elkaar zeven miljard euro. Allemaal belastinggeld!” Maar de technologie om dit alles bij elkaar te brengen is er nu. “Met technologie kun je al die kennis integreren. We gaan kennis vergaren door data te koppelen die we al hebben. De hele wereld weet wat big data betekent. De hele wereld weet dat je kennis kunt vinden door patronen in grote databestanden te ontdekken. Behalve neurowetenschappers.”
MRI scan (BSIP / HH)
Het Human Brain Project gaat al deze kennis ontsluiten middels een aantal platforms, waar onderzoekers uit een bepaalde discipline aan werken. Eén daarvan richt zich bijvoorbeeld op medicijnen, een ander op lessen die het brein biedt voor robotica. Een derde platform, waar Markrams eigen mensen in Lausanne aan werken, en die ook het meest tot de verbeelding spreekt, is het Brain Simulation Platform. Dit moet een soort deeltjesversneller voor de hersenwetenschap worden, waar onderzoekers uit de hele wereld experimenten in kunnen uitvoeren. Nauwelijks nog dierproeven nodig, nauwelijks medicijnen op mensen testen. Je stopt het medicijn in de simulator en je kijkt wat er gebeurt. De eerste jaren zal het project zich vooral bezighouden met muizen- en rattenhersenen, omdat daar al veel meer onderzoek op verricht is. Vervolgens is het menselijke brein aan de beurt. In het Duitse Jülich wordt speciaal voor het project een supercomputer gebouwd, een zogenaamde exacomputer, die een miljard maal miljard berekeningen per seconde kan uitvoeren.
De Europese Commissie was zo enthousiast, dat het dit Human Brain Project aanwees als één van de twee officiële Flagship-projecten van het Future and Emerging Technology-programma. Dat zijn twee langdurige, grootschalige projecten waar de Unie extra veel geld voor wil vrijmaken om hoofdrolspeler te blijven in de technologische ontwikkeling. Het andere vlaggenschip van Europa is het onderzoek naar grafeen, een materiaal met bijzondere eigenschappen. De helft van het geld komt uit Brussel, de andere helft moeten lidstaten zelf gaan bijdragen.
Een miljard lijkt misschien een enorme investering voor één project, zegt Markram, maar het is eigenlijk een schijntje voor wat het gaat betekenen. “En het is helemaal niet eenzijdig of beperkt, het is juist het breedst mogelijke project dat je kunt verzinnen. Deze kritische wetenschappers denken dat dit project gewoon een subsidiemechanisme is voor een bepaald soort experimenteel onderzoek. Dat vind ik pas beperkt denken. Het is een compleet nieuwe technologie die ons in staat stelt om nieuwe kennis te halen uit alle onderzoeken die worden gedaan. Het is een tool.”
De vraag die Markram ten diepste drijft, zegt hij na enig aandringen, is het begrijpen van hoe perceptie werkt. “We construeren de wereld in ons hoofd. Hoe doet het brein dat? Hoe wordt het zich bewust van die perceptie? Dat is mijn grote vraag.” Maar er is geen enkel gezichtspunt dat voor iedereen bevredigende antwoorden heeft. “Het heeft geen zin om het maar van één kant te bekijken. Dat geeft niet het begrip dat we nodig hebben. Wat een psychiater doet, bevredigt een bioloog niet, en andersom. Ik wil het brein tot in zijn wortels begrijpen.” En dat kan alleen maar door het van nul af op te bouwen.
Onder de microscoop ligt een flinterdun plakje muizenbrein. De sciencefictionliefhebber denkt bij dit soort experimenten natuurlijk direct aan de Hitchhikers' Guide to the Galaxy van Douglas Adams. In deze doldwaze klassieker, oorspronkelijk een BBC-hoorspel, zijn muizen in werkelijkheid hyperintelligente wezens die met mensen experimenteren. De aarde is een supercomputer die het grote raadsel van het leven moet oplossen. Telkens als een paar muizen zich opofferen in onze laboratoria, dan doen ze dat om een rookgordijn op te trekken. Aldus Adams.
Welnu, intelligent zijn ze inderdaad, en ruim voorradig bovendien, en daarom worden ze hier in de echte wereld gebruikt om het HBP van empirische gegevens te voorzien. Het laboratorium bevindt zich een stukje verderop op de campus van de École Polytechnique Fédérale in Lausanne (EPFL). Het hoort bij het zogenaamde Blue Brain Project, dat een aantal jaar geleden door Markram zelf is opgezet. Het is een voorloper van het HBP en speelt er nog steeds een grote rol in.
Hersenen zijn veel te groot om cel voor cel in kaart te brengen. Daarom besloot Markram zich te richten op de neocortex ofwel de hersenschors, het hersengebied waar de hogere functies worden bestuurd. Cellen in de neocortex hebben veel meer verticale verbanden dan horizontale, met andere woorden, er is een soort kolomstructuur. De menselijke hersenschors bestaat ongeveer uit een miljoen kolommen. Met behulp van muizen- en rattenhersenen, die op fundamenteel niveau redelijk vergelijkbaar zijn met het mensenbrein, besloot hij één kolom, cel voor cel, helemaal na te bootsen in de computer.
Een paar onderzoekers zitten achter vier enorme breedbeeldschermen de eigenschappen te bestuderen die worden gemeten door een twaalftal minuscule elektrodes, in vlijmscherpe pipetjes. Die hebben ze met behulp van een Nintendo-achtige joystick exact tot aan de celwand van neuronen gebracht. Ze brengen kleine stroomstootjes toe en meten vervolgens wat er in naburige neuronen gebeurt. Door alles te volgen en te analyseren kunnen de onderzoekers allerlei karakteristieken van de hersencellen in kaart brengen. De hersencellen worden voorzien van voeding en zuurstof, zo blijven ze een aantal uren leven.
“Neuronen geven antwoord als we ze een elektrisch signaal geven”, vertelt Olivier Hagens, een Belgische postdoc die in het lab werkt. “Op basis daarvan kunnen we tientallen kenmerken afleiden. Het geeft ons een soort digitale vingerafdruk van de hersencel. Wat we ook doen, is een beetje cytoplasma opzuigen. Daar kunnen we uit opmaken welke genen actief zijn voor het functioneren van deze cel. Ten derde spuiten we een stofje in de cel dat we met een chemische reactie zichtbaar kunnen maken. Dat stelt ons in staat om het hele neuron ruimtelijk te reconstrueren, zowel het cellichaam als alle vertakkingen, plus de synapsen, dat zijn de knooppunten tussen alle vertakkingen.” Zo wordt een hele kolom minutieus in kaart gebracht, cel voor cel, tak voor tak, synaps voor synaps.
Af en toe kan Hagens met menselijke cellen werken. “Bij epilepsiepatiënten wordt soms een stukje ziek hersenweefsel weggesneden. Om daar te komen, moet ook een stukje gezond weefsel weg. Daar krijgen wij soms een stuk van, zoals afgelopen donderdag. Het blijft verrassend lang intact. Ik heb er van één uur 's middags tot half vijf 's ochtends mee kunnen werken.”
Op een goede dag brengt Hagens een stuk of tien cellen in kaart. Maar op het totaal van de tientallen miljarden neuronen in de menselijke hersenen is dat natuurlijk een lachertje. “En daarom zijn we vooral op zoek naar correlaties”, zegt Hagens. “Welke genen corresponderen met welke eigenschappen, en welke eigenschappen corresponderen met welke signalen. Zo kunnen we iets leren over de principes waarmee hersencellen werken. Het doel van het Human Brain Project is om deze principes te leren kennen en daar vervolgens simulaties van te maken. Hersenen zullen we waarschijnlijk nooit kunnen nabouwen, maar simuleren? Dat biedt perspectieven.”
Hagens is enthousiast over het HBP. “Ik ben na mijn PhD enkele jaren gestopt met onderzoek, uit frustratie. Ik bestudeerde de interactie tussen twee eiwitten, en er zijn misschien tien mensen die mijn verhaal hebben gelezen. Iedereen zit op een eilandje. Maar toen ik zag waar ze hier mee bezig waren, wist ik dat ik mee wilde doen. Ik weet niet of het kan, hersenen simuleren. Maar we moeten het in elk geval proberen.” Een systeem kan zichzelf niet begrijpen, denkt hij. “Met onze hersenen zullen we niet onze eigen hersenen kunnen bevatten en begrijpen. Maar misschien lukt dat wel als we alle hersenen van alle onderzoekers samen inzetten. Dat vormt tenslotte een netwerk dat intelligenter is dan het systeem dat we proberen te begrijpen. Het doel van een simulatie is om daarbij te helpen. Met de eerste versie kunnen we waarschijnlijk niet meteen het hele brein begrijpen. Maar misschien wel met versie tien.”
Maar een miljard euro is best veel geld voor een poging. En dat is precies waarom er zulke heftige kritiek klinkt. “Het is een megalomaan project”, zegt John van Opstal, hoogleraar biofysica aan het Donders Instituut in Nijmegen, in een telefonisch interview. Sommige collega's van hem in Nijmegen zijn wel betrokken bij het HBP, maar hijzelf heeft zijn naam onder de open brief gezet. “Ze zeggen in feite: stop maar met experimenteren, gooi gewoon alle data bij elkaar en dan heb je een model van een menselijk brein. Maar wanneer is het klaar? Wat is het criterium? Dat is er niet. En dan is het geen wetenschappelijke vraag. Ik zou worden weggehoond als ik dit zou indienen als voorstel voor een proefschrift.”
Het is echt niet nieuw, zegt hij, om een model van het brein te maken. “Ik maak ook modellen. Er ontbreekt alleen zó veel om realistisch te zijn. Het is gedoemd te mislukken, en daarom is het niet gek dat allerlei onderzoekers zich eruit terugtrekken. Ik begrijp absoluut niet waarom dit project gehonoreerd is. Het lijkt me meer het resultaat van politieke lobby. En omdat lidstaten zelf de helft van het geld moeten gaan bijdragen, gaat het dus uiteindelijk ten koste van ander, breder hersenonderzoek.”
De open brief kreeg in een paar dagen tijd honderden handtekeningen van wetenschappers. De woede ontstond toen een experimenteel deel van het project werd geschrapt, en werd omgezet in “projectpartner” die zelf aanvullende subsidie moest gaan zoeken. Van Opstal: “Neurowetenschap is enorm breed. Het bestaat uit theorie, uit gedragsonderzoek, uit farmacologie. Maar dit project gaat alleen over de theorie. Ze doen alsof het onderzoek ver genoeg is. En ze beloven dat je met een simulatie ziektes kan gaan oplossen. Dat is een valse belofte. De hersenen zijn veel te complex.”
“Te complex?”, zegt Markram fel, in zijn kantoor. “Hoe weet hij dat? Heeft hij daar een wiskundig bewijs voor? Of heeft zijn professor hem dat verteld? Dit zijn onderzoekers die alles weten van één deelgebied en dan tijdens een diner praten met onderzoekers die alles weten van één ander deelgebied, en dan concluderen ze maar dat het allemaal te complex is. Maar het is helemaal niet zo complex. Het is de omvang die enorm is. Maar de principes zijn niet ingewikkeld. We weten hoe neuronen verbonden zijn. We moeten er nu achterkomen hoe neuronen tussen verschillende hersengebieden communiceren. Als we dat soort principes nu ontdekken, en combineren met de data die we hebben, dan kunnen we daar voorspellingen op baseren. Begrijpen door voorspellende reconstructie, noemen we dat.”
Maar wanneer zou dat dan klaar zijn, een werkende simulatie van het brein? “Weer die vraag waar alle journalisten altijd mee komen”, zegt Markram. “Maar dan begrijp je het niet. Het brein simuleren is maar een target. Het gaat om de weg ernaartoe, om de technologie die je nodig hebt om er te komen.” Menselijke hersencellen hebben elk een paar duizend synapsen. Met miljarden cellen levert dat mogelijkheden op die op dit moment door de snelste computers nog niet te simuleren zijn. Door de allersnelste technologie aan te wenden, wil het HBP hier een doorbraak in bereiken. “Het is een puzzel, en die is veel interessanter dan het eindplaatje. Dat is wat al deze hersenwetenschappers niet begrijpen.”
Hersenonderzoek in Genève (Amelie-Benoist / BSIP / HH)
Dat werpt wel de vraag op: is het HBP niet gewoon een enorm IT-project in de gedaante van een hersenonderzoek? Inderdaad is innovatie op computergebied officieel wel een belangrijke doelstelling van het HBP, zegt Karlheinz Meier, hoogleraar experimentele natuurkunde aan de Universiteit van Heidelberg. Meier werkte vroeger bij het CERN, nu is hij co-directeur van het HBP en verantwoordelijk voor de hele computerkant van het project. Naast kennis over het brein moet het HBP vooral uitmonden in betere computers, door ze te gaan bouwen volgens een “neuromorfische architectuur”, zegt hij in een telefonisch gesprek.
“De structuur van de hersenen is heel bijzonder. Alle processen verlopen parallel, op basis van neuronen en hun vertakkingen. Een computer heeft dat niet. Als er een transistor kapot gaat, kun je de computer niet meer gebruiken. Als er in de hersenen cellen sterven, merk je daar niets van. Ten tweede leidt deze structuur tot een vermogen om zelf te leren. Vertakkingen breiden zichzelf uit.” Zo'n vermogen moeten we kunnen nabootsen, als we ooit robots willen maken die zelf taken moeten leren doen. “En ten derde, hersenen hebben bijna geen energie nodig. Ze kunnen de hele dag draaien op een broodkruimel. Als het ons lukt om deze architectuur in silicium te kunnen nabouwen, dan leidt dat tot enorme kansen.” Kortom, zegt Meier: “We willen het brein exploiteren voor computertechnologie.”
Het gaat dus om de tools, niet om het eindplaatje. Toch hebben Markram en de zijnen zelf flink met dit eindplaatje – een breinsimulatie – te koop gelopen om de handen op elkaar te krijgen voor deze tools. “Het is niet onmogelijk om een brein na te bouwen”, zei Markram een paar jaar geleden al in een Ted-talk. “Dat kunnen we binnen tien jaar.” En meer dan dat, het moet ook, “om verder te kunnen gaan als samenleving.” Een simulatie stelt ons eindelijk in staat om theorieën over bewustzijn en perceptie te toetsen, hield Markram zijn gehoor voor. Bovendien is het nodig om hersenziektes aan te pakken. “Twee miljard mensen lijden aan een hersenziekte. Hier moeten we een oplossing voor verzinnen.”
En dat is ook voor de EU een reden om het project zo veel geld te geven. “Een project kan een Flagship worden als het impact gaat opleveren voor de maatschappij”, legt Daniel Pasini van de Europese Commissie telefonisch uit. “Dat komt vooral neer op het beter begrijpen van hersenziektes. Daar besteden we in Europa jaarlijks 800 miljard euro aan. Het Human Brain Project kan de farmaceutische industrie bijvoorbeeld helpen om betere medicijnen te ontwikkelen.”
Maar 'impact' is voor de afdeling Flagships wel iets meer dan alleen volksgezondheid. Het doel van deze pot geld is officieel: grootschalige innovaties mogelijk maken die nuttig zijn voor de maatschappij en voor de industrie. Kortom, wetenschap voor economische groei. Daarom benadrukt het HBP in haar voorstel uitgebreid de vruchten die de farmaceutische en computerindustrie in Europa gaan plukken van twee van de drie hoofddoelstellingen: betere computers, en betere medicijnen.
Dat zijn nogal verwachtingen. Wat opvalt aan het voorstel is een stevig geloof in maakbaarheid. Het gaat over kennen, weten, oplossen, nut. Als het gaat om ziektes, belooft het te zoeken naar de 'biologische' fundamenten van hersenaandoeningen zodat ze op exacte wijze geclassificeerd en behandeld kunnen worden. Het spiegelt zelfs een wereld voor waar medicijnen veel sneller kunnen worden ontwikkeld, met veel minder experimenten op dieren en mensen, omdat ze digitaal kunnen worden uitgeprobeerd. En dat zou de ontdekking van nieuwe behandelingen en medicijnen alleen maar goedkoper maken. “De eerste technieken om Alzheimer en andere hersenaandoeningen te kunnen vaststellen, zijn al na drie tot vijf jaar beschikbaar”, voorspellen de wetenschappers. En dan is 100 miljoen euro per jaar helemaal niet zo veel geld.
Dit soort grote beloften zien we heel vaak in de wetenschap, schrijft Trudy Dehue, hoogleraar wetenschapstheorie en wetenschapsgeschiedenis in Groningen, in haar nieuwe boek Betere mensen. Over gezondheid als keuze en koopwaar. Voor een deel is dat noodgedwongen, om te steun te verkrijgen van subsidiegevers en het grote publiek, legt ze in een email uit. “In de VS steekt de regering-Obama bijvoorbeeld miljarden in het project-BRAIN, dat de hersenen in kaart wil brengen. Aanvankelijk ging het daarbij om de hersenen van de rondworm, de fruitvlieg, de zebravis, en over vijftien jaar de neocortex van de muis, schrijft Dehue. Na overleg met overheidsambtenaren werd het onderzoeksvoorstel uitgebreid naar de hersenen van de mens, en met de aankondiging van grote medische en economische zegeningen. Door ethische vraagstukken aan te stippen in het plan, zoals een serieus debat over gedachtecontrole, worden de verwachtingen alleen nog maar hoger.” Ook het HBP-plan bespreekt het belang van zulke ethische reflectie. Zelflerende computers, staat er bijvoorbeeld, zullen een grote rol spelen in de ontwikkeling van autonome wapensystemen, zoals drones die zelf kunnen beslissen of ze moeten schieten. Daar moeten we volgens het HBP dus over debatteren.
“Het HBP-project is naar mijn indruk eigenlijk vooral door nieuwsgierigheid gedreven” emailt Dehue. “Het is oneerbiedig gezegd echte jongetjes-wetenschap.” Daar is op zich niks mis mee, maar daar moet je wel bij mogen vragen of het geld niet beter te besteden is. “Als antwoord daarop komt steevast de mogelijke genezing van ziektes, zoals alzheimer of schizofrenie. Dan kúnnen anderen de vraag naar het nut ervan haast niet meer stellen.”
En de 800 miljard per jaar die we aan hersenziekten in Europa kwijt zijn? “Laakbare nonsens”, aldus Dehue. “De European Brain Council, een lobby-organisatie van wetenschappers en farmaceutische bedrijven, is meestal de bron van dergelijke cijfers. Als je kijkt wat de ECB als hersenziekte telt, dan blijkt ook drugsgebruik of somberheid hieronder te vallen. Niet alleen het aantal mensen dat hieraan lijdt is moeilijk te schatten, maar de kosten ervan al helemaal. “Hoe bereken je ooit wat het kost dat je medewerker niet elke dag fluitend naar zijn werk gaat? Dit soort berekeningen barsten van de aannames.”
Volgens Dehue worden de hersenen steeds meer als de nieuwe grondstof van de economie beschouwd. Het brein wordt ingezet voor economische groei. Allemaal met het oog op een betere maatschappij uiteraard. “Maar dan wel heel apolitiek. We zouden evengoed naar vooruitgang kunnen streven door het milieu of werkomstandigheden te verbeteren, of kinderen op school de ruimte te geven om verschillend te zijn. In plaats daarvan kiezen hedendaagse marktmaatschappijen ervoor om individuen te optimaliseren.” Want de nadruk op gezonde hersenen draagt met zich mee een bepaald beeld van wat gezond is, en hoe mensen zich kunnen verbeteren. “Alleen al het definiëren van problemen als hersenziekte, baant de weg voor het sleutelen aan hersenen. Daar zijn in de toekomst niet alleen medicijnen, maar ook apparaten en implantaten voor beschikbaar.”
Verbonden aan het geloof in maakbaarheid is ook het geloof in kenbaarheid van het brein. Het is een van de drie hoofddoelstellingen van het HBP: meer kennis over het brein, leren hoe het werkt, wat bewustzijn is en “wat het betekent om mens te zijn”. De modellen die we hebben over percepte en cognitie zullen we kunnen toetsen in de breinsimulator, belooft Markram. Maar is het brein – laat staan de mens – te vangen in wiskunde? Sterker nog: kun je aantonen dat dit zo is, en dat emoties en intelligentie puur materieel zijn, met een simulator die alleen wiskunde ziet? Het project lijkt a priori aan te nemen dat het brein puur een informatiemachine is.
“Het brein ís ook een informatiemachine”, zegt Markram, in zijn kantoor. “Alleen een ingewikkelde informatiemachine, met heel veel niveaus. We weten niet op welk niveau we het moeten bestuderen. Daarom moeten we het simuleren. Het kan. We begrijpen steeds beter hoe de informatiemachine werkt. We bestuderen de principes, en het wordt steeds minder complex.”
Terug naar de Hitchhikers' Guide to the Galaxy. De eerste supercomputer die de muizen bouwden, was Deep Thought. Die had als opdracht achter het Antwoord op de Uiteindelijke Vraag naar het Leven, het Universum en Alles te komen. Na miljoenen jaren rekenen kwam het eruit. Het was 42. Alleen wat de Uiteindelijke Vraag dan precies was, dat kon Deep Thought niet vertellen. Om dat vervolgens uit te zoeken moest de aarde worden gebouwd. Dit laat mooi zien dat wiskundige data op zichzelf niet zo veel betekenen. Er zijn altijd visies, theorieën, paradigma's en verhalen nodig om er kaas van te maken.
Maar wellicht heeft Markram gelijk en is het brein te kennen. Dat weten we als we tien jaar en een miljard euro verder zijn.
Dit artikel is deel van een serie over digitale ontwikkelingen, mede mogelijk gemaakt door het Fonds Bijzondere Journalistieke Projecten
Gerelateerde artikelen
- De Bruderhof (1) - Een dorp zonder geld (Karavaan der Zotten)
- De toekomst is van kurk (De Groene Amsterdammer)
- De grote kolonisatie (De Groene Amsterdammer)
- Circulaire zonnepanelen uit Nederland (De Groene Amsterdammer)
- Tegeltuinen, Jacques Ellul en de invloed van techniek (podcasts)
Gebruikte Tags: economie, europa, techniek, wetenschap