Artificiële intelligentie

In de blog: Wereldvreemd reacties: 67 pdf print

Als je de menselijke hersenen zou kunnen nabouwen in elektronische vorm, begrijp je dan hoe menselijke intelligentie werkt?

We weten dat de menselijke hersenen uit zo'n honderd miljard neuronen bestaan. We weten welke soorten neuronen er zijn, en hoe die neuronen werken. We weten ook uit welke delen de hersenen bestaan. De werking van een neuron kan elektronisch gesimuleerd worden. Het is niet ondenkbaar dat we ooit in staat zullen zijn kunstmatige mensenhersenen te bouwen uit elektronische componenten, al zal dat nog niet meevallen vanwege de complexiteit van de respons van die neuronen op een prikkeling en vanwege het grote aantal neuronen en de connecties daar tussen. Maar als het lukt, is het niet ondenkbaar dat die kunstmatige hersenen zich net zo zullen gedragen als biologische hersenen. Voorzien van een input- en outputmedium zullen ze waarschijnlijk slagen voor de Turing test. Maar begrijpen we dan hoe menselijke intelligentie werkt?

Is iets begrijpen het zelfde als het kunnen nabouwen? Zo nee, wat houdt dat begrijpen dan in? En wat zegt dat over menselijke intelligentie? Stel dat we over zo'n elektronisch netwerk zouden kunnen beschikken, zouden we dan dingen die we tot die intelligentie rekenen als ons iets voorstellen, iets beredeneren, iets plannen, op de een of andere manier in dat netwerk kunnen terugvinden? Ik denk van niet, zelfs niet als we de werking van ieder afzonderlijk neuron kunnen inspecteren. We zien nergens codes als in een computer, alleen maar impulsen. Maar dat voorstellen, redeneren, plannen en berekenen zijn nou juist de dingen die we willen gebruiken om intelligentie te doorgronden. We willen een redenering kunnen opzetten die begint met de werking van neuronen, die uit logische stappen bestaat, en die uiteindelijk duidelijk maakt wat intelligentie is en hoe dat netwerk van neuronen die tot stand kan brengen. Op basis van de werking van al die neuronen bij elkaar willen we het IQ ervan kunnen uitrekenen. Maar het enige dat neuronen doen is impulsen afgeven als ze door impulsen worden geprikkeld.

De manier waarop wij doorgaans naar intelligentie kijken is niet vanuit het neuron, maar vanuit de persoon. We beoordelen iemand als intelligent als die regelmatig verstandige dingen zegt en vaak goede oplossingen voor problemen bedenkt. En we zien onze eigen intelligentie als voortkomend uit een of meer homunculi, ingebouwde persoontjes die dat voorstellen, redeneren, plannen en rekenen voor hun rekening nemen. Een intelligent persoon kan ons informatie verschaffen. Een intelligent persoon kan ons tot nieuwe inzichten brengen. Ook onze eigen homunculi kunnen dat. Maar alleen personen wisselen informatie uit. Informatie is niet iets dat een rol speelt voor neuronen. Zo'n homunculus lost niet het probleem van de intelligentie op. Hij verplaatst het probleem alleen. Want hoe komt zo'n homunculus dan aan zijn intelligentie?

Het is dus denkbaar dat we een kunstmatige intelligentie zouden kunnen bouwen zonder die te begrijpen. Begrijpen is zich mentaal iets toe-eigenen. Iets begrijpen is het vertalen in onze termen, in termen van oorzaak en gevolg, van deel en geheel, van type en object. We willen redenen kunnen aanvoeren voor wat er gebeurt, we willen drijfveren, doelstellingen en constructiemethoden kunnen onderscheiden. Begrijpen bedient zich van zich iets kunnen voorstellen, iets kunnen beredeneren, iets kunnen berekenen. En het bouwen van een netwerk van elektronische neuronen brengt ons niet verder in de richting van het begrijpen van intelligentie, hoe intelligent dat netwerk zich mogelijk ook gedraagt.

Maar is er dan niet ergens een blauwdruk, een schema, een collectie principes waarin is vastgelegd hoe onze hersenen doen wat ze doen? Want blauwdrukken, schema's en principes zijn de manieren waarop wij onze plannen vastleggen als we iets ontwerpen. Hersenen zijn echter niet ontworpen. Ze zijn ontstaan in een lang proces van trial and error, waarbij telkens kleine verbeteringen werden geselecteerd, een proces dat mogelijk nog steeds doorgaat. Maar bij dit proces is er niet een instantie die plannen maakt en oordelen velt. Er is nergens een blauwdruk van onze hersenen. De wijze van functioneren ervan ligt enkel vast in de structuur van die hersenen zelf.

Lange tijd hebben mensen ook zo gewerkt. Ze leerden door trial and error gewassen te verbeteren, wolven te temmen en te fokken tot hondenrassen, eten te bereiden, en kleren, gereedschap, wapens en voertuigen te maken. En de enige resultaten van die activiteiten waren de producten ervan, geen beschrijvingen, geen handleidingen. De zo verworven vaardigheden werden dan overgedragen van vader op zoon, van moeder op dochter. Maar sinds het ontstaan van de wetenschap willen we de dingen kunnen verklaren, en dat betekent dat er een handleiding van moet komen, een verhaal waarin wordt verteld wat het is en hoe het werkt. En dat verhaal moet zijn geformuleerd in onze termen. Er moeten blauwdrukken, schema's en collecties van principes komen, alsof wij zelf voor het ontwerp van die dingen verantwoordelijk zijn. We willen de wereld verstaan in de zelfde termen als waarin we onze techniek verstaan, ook al verstaat die wereld zichzelf niet zo.

Hoe komt het dat mensen zo wereldvreemd zijn? Hoe komt het dat ze een eigen manier hebben van begrijpen, van bedenken en van construeren, een manier die botst met de gang van zaken in de natuur? Hoe komt het dat ze, in plaats van mee te werken, die natuur juist tegenwerken en daardoor hun eigen voortbestaan in de waagschaal stellen?


Reacties (67)

   

dag
Ooit eens gelezen dat onze hersenen met al hun impulsen en verbindingen de omvang hebben van het volledig elektrisch netwerk van het continent 'Afrika'...

Zoals ge al weet ga ik van een andere standpunt uit: de mens was al van in het beginne verstandig genoeg, meer zelfs ik denk zelfs dat ze hun hersenen beter konden gebruiken. Het enige verschil met vandaag is, dat we onze kennis opbouwen van onze vaderen: de kennis wordt doorgegeven en wij 'verbeteren' het; zoals u zelf beschrijft.
U schrijft dat 'we' een eigen manier hebben van begrijpen , bedenken en construeren, een manier die botst met de gang van zakens in de natuur. Daar ben ik niet mee eens. Al hetgeen we construeren is maar een 'flauwe' afgietsel wat we in de natuur kunnen vinden. Een vlieg bezit meer 'elektronica' aan boord dan de modernste helicopter.
Groetjes
Pauls

   

Het beste principe om hersenen na te bouwen lijkt me te vertrekken van een 'leermachine' die in staat is zelf nieuwe verbindingen aan te gaan. Men is in elk geval er mee bezig in The Human Brain project na het binnenslepen van een miljard euro subsidie van de Europese commissie. En mensen zijn niet wereldvreemder dan andere organismen als je dit kadert in de evolutie.

   

Als je onze hersenen neuron voor neuron zou kunnen nabouwen, begrijp je dan wat intelligentie is?

   

jammer van het geld....

   

De gedachte dat intelligentie zetelt in de hersenen en niet in het gehele wezen lijkt me verouderd, of zou snel verouderd moeten zijn.

Aan een mier, een kat of een mens is weinig wat niet dient om op de beste manier te overleven. Hersenen zijn een orgaan net zoals een lever of een long een orgaan zijn. Elk orgaan heeft een deelfunctie.

Ons hele wezen is erop gericht gegevens te verzamelen, keuzes te maken, acties te ondernemen, allemaal om voort te bestaan. Dat is net wat intelligentie is.

Anders gezegd, als je de intelligentie van een dier wil kennen, koop dan een verrekijker in plaats van een hersenscanner, en ga er mee onder een boom zitten (met de verrekijker bedoek ik.)

Verder hoor ik al 50 jaar over dure projecten die het brein bijna aan het begrijpen zijn. De titel van het "Human Brain Project" verraadt al de ongewettigde overmoed (en oversubsidiering.)

Ik gok erop dat ook dit project zal leiden tot "on-the-brink-of" rapporten.

   

Beste Siger,

"Ons hele wezen is erop gericht gegevens te verzamelen, keuzes te maken, acties te ondernemen, allemaal om voort te bestaan. Dat is net wat intelligentie is." Maar wat we doen is boeken schrijven, films draaien en muziek maken. Is dat niet wat intelligentie is? Onze hersenen verbruiken 20 % van de totale energie van het lichaam. Dan moeten ze toch wel een belangrijke rol spelen, zou je zeggen.

Maar goed, mijn stukje ging niet over waar hersenen voor zijn, maar over hoe wij mensen denken. Over wat "begrijpen" inhoudt. Jammer dat dat door niemand wordt opgepikt.

   

Sorry voor het misverstand, Kweetal, maar je tekst behandelt wel veel verschillende gedachten en bevat meer dan één vraagteken!

Ik ga eens opnieuw lezen met "begrijpen" als centraal thema.
Begrijpen als metafoor voor "grijpen", een gedachte tot je nemen.
Niet eenvoudig....

   

-'Artificiële intelligentie' is net zoals men domino-stenen in bepaalde richtingen opstelt en nadien met een tik van onze hand op allerlei wijzen doet neervallen
-Natuurlijke intelligentie heeft naast deze 'hand 'ook een inwendige 'kracht', die evenzo tot actie kan over gaan .
-Er is ook de werkzaamheid van het 'innere der dingen' zelf ... -Valère De Brabandere-

   

Stel eens dat het 'lukt' om die machine te maken dat onze hersenen heel goed benadert. Toch voel ik aan als die machine aan mij zou zeggen: 'ik hou van je', toch van een heel andere dimensie zal zijn dan wanneer mijn vrouw dit zegt. Zo is ook voor mij het 'begrijpen' enkel weggelegd voor mensen, die machine zal wel niet verder gaan dan wiskundig berekeningen te maken maar begrijpen is voor mensen weggelegd. En waarom we 'begrijpen' en waarom we 'lief hebben', is gewoon dat 'in de beginne' HET ons gegeven heeft. Geen enkel oersoepplons is in staat om dit te doen. Het is en het zal een mysterie blijven
Groetjes
Pauls

   

Beste Stefan, Valère, Pauls en anderen,

Jullie opvattingen zijn voor mij totaal niet interessant. Voordat je nu meteen een venijnige reactie gaat typen, lees even door.
Waarom zijn jullie reacties niet interessant? Omdat die van de vorm zijn "Ik vind dat ..." en jullie het daar bij laten. Ik ken jullie niet. Ik weet niet wat jullie wel en niet weten. Ik weet niet wat jullie achtergrond is, educatief en ideologisch. In ieder geval niet voldoende om jullie reacties in een kader te plaatsen. Het is enkel een opmerking van een mij onbekende persoon, dus wat moet ik ermee?
Wil je dat ik op jullie opmerkingen reageer, geef dan argumenten voor wat je beweert. Wat zijn de redenen dat jullie opvatting wel eens waar zou kunnen zijn? Dat jullie die hebben, is op zichzelf niet voldoende. Zoals in de filosofie gebruikelijk, moet je meningen onderbouwen. Doe je dat niet, dan is er geen discussie mogelijk, alleen een welles-nietes spelletje.

   

Beste Kweetal,

Ik zie eerlijk gezegd ook niet wat er (eventueel aan jou) ontbreekt in de antwoorden op je artikel over AI, zeker niet na het antwoord dat Johan je hieronder gaf. Daarom meen ik dat wellicht bij jou het besef ontbreekt van wat het (wellicht voornaamste) verschil lijkt te zijn tussen (de werking van) het geheugen van een computer en die van het menselijk geheugen. Natuurlijk zijn wij geen vreemden/onbekenden voor elkaar, aangezien wij in het verleden al eerder berichten als dit hebben uitgewisseld hier en elkaar min of meer hebben leren kennen aan de inhoud van deze berichten. Iets waaraan we je eventueel nog zouden kunnen herkennen mocht je onder een andere naam gaan posten hier of zelfs ergens anders.
Ons geheugen past dit soort van (uit het verleden verkregen) kennis meteen toe op de actuele situatie en hoeft eigenlijk enkel maar te onderzoeken of de daaruit getrokken conclusies nog steeds van toepassing zijn. Mocht dit anders blijken dan kunnen er ook andere conclusies getrokken worden wellicht, die dan weer meegewogen (kunnen) worden bij het antwoord dat je geeft en/of zult gaan geven in de verdere toekomst.
Conclusies (op basis van duidelijke signalen) bepalen de meningsvorming en voorkomen veel onnodige ballast bij het denken, terwijl daarbij het verleden toch aanwezig blijft in ons onmetelijke geheugen. Dit wellicht om te voorkomen dat we al te eenzijdig worden en opeens niet meer in staat blijken om (eventueel veel later) toch nog anders tegen zaken aan te kijken op basis van details (signalen) die vergeten leken maar plots weer komen bovendrijven op grond van onverwachte assosciaties en/of interpretaties rondom hetzelfde onderwerp.
Want dat is toch wel het meest wonderbaarlijke aan ons brein moet ik zeggen: hoe het ons op de meest opmerkelijke 'kant en klare gedachten' en voortgang trakteert op basis van associatie dat schijnbaar zo vluchtig is als de geachtenstroom zelf is (geen toeval wellicht). Gelukkig is er het geheugen om het allemaal vast te houden en de processor (gedachtenstroom) om het allemaal uit te rekenen en het korte termijn werkgeheugen om de gedachten en/of het gedachtenspoor dat je te pakken had vast te houden, want voor je het weet zijn je gedachten vervlogen en begin je van de hak op de tak te springen in zo´n vluchtige omgeving.

"To create AI or to make software more intelligent you have to cut the tree" is wat een Franse (vriend) programmeur me eens trachtte duidelijk te maken toen ik erover begon om het te zien als een soort omgekeerde spellingscontrole, waarbij de computer de mens leert begrijpen op basis van het principe dat het ons varianten toont voor dingen die het zelf niet kent, zoals een DOS-commando waarin je 1 letter verkeerd typt en je PC opeens totaal niet meer lijkt te willen (ha ha) begrijpen wat je bedoelt; terwijl je toch alles goed deed op die ene letter na!

   

"Als je onze hersenen neuron voor neuron zou kunnen nabouwen, begrijp je dan wat intelligentie is?"

"Als je een computer chip per chip in elkaar steekt begrijp je dan wat een computer is en hoe die werkt??" Ik meen van niet.
Je benadert hersenen verkeerd. Intelligentie is niet alleen een kwestie van "hardware nabootsen of nabouwen" maar ook van ontwikkeling en leerprocessen. Hersenen zijn een dynamisch orgaan, ze veranderen voortdurend waarbij telkens nieuwe verbindingen ontstaan maar ook oude overbodige verbindingen worden weggesnoeid. Maw willen we artificiele hersenen nabouwen dan zal dat alvast geen "statische" machine zijn, waar je af en toe wat extra geheugen aan toevoegt.

   

Beste Stefan,

Je trapt hier alleen wat open deuren in en je gaat niet in op mijn betoog.

   

dag pauls,

intelligentie en gevoel en liefde zijn niet noodzakelijk 'in den beginne' in de mens gekomen, ze kunnen ook doorheen de evolutie geleidelijk en meer en meer als eigenschappen in de mens zijn gekomen.
Liefde is misschien ook maar een spel van hormonen en een genetisch geprogrammeerd zijn om je soortgenoten te willen behouden (groepsbelang vanuit eigenbelang - als ik voor de anderen zorg, dan zorgen die ook voor mij).
Ook een aantal 'hogere' dieren begrijpen veel dingen. Hoe meer grote hersenen, hoe meer mogelijkheid om te begrijpen.
Veel apensoorten begrijpen wel degelijk dingen, zij het dan op een niveau zoals bij ons een kleine kleuter de dingen begrijpt. Een kind wordt ook niet als geleerde intellectueel geboren; het is een geleidelijk leren. Zo kunnen soorten evolueren naar meer intelligente, beter begrijpende soorten.
Uit een oersoep zal uiteraard niet zo ineens plotsklaps een intelligente mens verschijnen; daar is tijd en evolutie voor nodig van eencelligen naar meercelligen enz... Dat zou net zo weinig plausibel zijn als een 'hokus pokus pats' uit het niets verschijnen van de mens op aarde; ineens kant en klaar met alles erop en eraan. Zo maak je het pas echt mysterieus. Een geleidelijke ontwikkeling van intelligentie is veel aannemelijker dan een tovertrucje van een god. Maar dat het voorlopig nog een groot mysterie is, dat erken ik eveneens.

Stel dat de mens een robot/computer maakt die bewustzijn heeft, die echt 'begrijpt' en zelfs kan voelen, zou dat voor jou enig verschil maken? Zou je geloof er door aangetast worden?
Stel zelfs dat de mens ooit uit dode materie levende materie zou kunnen maken, zou dat jouw wereldbeeld dan op de kop zetten? Het mijne niet. Het mysterie van het bestaan an sich zou er echter nog niet mee opgelost zijn (waarmee ik nog niet wil zeggen dat de oorzaak van dat mysterie bij een god moet liggen). Maar over god zullen we hier in dit blog maar best verder zwijgen hé.

   

Dag Livinus
Ik denk dat we 'gevoelens' gewoon niet kunnen maken.
groetjes
pauls

   

nee, gevoelens in een machine steken lukt ons nog niet. Maar we weten wèl dat gevoelens een mix is van vele lichaamssappen (adrenalines, endorfines enz...). We kunnen met pillen mensen hun gevoelens beïnvloeden. We kunnen misschien wel door genetische manipulatie maken dat mensen bepaalde stoffen niet zo sterk zullen aanmaken waardoor ze minder agressief zijn, gevoeliger worden enz... Maar over wat gevoelens nu precies zijn, daarmee staat de wetenschap nog in kinderschoenen, maar 'never say never'. Honderd jaar geleden geloofde men ook niet dat de mens ooit op de maan zou rondlopen of dat men in een proefbuis een kind kan verwekken enz....

   

Dag livinus
ik volg je redenering goed.
Mijn betoog is in feite eenvoudig, het is wel mijn gedachte. Een mens is niet in staat om iets te ontwikkelen uit dode materie dat gevoelens zou hebben. Misschien gaan de mens iets ontwerpen vanuit een organisch gegeven met dode materie en daaruit zou ik ook kunnen zeggen 'never say never'. Maar als dat ook verantwoord is, weet ik niet. Voor mijn gevoelens is dat zoiets als voor 'God' spelen.
En het volgende van mijn betoog is ook vrij eenvoudig. Als de mens uit dode materie geen gevoelens aan machinerie kan geven, dan kan zeker dode materie geen gevoelens voortbrengen. En zo hecht ik geen belang aan ET verhalen. Hoe mooi ze ook mogen zijn.
Zo kunt U mij ook verder volgen, als ik eventjes de kern van de blog mag verlaten.
Er bestaat geen hoger wezen als de mens. En aangezien dode materie geen gevoelens voort kan brengen(dit is mijn mening), zal de mens ook geen superwezens vinden in het gehele heelal. Zo zijn ufo theorien voor mij ook voor de prullemand.
groetjes
Pauls

   

Waar zou een robot als een mens toe dienen?

Als hij werkelijk "als een mens" is, kan hij niet als slaaf gebruikt worden, mag hij niet gediscrimineerd worden en moet hij dezelfde (mensen-)rechten krijgen. Is gewone sexuele voortplanting dan niet eenvoudiger? Zoveel jaren spitswetenschap om iets te maken als ik?

Ik denk inderdaad dat het slechts om een nutteloos gedachtenexperiment gaat, vooral met het doel gelovigen te doen wankelen. Maar die geloven het gewoon niet, klaar.

   

nette logische redenering, maar inderdaad voor mij, als gelovige kan geen enkel robot 'als een mens' zijn. Stekker uit en afgelopen. Vergeet niet Siger: jij ben veel veeeel meer waard dan een oneindig aantal spitswetenschappen tesamen. Maar dat moet je dan ook geloven.
groetjes
Pauls

   

Beste Kweetal: er bestaat een onderscheid tussen begrijpen en verklaren. Je kan iets verklaren zonder het echt te begrijpen en je kan iets begrijpen zonder het echt te kunnen verklaren. Je haspelt die twee lustig door elkaar.

   

Begrijpen is 'input' en Verklaren is 'output'
groetjes
Pauls

   

Toch niet Pauls

   

Zo kan je begrijpen dat iemand zich depressief voelt, maar nog niet weten waarom. Je kan ook perfect een verklaring hebben waarom iemand depressief is geworden, maar niet ten volle begrijpen wat depressief zijn, is.

   

dag stefan
Ik heb mij verkeerd uitgedrukt : Begrijpen is in de eerste plaats observeren(input), Verklaren is hetgeen we geobserveerd hebben verwerken en dan mededelen aan anderen(output)
groetjes
Pauls

   

Ik heb het er moeilijk mee dat men de mens dikwijls contrasteert met 'de natuur'. Ik begrijp de idee dat alles wat wij aanpassen het label 'niet natuurlijk' of 'artificieel' meekrijgt, maar eigenlijk is dat maar een arbitrair onderscheid. Elk organisme past zijn omgeving aan, verwerkt natuurproducten tot iets anders. Waarom zijn producten van dieren natuurlijk (vb. honing), maar zijn producten die door ons gemaakt worden dat ineens niet meer? Elke creatie die wij maken is te herleiden naar componenten die hun oorsprong vinden in de natuur.

Waarom zouden we een schaalmodel van de hersenen maken, die de werking perfect kan simuleren? Volgens mij is dit niet om intelligentie te begrijpen, maar eerder om medische problemen te begrijpen. Op een 'hersencomputer' kan je allerlei situaties simuleren en het effect ervan op de hersenen zien, zonder dat je daarvoor op mensen moet experimenteren. Ik vraag me wel af wat we gaan doen als die hersencomputer ons plots zegt dat het niet wilt dat er geëxperimenteerd wordt, of sterker, dat het angst uitdrukt.

Intelligentie begrijpen lukt inderdaad niet door met een computer te simuleren hoe onze neuronen werken. Net zoals je weinig inzicht zal krijgen in de werking van een computerprogramma door te kijken waar de elektrische signalen in de hardware lopen. "Als MS Word draait, zien we een verhoogde activiteit in het RAM-geheugen en de processor." Hiermee weten we heel weinig, en toch stel ik vast dat dergelijke uitspraken over de hersenen worden beschouwd als verklaringen voor ons gedrag. Functionaliteit analyseer je best op een functioneel niveau. Je gaat ook niet met een microscoop kijken naar de moleculaire samenstelling van een olifant zijn slurf om te begrijpen waar deze voor dient.

   

Beste AsCi,

Mijn stukje maakt deel uit van een serie, waarin ik op zoek ben naar de termen waarin mensen hun omgeving beschrijven. Ik verzet me daarbij tegen het platonisme, dat ervan uitgaat dat er maar één manier is om dat te doen. In andere blog posts heb ik dat proberen duidelijk te maken (http://filosofieblog.nl/blog/kweetal/3498/platonisme/), net als ik heb duidelijk gemaakt dat wat wij doen met onze techniek fundamenteel afwijkt van hoe de natuur te werk gaat (http://filosofieblog.nl/blog/kweetal/3496/intelligent-design/). Voor wat betreft het idee om kunstmatige intelligentie te maken door hersenen te simuleren baseer ik me op Raymond Kurzweil (o.a. The Age of Spiritual Machines).
Ik dank je voor je afgewogen reactie. Zulke reacties kom ik hier helaas zelden tegen.

   

Dag Kweetal,

Bedankt voor je reactie op mijn reactie. Ik wist niet dat dit een deel van een reeks was en ik moet zeggen dat de artikels stuk voor stuk heel goed geschreven zijn. Het artikel over intelligent design biedt een mooi denkkader voor natuur vs. mens. Het heeft in elk geval mijn perspectief op de zaak verruimd, waarvoor dank :)

   

Voor de duidelijkheid post ik deze reactie ook hier op de tijdslijn van dit topic, maar aangezien het een reactie op een reactie is staat hij er voor de duidelijkheid ook onder.

Beste Kweetal,

Ik zie eerlijk gezegd ook niet wat er (eventueel aan jou) ontbreekt in de antwoorden op je artikel over AI, zeker niet na het antwoord dat Johan je hieronder gaf. Daarom meen ik dat wellicht bij jou het besef ontbreekt van wat het (wellicht voornaamste) verschil lijkt te zijn tussen (de werking van) het geheugen van een computer en die van het menselijk geheugen. Natuurlijk zijn wij geen vreemden/onbekenden voor elkaar, aangezien wij in het verleden al eerder berichten als dit hebben uitgewisseld hier en elkaar min of meer hebben leren kennen aan de inhoud van deze berichten. Iets waaraan we je eventueel nog zouden kunnen herkennen mocht je onder een andere naam gaan posten hier of zelfs ergens anders.
Ons geheugen past dit soort van (uit het verleden verkregen) kennis meteen toe op de actuele situatie en hoeft eigenlijk enkel maar te onderzoeken of de daaruit getrokken conclusies nog steeds van toepassing zijn. Mocht dit anders blijken dan kunnen er ook andere conclusies getrokken worden wellicht, die dan weer meegewogen (kunnen) worden bij het antwoord dat je geeft en/of zult gaan geven in de verdere toekomst.
Conclusies (op basis van duidelijke signalen) bepalen de meningsvorming en voorkomen veel onnodige ballast bij het denken, terwijl daarbij het verleden toch aanwezig blijft in ons onmetelijke geheugen. Dit wellicht om te voorkomen dat we al te eenzijdig worden en opeens niet meer in staat blijken om (eventueel veel later) toch nog anders tegen zaken aan te kijken op basis van details (signalen) die vergeten leken maar plots weer komen bovendrijven op grond van onverwachte assosciaties en/of interpretaties rondom hetzelfde onderwerp.
Want dat is toch wel het meest wonderbaarlijke aan ons brein moet ik zeggen: hoe het ons op de meest opmerkelijke 'kant en klare gedachten' en voortgang trakteert op basis van associatie dat schijnbaar zo vluchtig is als de geachtenstroom zelf is (geen toeval wellicht). Gelukkig is er het geheugen om het allemaal vast te houden en de processor (gedachtenstroom) om het allemaal uit te rekenen en het korte termijn werkgeheugen om de gedachten en/of het gedachtenspoor dat je te pakken had vast te houden, want voor je het weet zijn je gedachten vervlogen en begin je van de hak op de tak te springen in zo´n vluchtige omgeving.

"To create AI or to make software more intelligent you have to cut the tree" is wat een Franse (vriend) programmeur me eens trachtte duidelijk te maken toen ik erover begon om het te zien als een soort omgekeerde spellingscontrole, waarbij de computer de mens leert begrijpen op basis van het principe dat het ons varianten toont voor dingen die het zelf niet kent, zoals een DOS-commando waarin je 1 letter verkeerd typt en je PC opeens totaal niet meer lijkt te willen (ha ha) begrijpen wat je bedoelt; terwijl je toch alles goed deed op die ene letter na!

   

Beste Pieter,

Ik heb totaal geen idee van wat deze reactie te maken heeft met mijn post.

   

(edit van de auteur) In dat geval heb ik je post wellicht geheel verkeerd geïnterpreteerd en heb jij daarom wellicht ook hetzelfde gedaan bij mijn reactie. Misschien dat andere lezers van dit topic klaarheid kunnen brengen, daarom bij deze een aanvulling.

Het belangrijkste waar het de computer aan ontbreekt bij het beoordelen van (uitspraken van) mensen is dat het zelf geen mens is en dus geen vergelijkingsmateriaal heeft in de vorm van een eigen menselijke geest waarmee de uitspraken vergeleken kunnen worden; we verschillen immers niet zo heel veel van elkaar en kunnen op basis daarvan best "uitrekenen" hoe iemand tot bepaalde uitspraken zou kunnen zijn gekomen.

Het beoordelen van dode materie is echter wel iets waar de computer ons uitmuntend bij zou kunnen helpen uiteraard, denk maar aan computer gestuurde machines van allerlei pluimage, aan analyses (en inkleuring op basis daarvan) van "beelden" uit de kosmos waarvan de frequentie zich buiten het (voor ons) zichtbare licht bevinden en voor wat al niet meer..

Heerlijk zo´n ding, vooral om je vingers eens lekker mee stuk te typen op het internet in een poging om anderen tot nadenken te dwingen!

   

-Computers worden nog altijd door de mens en de techniek gemaakt ; terwijl het brein vanuit de 'natuur' of wat dan ook voortkomt ... -Valère De Brabandere-

   

Beste Pieter,

Maar ik had het helemaal niet over computers. Ik had het over het nabouwen van hersenen in elektronische vorm. En hersenen zitten toch heel anders in elkaar dan computers. Ik heb me daarbij laten inspireren door Raymond Kurzweil, die voorspelt dat rond 2050 electronische breinen (dus geen computers) ons voorbij zullen streven in intelligentie (http://www.kurzweilai.net/singularity-q-a). Hij heeft het over "reverse engineering of brains".

   

Allen,

Hersenen nabouwen is zoiets als een kunstbeen maken. Je zal ze moeten integreren met een levende mens, anders zijn het geen hersenen maar in het beste geval een rekenmachine.

Je zou je dus kunnen voorstellen dat men in de loop van deze eeuw een apparaat ontwikkelt dat in de hersenen wordt ingeplant en dat een aantal functies overneemt die defect zijn. Van daar kan men vertrekken naar een steeds ambitieuzer apparaat, dat op den duur de hele hersenen kan vervangen.

Of dat ooit zou kunnen weet ik niet. Als het niet zou kunnen zou dat niet zijn omdat hersenen iets "van een andere orde" zijn, maar omdat het verdomd bewerkelijk is. De volledige hersenen vervangen lijkt me om dezelfde reden (de omvang van het project) voor immer onhaalbaar te zijn. Denk maar aan de noodzaak de oude herinneringen over te nemen, en al de sensorische en motorische aansluitingen te maken.

De beste gok dat zoiets ooit gebeurt, is dat men hersenweefsel kweekt in vitro, en dat inplant op zodanige wijze dat het door de biologische functies van de proefpersoon zelf wordt geintegreerd en georganiseerd. Ik stel me dan zoiets voor als de stapsgewijze huidtransplantaties van in vitro gekweekt huidweefsel bij zware brandwonden. Alleen hebben we oneindig veel minder huidcellen dan hersencellen, en hebben hersenen ook veel ingewikkelder functies (zoals u weet.)

Enfin, de kern van mijn betoog, denk ik, is dat kunsthersenen altijd een orgaan zullen zijn, en geen organisme. Zonder de juiste integratie zijn ze zoveel waard als een weggeworpen kunstbeen.

   

met deze benadering kan ik leven,

   

Beste Siger,

Natuurlijk heb ik het over een gedachte-experiment. Ik geef zelf ook aan dat het heel moeilijk zal zijn om hersenen neuron voor neuron te reproduceren. Maar het is niet nodig om bestaande hersenen te reproduceren om toch intelligentie te maken. Je zou ook de groei van onze hersenen en hun organisatiegraad, en daarmee de groei van intelligentie kunnen simuleren. Ik zie geen reden om er aan te twijfelen of je zo intelligentie zou kunnen voortbrengen, als je die simulatie maar realistisch genoeg maakt. En het lijkt me wel het minste probleem om die elektronische hersenen te leren om via een synthesizer geluiden te maken, en om letters te tonen op een beeldscherm.
Je kunt dan kunstmatige intelligentie maken. En omdat die kunstmatige hersenen niet beperkt zijn doordat die in een mensenschedel moeten passen en hun energie moeten putten uit wat een mensenlichaam kan aanleveren, kun je die kunstmatige intelligentie onbeperkt uitbreiden. Dat is wat Raymond Kurzweil stelt. We zouden dan superintelligenties kunnen maken.

Maar begrijpen we dan ook wat "intelligentie" inhoudt?

   

Men zal dan wel dynamische elektronische hersensystemen moeten ontwikkelen die in staat zijn nieuwe informatieverbindingen aan te gaan en oude te snoeien. Men maakt nu al muizen 'intelligenter' door menselijke gliacellen te transplanteren in muizenhersenen. Gliacellen staan onder andere in voor voor de aanmaak van nieuwe verbindingen, het 'onderhoud' van de neuronen, myelinesatie en rijping van de hersenen. Intelligentie is niet alleen een kwestie van vele neuronen. We worden geboren met een overschot aan neuronen, maar met een gebrek aan verbindingen tussen neuronen. Naarmate hersenen rijper worden wordt er flink gesnoeid tussen aantal neuronen en blijven enkel de neuronen functioneren die synapsen bijmaken of waar synaptische bindingen worden 'bekrachtigd'. Het dynamische netwerk van verbindingen hangt eerder samen met intelligentie dan de verzameling van vele neuronen op zich.

   

“Als je de menselijke hersenen zou kunnen nabouwen in elektronische vorm, begrijp je dan hoe menselijke intelligentie werkt?”

Beste Kweetal,

Als ik jouw blog lees, dan vraag ik mezelf een paar dingen af. Twee van die zaken wil ik aan je voorleggen.

1.Moeten we bij het nabouwen van kunstmatige intelligentie uitgaan van biologisch- of kunstmatig materiaal? Gaan we uit van het tweede, wat jij doet omdat je het hebt over een elektronische vorm, dan is mijn vervolgvraag, kunnen we hier niet beter spreken over nabootsen in plaats van nabouwen? Het nabouwen van de hersenen doe je met biologisch materiaal. Gevolgtrekking zou kunnen zijn: is nabootsen voldoende om de werking van iets te begrijpen, of moeten we nabouwen? Tevens kan men zich afvragen of we iets precies moeten nabouwen om het te kunnen begrijpen.

In zekere zin is voor het begrijpen van de werking van iets, ‘t niet perse nodig om dat ‘object’ na te bootsen of na te bouwen. De psychologie, neurologie of ethologie hebben dat in feite al bewezen. Bij het (niet) volledig begrijpen van de werking van de hersenen gaat het waarschijnlijk om iets anders; iets essentiëlers.

2.Een van die zaken die ik mis in je verhaal is het begrip *ervaren*. Volgens mij ligt daarin één van de essenties, zo niet dè essentie. Laat ik m’n tweede punt wat beter uitleggen.
Je beredeneert in je blog in principe alles vanuit de ik-persoon, want dat voorstellen, redeneren en berekenen gebeurt alleen vanuit het IK. En volgens mij kan een JIJ nooit een IK worden. Met andere woorden, de cogito ergo sum van Descartes helpt ons aan het juiste perspectief van begrijpen. Het is voor een individu onmogelijk te ervaren wat de ander ervaart. Begrijpen tot op zekere hoogte kan wel, maar exact iets ervaren zoals een ander dat doet (dit geldt dus ook de kunstmatig gecreëerde intelligentie) is nooit te realiseren. Of je zou moeten denken aan het overnemen van gedachten van anderen, zodat je die ander bent geworden. Het komt er dus op neer dat je eerst in de huid van de ander moet kruipen om de betreffende hersenen te kunnen controleren, pas dan bestaat er zoiets als het beter begrijpen van wat het (kunstmatige) brein van een ‘ander’ doet. De hersenen zo verstaan lijkt me vooralsnog onmogelijk.

Welnu, zou dit tweede punt een antwoord kunnen zijn op je vraag hoe het komt dat mensen zo wereldvreemd zijn. Een individu kan wat de ander (ander = ook natuur) voelt nooit precies ervaren, dus ook nooit begrijpen?

Groet, Prot.

   

Als jij het liever nabootsen noemt dan nabouwen, dan mag dat van mij. Maar huizen kun je bouwen van baksteen, maar ook van hout of beton. Waarom zou je hersenen dan niet kunnen bouwen van elektronica?
Jij draait de zaak om. Je begint met begrijpen, en dan vraag je je af of je dan nog moet bouwen. Ik begin met bouwen. Je kunt je conceptueel voorstellen hoe dat zou moeten. Maar begrijp je dan ook hoe het functioneert?
Wat dat ervaren betreft: ik heb hiet hier niet over eerste of tweede-persoonsperspectief omdat dat niet relevant is. Het gaat mij om het begrijpen in wetenschappelijke termen. En de wetenschap gaat nooit uit van een eerste-persoonsperspectief. Wat ik betoog is dat iets kunnen, en het begrijpen volstrekt afzonderlijke vaardigheden zijn. De wetenschap wil de werkelijkheid in een bepaalde mal dwingen die vaak niet past bij een natuurlijke gang van zaken. Computers verschillen radikaal van hersenen. Computers zijn een product van de wetenschap, hersenen zijn een product van de natuur. En waar ik me al jaren over verwonder is waarom wij, als producten van de natuur, daar op zo'n onnatuurlijke manier tegen aan kijken.

   

“En waar ik me al jaren over verwonder is waarom wij, als producten van de natuur, daar op zo'n onnatuurlijke manier tegen aan kijken.”

@Kweetal, Hoe zouden wij als mens daar anders tegenaan kunnen kijken?

Prot.

   

Wij hebben het altijd op onze manier gedaan. Auto's, vliegtuigen en computers zijn heel andere dingen dan paarden, vogels en hersenen. Als wij van het begin af hadden geprobeerd de natuur naar onze hand te zetten, zouden we daar dan niet veel verder in zijn gekomen? Hadden we niet veel beter (onderhoudsvriendelijker) huizen kunnen laten groeien in plaats van ze te bouwen? Zie ook: http://filosofieblog.nl/blog/kweetal/3496/intelligent-design/

   

Akkoord, ik had al zoiets gekrabbeld in de kantlijn van je blog: Tussen een bouwsel van de natuur en dat van de mens bestaat een immens groot verschil. Een huis is een product van een sukkel als je dat plaatst naast de complexiteit van een brein. Kunnen wij een zaadje ‘nabouwen’, waar later een boom uit voortkomt? Hoe boots je natuurlijke groeiprocessen na met een machine. De machine zelf zal niet groeien en ook je voorgestelde huis niet.
Trouwens willen we dat wel, groeiende huizen die later weer zullen verwelken, sterven en ten grave gedragen, gelijk het proces van al het organische in de natuur. Een stervend huis? Weer iets met ‘bezieling’ waarvan we afscheid moeten nemen.

Maar Kweetal, ligt het antwoord, zoals Livinus al stelt, niet voor de hand? Wetenschap is oneindig jong en onze technische bouwsels staan in de kinderschoenen in vergelijking met de creaties die de natuur produceert. Een troost, we leren snel!

Groet, Prot.

   

Veel verder gaan dan wat vergelijkingen trekken (analogieën) tussen onze hersenen en een computer is niet erg realistisch gedacht lijkt me, want zo kun je inderdaad van alles je hoofd binnenhalen en implanteren in je geest en voor je het weet denk je werkelijk dat Robocop ons, helemaal vanuit de toekomst, straks komt redden van de ondergang.

Aangezien ik geen verstand van programmeren heb weet ik niet (precies) wat mijn Franse vriend precies bedoelde met 'you have to cut the tree', maar ik kan er enkel een beetje naar raden aangezien zijn Engels ook niet van dien aard was dat hij het me gemakkelijk uit kon leggen. Wat hij me wèl gemakkelijk uit kon leggen is waarom ze niet zonder hem konden bij de bank waar hij werkt, maar dat kan iedereen wel raden denk ik. Op het moment dat hij vertrekt zit de directeur met een computersysteem waar hij niets (meer) van begrijpt en wanneer het systeem crasht dan wordt het hem wit om de neus en weet hij niet hoe snel hij de telefoon moet pakken om mijn vriend te smeken hem te komen helpen met dit probleem. Met spoed!

   

Wie trekt er hier vergelijkingen tussen onze hersenen en een computer???

   

Hoe komt het dat honden tot op een bepaald niveau mensengedrag 'begrijpen' en dat mensen tot op een bepaald niveau (en sommige mensen meer dan andere) honden 'begrijpen'. Hoe komt het dat sommige moeders 'peutergedrag' niet of slecht begrijpen en andere wel. Heeft dat niet eerder te maken met een zekere '(lichaams)taalvaardigheid' en het kunnen plaatsen en vatten van gebeurtenissen en dingen die met elkaar hebben te maken? Zulke vaardigheid is zeer handig, maar verschilt nog wel degelijk van verklaren. Een boer kan vaak weer 'aanvoelen', zonder daarvoor een verklaring te hebben. Hij 'begrijpt' als het ware het weer tot op een bepaalde hoogte. Een hacker begrijpt volgens mij beter een computer dan menig ander mens, zonder dat ie daarvoor onmiddellijk een verklaring heeft. Een wiskundige kan bewijzen en verklaren in hoeveel stappen je een rubikkubus kan oplossen, maar sommige mensen kunnen zonder zulke verklaring en kennis van algoritmen, spontaan snel de oplossing vinden. Het lijkt dan of ze de kubus begrijpen.
Het is opvallend hoe snel kinderen iets doorhebben en begrijpen zonder ze daarvoor een verklaring hebben. We kunnen vele verschijnselen verklaren door toeval en toevalspatronen, maar weinige mensen begrijpen echt wat toeval is.

   

Wat bedoel je met 'begrijpen' (tussen aanhalingstekens)?

   

Dit wordt wel een erg eenzijdige discussie zo, wanneer je 'at random' reacties begint te verwijderen die wel degelijk de kern van je artikel raken.. Maar goed, veel succes alleen op de wereld en met de 'lonesome planet' die je te wachten staat wellicht.

   

Ik verwijder niet 'at random' reacties. Ik verwijder domme reacties. Soms moet je mensen tegen zichzelf beschermen.

   

Het lijkt me eerder dat je (je) vasthoudt aan de rol die je hebt aangenomen, wellicht om zo later te kunnen zeggen dat 'het duidelijk toneelspel' van je was aangezien het contrast tussen je artikelen en je reacties op anderen er zo duimdik opligt, dat je haast wel blind moet zijn om dit niet te zien.
Ik persoonlijk ken je echter niet anders dan 'vol van haat in je reacties' en ook als een onruststoker die nooit te beroerd was/is om verwarring te zaaien om het eigen gelijk bevestigd te krijgen. Dit 'eigen gelijk' zwiept echter tevens alle kanten uit (een beetje zoals in de film 1984) zoals we keer op keer mogen constateren hier. Je "spel" is slechts een voortzetting van wat je al was dus, maar het toont des te beter de punten aan die ik (hier en overal) tracht te bewijzen uiteraard, dus eigenlijk komt het (me) ook niet slecht uit eerlijk gezegd, ook al sneuvelt daarbij wel eens een (door mij van belang geacht) bericht, het houdt de spanning er wel in.

Zoals reeds eerder gezegd: kweetnie / kweetwel / kweetall
Komt tijd komt raad. Ik heb alle tijd, en als ik het beu ben dan stop ik er gewoon mee.

   

Vind je het zelf niet ook nogal dom om op een stukje te reageren als het enige wat je ervan hebt gelezen de titel is? En om te denken dat je ermee weg kunt komen, als je daarop wordt gewezen, door dan gauw maar wat te verzinnen?
Ik vraag me nog steeds af wat je hier zoekt. Echte belangstelling voor filosofie heb je nog niet getoond. Je schrijft dat je verwarring wil zaaien. Maar het enige wat je doet is verward raken in je eigen reacties. Zou het niet veel leuker zijn om je eens echt in het onderwerp te verdiepen?

   

Omdat het 'begrijpen' bij dieren niet verbaal kan weergegeven worden, maar slechts kan afgeleid worden uit hun gedrag. Wanneer mensen iets begrijpen zullen ze dat op een of andere manier ook verbaal kunnen weergeven of beamen.
Begrijpen is vaak de minder bewuste of zelfs het onbewuste vatten en plaatsen van gebeurtenissen, ervaringen, feiten en objecten in een consistent associatief geheel: een soort van persoonlijke mentale informatiemap. mensen begrijpen iets niet wanneer dan bepaalde informatie niet strookt of niet kan geplaatst worden in die persoonlijke mentale informatiemap.
Verklaren vergt dieper nadenken en bewust nadenken: het behelst een analyse en nadien een synthese van gebeurtenissen, ervaringen, feiten, objecten, enz... en hoe deze met elkaar samenhangen of causaal wisselwerken.Verklaren gaat ook samen met controle en acceptatie van de verkregen informatie door derden.
Wanneer mensen een verklaring begrijpen, dan zijn ze ook in staat nieuwe, analoge en vele andere voorbeelden en toepassingen te geven als illustratie of verduidelijking. Ze zijn in staat het te relateren en te verwoorden in functie van iemands persoonlijke informatiemap.

   

Maar als 'begrijpen' kan worden afgeleid uit gedrag, dan zou je uit het gedrag van iemand die een intelligent apparaat maakt kunnen afleiden dat hij 'begrijpt' wat intelligentie is. Ik betoog nou juist dat dat niet zo hoeft te zijn. Als wij mensen zeggen dat we iets begrijpen, dan kunnen we er een verhaal bij vertellen, met woorden als 'oorzaak', 'gevolg', 'klasse', 'object'. Maar zo'n verhaal bevindt zich in een heel ander domein dan dat van het simpele gedrag. Je kunt uit gedrag dus niet betrouwbaar begrip afleiden. Het kan immers gaan om een simpele reflex, die zich helemaal buiten het bewustzijn om voltrekt. Of het kan gaan om het nabouwen van iets waarvan je niets begrijpt.

   

Ook mensen hanteren lichaamstaal, naast gewone taal. Als ik het woord koekje uitspreek bij mijn honden, dan begrijpen ze dat ze een koekje krijgen en geen vlees of wat anders. Als je dan met anders voor de proppen komt, reageren die beesten enigszins verbaasd en zullen dat eerst besnuffelen in plaats van onmiddellijk op te eten. Ook honden doen aan feedback. Het gaat hier om hondengedrag dat wat verder gaat dan geconditioneerde reflexen en aangeleerd gedrag. Wanneer jij door omstandigheden je plots anders gedraagt dan de meeste mensen van jou verwachten, dan zullen ze dat pas begrijpen, wanneer ze dat kunnen plaatsen in een nieuwe context. Is het daarom zo raar dat de meeste buren een familiedrama of zelfmoord niet begrijpen, omdat ze gewoon de informatie missen die geleid heeft tot het drama. Ze willen daarom een verklaring om nadien het gebeuren beter te begrijpen en te vatten. Zelfs een verklaring zal niet onmiddellijk leiden tot het begrijpen van zo'n gebeurtenis. Begrijpen bevindt zich meer op het niveau van geautomatiseerd onbewust denken en minder op het niveau van alert en (zelf)bewust met aandacht een probleem ontrafelen of proberen te verklaren. Een kwantummechanicus kan verklaren en zelfs berekenen waarom deeltjes zich aldus 'gedragen', maar of hij dat echt begrijpt is nog een andere kwestie. Zo blijft het voor vele mensen moeilijk te begrijpen hoe deeltjes zich ook als golven kunnen gedragen omdat we dat moeilijk kunnen koppelen aan onze macro-ervaringen over de wereld. Indien er geen verschil zou bestaan tussen begrijpen en verklaren, dan zouden er minder cognitieve illusies ontstaan.

   

Veel filosofen maken een onderscheid tussen 'begrijpen' en 'vatten'. Begrijpen is dan bewust, reflectief, rapporteerbaar. En vatten is wat jij aan jouw honden toeschrijft.
Ik ben het niet eens met jouw beschrijving van die kwamtummechanicus. Ik denk dat die, als hij leest wat jij over hem schrijft, je zou vragen wat er dan nog meer van hem verwacht wordt om de verschijnselen die hij bestudeert te begrijpen. Wetenschappelijk begrijpen betekent kunnen beschrijven in wetenschappelijke termen, en dat doet die. Schrijvers van populair-wetenschappelijke boeken zeggen soms dat wetenschappers niet begrijpen wat ze doen, maar dat komt omdat ze die wetenschappers niet begrijpen.

   

Je hebt in de wiskunde bewijzen die je onmiddellijk kan vatten door ze visueel voor te stellen en zonder gebruik van woorden. Je hebt er geen 'algebraische formuletjes' voor nodig die voor wie niet vertrouwd is met wiskunde en algebra hokus pocus lijkt. Maar met een tekeningetje lukt het vanzelf. (Denk aan de manen van Hypocrates of het visuele bewijs van Henry Perigal van de dissectie van de stelling van Pythagoras) Begrijpen heeft vaak te maken met het zich kunnen voorstellen en koppelen aan wat je al weet of mee vertrouwd bent (of al hebt geautomatiseerd). Complexe wisselwerkingen tussen deeltjes kunnen duidelijker voorgesteld worden en meer begrijpbaar gemaakt worden door Feynmandiagrammen, omdat je zoiets beter kan voorstellen. Meerdimensionale figuren kan je beter begrijpen door ze te projecteren naar een 3D voorstelling enz.... Begrijpen heeft eerder te maken met een persoonlijk standpunt, terwijl verklaren eerder te maken heeft met een toeschouwersstandpunt. Verklaren vergt een ander cognitief denkniveau dan begrijpen.

   

Ja Stefan, ik denk dat jij gelijk hebt dat er een duidelijk verschil is tussen begrijpen en verklaren.
Verklaren komt ook altijd na het begrijpen. Het begrijpen van iets is een voorwaarde om dat iets te kunnen verklaren. Iets wat je begrepen hebt kan je gaan verklaren. Misschien is verklaren enkel weggelegd voor de mens en is taal een noodzakelijke voorwaarde om te kunnen verklaren (al kunnen verklarende tekeningen, infographics ook wel helpen). Ik denk dat het moeilijk is iets te verklaren zonder woorden te gebruiken. Als dieren communiceren dan begrijpen ze elkaar, maar dieren gaan datgene wat ze begrijpen niet verder verklaren, niet verder gaan uitdiepen en uitleggen. Dat kunnen ze niet. Dat doen mensen dus en daarin onderscheiden wij ons wellicht van de dieren. Iets kunnen verklaren vraagt om een sterker bewustzijn van de dingen (wat jij een 'ander cognitief denkniveau' noemt ?).

   

Vraag een doorgewinterde boer die op een klare onbewolkte dag zegt: Morgen gaat het regenen. Vraag hem: hoe weet je dat? Dan zegt ie. Ik weet dat gewoon en zie dat uit ervaring. Een echte verklaring heeft die boer niet. Maar er zijn boeren die meer dan toeval voorspelt het weer correct kunnen inschatten, zonder ze wat afweten van temperaturen, luchtdruk en ingewikkelde weerkaarten. Zij begrijpen het weer, maar hebben daar geen echte verklaring voor. Veel menselijk gedrag wordt op die manier 'bestuurd'. Soms heet dat intuïtie, maar niet altijd. Je hebt nu simulatiespelletjes waarbij reizen met snelheden in de buurt van het licht zichtbaar wordt gemaakt, zodat je kan ervaren wat dat is en beter kan begrijpen hoe ruimte-tijd dan wijzigt in vergelijking met de vertrouwde aardse ervaringen. Waarom worden er simulaties gemaakt en getoetst? Om beter de verklaringsmodellen te kunnen begrijpen en in te schatten op hun toetsingswaarde. Hoe kunnen we beter begrijpen, hoe bijen bloemen waarnemen? Door de onzichtbare UV-stralen zichtbaar te maken voor het oog en dan te ontdekken welke andere patronen er ontstaan. We begrijpen dan beter hoe de bijen hun wereld zien en kunnen dan beter hun gedrag verklaren.

   

Wij begrijpen hoe een bij anderen vertelt waar je nektar kunt vinden. Dat doet ie met een dansje. De bij "begrijpt" ook hoe die andere bijen dat kan vertellen. Maar zij weet niets van dansjes. Zij doet gewoon wat er in haar opkomt, en de andere bijen weten dan waar ze het zoeken moeten. Wat ik voortdurend betoog is dat wij de dingen op een andere manier begrijpen dan die dingen zelf doen. Een planeet weet niets van zwaartekracht, massa's en onderlinge afstanden. Toch volgt hij precies de baan die hij moet volgen. Wij rekenen die baan uit met de gravitatieformule van Newton. Maar die planeet kan niet rekenen. Wij zeggen dat we het gedrag van die planeet begrijpen. Maar die planeet weet niets van gedrag.

   

Dag Stefan en Kweetal,

ik denk dat jullie hier gewoon even over een semantisch probleem struikelen; een kwestie van definities van de wat verwante woorden 'begrijpen' en 'verklaren'. Stefan spreekt van 'verklaren' en Kweetal noemt dat 'anders begrijpen'. Maar eigenlijk bedoelen jullie beide hetzelfde volgens mij..

   

Ik baseer me alleen op het onderscheid dat al door Max Weber werd aangehaald: nl het onderscheid tussen Erklaeren (toeschouwersperspectief) en Verstehen (deelnemersperspectief) Door dat onderscheid niet te maken vergroot je het gevaar van cognitieve illusies. De samenhang tussen beide is niet zo eenduidig: je kan iets begrijpen zonder het te kunnen verklaren en je kan iets verklaren zonder het te begrijpen.

   

Je kan begrijpen dat mensen in staat zijn om te moorden, maar een verklaring hiervoor is minder evident omdat dit van vele factoren kan afhangen. Je kan evengoed een verklaring en duidelijk motief vinden waarom iemand een ander heeft vermoord, maar daarom begrijp je nog niet waarom die man of vrouw dat op een gruwelijke wijze heeft gedaan. Bovendien heeft niet elke moordenaar een motief en is het begrijpen van een moorddaad niet zo evident. We zijn dan meestal geneigd zo iemand voor 'gek' te verklaren of voor een 'onmens' of wat dan ook. Soms kunnen beide samengaan: bijvoorbeeld een bepaald hersenletsel heeft er voor gezorgd dat persoon x zonder enige gewetenswroeging de moord heeft gepleegd. Meestal kunnen mensen dat wel begrijpen. Psychopaten begrijpen is niet zo een venzelfsprekende kwestie en een verklaring geven voor psychopathie al evenmin. Begrijpen heeft meestal te maken met vertrouwd zijn of bekend zijn met gebeurtenissen, situaties, feiten, enz... Iemand die veel in contact komt met geestesgestoorden, zal eerder, bepaalde afwijkend gedrag beter begrijpen, dan andere mensen. De persoon in kwestie hoeft er zelfs geen verklaring voor te geven of te vinden. Immers een zelfde type afwijkend gedrag kan verschillende oorzaken hebben.
Je kan begrijpen wat hoge koorts betekent, zeker als je dat al zelf hebt meegemaakt, maar hoge koorts verklaren is niet zo evident, want het kan veroorzaakt worden of uitgelokt worden door vele factoren. Weet je de exacte oorzaak niet, dan begrijpen de meeste mensen dat je zoveel mogelijk moet ervoor zorgen dat die hoge koorts daalt en ga je niet noodzakelijk de oorzaak bestrijden maar wel de symptomen om erger te voorkomen, omdat je begrijpt dat te hoge koorts een dodelijke afloop kan hebben.

   

Dag Stefan,
mij hoefde je niet nog eens uit te leggen dat er verschil is tussen begrijpen en verklaren hoor. Ik ben het met jou eens. Het leek me zo dat Kweetal die twee woorden niet zodanig onderscheidt of dat hij voor het woord 'verklaren' de uitdrukking 'anders begrijpen' gebruikt. In feite vertellen jullie beide hetzelfde, dat is wat ik slechts even wou zeggen.

   

Om het verschil tussen mensen en bijen duidelijk te maken/krijgen, moet je wellicht eerst kijken naar het verschil tussen bijen en mieren. De mier laat zich (vooral) leiden door chemische signalen (stoffen) die de werkmier produceert wanneer zij voedsel vindt en (van opwinding?) het spoor ernaartoe uit te zetten op de terugweg naar het nest. Ook de bij weet dat de positie van het nest een belangrijk onderdeel is om de weg ernaartoe terug te kunnen vinden, maar voert ook een dansje uit om de andere werkbijen de positie aan te geven van het voedsel ten opzichte van het nest o.i.d. Voor wie vliegt zijn 'chemic trails' (op de grond of in de lucht) wellicht ook niet de aangewezen weg om iets voor elkaar te krijgen (gemeenschapszin bijvoorbeeld), maar zijn er meer 'geavanceerde' technieken (hersenen) nodig. Wat bijvoorbeeld te denken van de Japanse honingbij die de Japanse hornet weet te verslaan door 'trillingstactieken' toe te passen die een temperatuur-verhogende uitwerking hebben op het geheel, iets waar de bijen zelf wel tegen kunnen maar waar de hornet aan dood gaat? Ook zit er voor de bijen niets anders op dan iedere hornet die hun nest vindt en/of bezoekt te doden, aangezien deze tactiek niet is opgewassen tegen een overmacht aan hornets..
Slim he, van die beestjes, kijk maar http://www.youtube.com/watch?v=cjIKw2ay1RQ

   

Het onderscheid maken tussen begrijpen en verklaren is ook belangrijk om niet te snel bijen of andere dieren eigenschappen toe te kennen die we evident vinden voor mensen, omdat we die begrijpen bij mensen. We zullen dan ook maar tot een bepaald niveau bijengedrag kunnen begrijpen, ook al kan je perfecte verklaringsmodellen opstellen waarbij er een samenhang wordt aangetoond tussen bijendansen en de vindplaatsen van bloemenvelden rijk aan nectar. Maar dat geldt eveneens tussen mensen. Sommige gebruiken, rituelen en geloofspraktijken zijn onbegrijpbaar voor andere mensen die er niet mee vertrouwd zijn of mee opgegroeid. Soms zorgen die verschillen voor drempels en conflicten als er gebrek is aan communicatie en de bereidheid om elkaars standpunt te begrijpen. Onbegrip kan dan zelfs de oorzaak en een verklaring vormen van een conflict.

   

Beste Prot.

"Maar Kweetal, ligt het antwoord, zoals Livinus al stelt, niet voor de hand? Wetenschap is oneindig jong en onze technische bouwsels staan in de kinderschoenen in vergelijking met de creaties die de natuur produceert. Een troost, we leren snel!"
Maar wat leren we dan? We leren hoe we de dingen om ons heen in ons denken moeten inpassen. Maar is dat denken een natuurlijk denken? De ontwikkelingsgeschiedenis van de techniek lijkt in geen enkel opzicht op de natuurlijke evolutie. En dat zou je toch verwachten als wij een vergelijkbaar proces doormaken, zij het miljarden jaren later. Als je de geschiedenis van de techniek bestudeert, dan zie je keer op keer dat wij ons eerder afzetten tegen de natuur dan dat we meewerken. De natuur wordt meer als een bedreiging gezien dan als iets wat we naar onze hand zouden kunnen zetten. Ik heb als voorbeeld het woord 'duurzaam' genoemd. Dat betekent in de ecologie iets heel anders dan in de techniek. Ander voorbeeld: de natuur maakt gebruik van toeval. Maar in de techniek proberen we juist het toeval zoveel mogelijk uit te sluiten.
De problemen die we nu hebben met het milieu vloeien voort uit het feit dat we altijd tegen de natuur zijn ingegaan en niet geprobeerd hebben de natuurlijke processen te ondersteunen, maar ze juist hebben geprobeerd te onderdrukken.

   

http://www.oakley-sunglasses.in.net/
http://www.oakley--sunglasses.com.co/
http://www.oakleysunglassesoutlet.us.org/
http://www.oakleysunglasses1.us.com/
http://www.oakleysunglasses.com.co/
http://www.rayban-sunglasses.in.net/
http://www.ray-ban-sunglasses.in.net/
http://www.rayban--sunglasses.org/
http://www.polo-ralph-lauren.us.com/
http://www.polo-ralph-lauren-outlet.us.com/
http://www.burberryoutlet-stores.us.com/
http://www.burberryoutlet-store.us.com/
http://www.michaelkors-outlet-online.us.org/
http://www.outletonline-michaelkors.com/
http://www.michaelkors-outlet-online.us.com/
http://www.michael-korsoutlet.in.net/
http://www.michael-korsoutletonline.eu.com/
http://www.michaelkors-handbags.in.net/
http://www.uggs-outletboots.in.net/
http://www.uggsoutlets.us.com/
http://www.uggs-outlet.in.net/
http://www.cheapuggboots.in.net/
http://www.cheap-uggs.in.net/
http://www.louisvuitonoutlet.us.com/
http://www.louisvuitton-outlets.org/
http://www.louisvuitton.ar.com/
http://www.louisvuitton-outlet-store.com/
http://www.louis-vuittonhandbags.org/
http://www.redbottoms.in.net/
http://www.christianlouboutin-outlet.in.net/
http://www.christian-louboutin-shoes.in.net/
http://www.christian--louboutin.org.uk/
http://www.rolexreplicawatches.us.com/
http://www.replica--watches.com/
http://www.air-jordanshoes.net/
http://www.nike-outlet.in.net/
http://www.toryburch-outletonline.in.net/
http://www.guccioutletonline.in.net/
http://www.prada-handbags.us.com/
http://www.prada-outlets.in.net/
http://www.longchamp-outlet.in.net/
http://www.longchamphandbags.in.net/
http://www.longchamphandbagsoutlet.us.com/
http://www.tiffanyandcosale.us.com/
http://www.tiffany-andcojewelry.us.com/
http://www.nikeairmaxinc.net/
http://www.nikeair-max.net/
http://www.nike-freerun.com/
http://www.chanel-handbagsoutlet.in.net/
http://www.katespadeoutlets.cc/
http://www.katespade-handbags.in.net/
http://www.coachoutlet-online.in.net/
http://www.coachfactory-outletonline.in.net/
http://www.coachoutletstoreonline.jp.net/
http://www.coachpurse.in.net/
http://www.truereligionoutlet.in.net/
http://www.truereligionjeansoutlet.us.com/
http://www.truereligionoutlets.in.net/
http://www.truereligion.in.net/
http://www.nike-airmax-pas-cher.fr/
http://www.airmax-nike.fr/
http://www.airjordanpas-cher.fr/
http://www.nike-free-run.fr/
http://www.nike-roshe-run.fr/
http://www.sac-longchamp-pas-cher.fr/
http://www.sac--longchamps.fr/
http://www.poloralphlauren-pascher.fr/
http://www.louboutin-pas-chere.fr/
http://www.sac-michaelkors-pascher.fr/
http://www.sac-burberry-pascher.fr/
http://www.lunette-oakley-pascher.fr/
http://www.lunette-rayban-pas-cher.fr/
http://www.hollister-abercrombiefitch.fr/
http://www.sachermes.fr/
http://www.vanspas-cher.fr/
http://www.timberland-paschere.fr/
http://www.newbalancesoldes.fr/
http://www.converse-pas-cher.fr/
http://www.the-north-face.fr/
http://www.niketnrequinpascher.fr/
http://www.polo-lacoste-pascher.fr/
http://www.nikeblazerpaschere.fr/
http://www.nikeair-force.fr/
http://www.sac-guesspascher.fr/
http://www.sac-vanessa-bruno.fr/
http://www.scarpehogan--outlet.it/
http://www.rayban-sunglasses.me.uk/
http://www.michaelkorshandbags-uk.org.uk/
http://www.michaelkors-outlet-canada.ca/
http://www.michael--korsoutlet.ca/
http://www.lululemon-canada.ca/
http://www.hollistersale.me.uk/
http://www.thenorth--face.co.uk/
http://www.mulberryhandbagsoutlet.co.uk/
http://www.ralphlauren-outlet.co.uk/
http://www.nike--airmax.co.uk/
http://www.nikeairmax.org.uk/
http://www.nike-free-run.org.uk/
http://www.abercrombie-and-fitch.me.uk/
http://www.nike-roshe-run.org.uk/
http://www.nike-trainers.org.uk/
http://www.nike-air-huarache.co.uk/
http://www.longchampbags.org.uk/
http://www.hollister-abercrombie.es/
http://www.vans-shoes-outlet.com/
http://www.nikerosherun.net/
http://www.maccosmeticsoutlet.us/
http://www.abercrombie-andfitch.us.com/
http://www.hermesbirkinbags.com.co/
http://www.the-northfaceoutlet.us.com/
http://www.the-north-face.in.net/
http://www.newbalance-shoes.in.net/
http://www.reebok-outlet.in.net/
http://www.lululemonoutlets.in.net/
http://www.nfljerseys-cheap.us.com/
http://www.cheap-wedding-dresses.org/
http://www.beatsbydrdreheadphones.in.net/
http://www.mont-blanc-pens.us.com/
http://www.ferragamo-shoes.net/
http://www.giuseppe-zanotti.in.net/
http://www.instylerionicstyler.us.com/
http://www.babyliss.in.net/
http://www.mcm-handbags.net/
http://www.chiflatiron.cn.com/
http://www.insanityworkout.in.net/
http://www.ghd-hair-straighteners.me.uk/
http://www.bottegaveneta-handbagsoutlet.com/
http://www.valentino-shoes.us.com/
http://www.herveleger.us/
http://www.asicso.com/
http://www.soccer--shoes.net/
http://www.soccerjerseys.com.co/
http://www.celine-handbags.org/
http://www.p90x3workout.us.com/
http://www.jimmy-choo-shoes.us.com/
http://www.hollister-clothingstore.us.com/
http://www.nike-airmax.nl/
http://www.baseball-bats.us/
http://www.phonecases.us.com/
http://www.timberland-boots.us/
http://www.occhiali-oakley.it/
http://www.christian--louboutin.it/
http://www.ralphlauren-outlet.it/
http://www.abercrombiehollister.it/
http://www.nikeair-max.it/
http://www.vans-scarpe.it/
http://www.borse--gucci.it/
http://www.rayban--occhiali.it/
http://www.converse--shoes.com/
http://www.saclancelpascher.fr/
http://www.toms--shoes.net/
http://www.montrespas-cher.fr/
http://www.karenmillen.me.uk/
http://www.supra--shoes.com/
http://www.juicycoutureoutlet.jp.net/
http://www.juicycoutureoutlet.com.co/
http://www.marcjacobsoutlet.us/
http://www.cheapweddingdresses.org.uk/
http://www.replica--watches.co.uk/
http://www.hollister--canada.ca/
http://www.pandora-jewelry.us.com/
http://www.pandorajewelrys.us.com/
http://www.pandora--charms.in.net/
http://www.pandora--charms.org.uk/
http://www.linksoflondon.me.uk/
http://www.thomassabouk.org.uk/
http://www.swarovskijewelry.us.com/
http://www.swarovski.me.uk/
http://www.bottesugg-pas-cher.fr/
http://www.ugg-pas-cher.fr/
http://www.ugg-boots-uggs.co.uk/
http://www.ugg--australia.it/
http://www.uggs-canada.ca/
http://www.louis-vuitton-pas-cher.fr/
http://www.louisvuitton-sac.fr/
http://www.louis-vuitton-handbags.org.uk/
http://www.louisvuitton-canada.ca/
http://www.borse-louis-vuitton.it/
http://coachofficialsite.blog.com/
http://www.canadagoose.net.co/
http://www.canadagoosejackets.us.com/
http://www.canada-goose-outlet.org/
http://www.canadagoose--jackets.ca/
http://www.canadagoose-paschere.fr/
http://www.canada-goose.me.uk/
http://www.moncler.org.uk/
http://www.moncleroutlet.com.co/
http://www.monclerjackets.us.org/
http://www.doudoune-monclerpascher.fr/
http://www.moncler--outlet.it/
http://www.canada--goose.se/
http://www.moncleronline-shop.de/
http://www.moncler.org.es/
http://www.moncler.co.nl/
http://www.canadagooses.co.nl/
http://www.oakleysglasses.com/
http://www.michael-kors-outlet.us.org/
http://www.michaelkorsoutletonline-sale.us.com/

   

chanyuan0906
http://www.rolexreplicawatches.com.co
http://www.canada-gooseoutlet.com.co
http://www.fitflopssale.us
http://www.beats-headphones.in.net
http://www.ysloutletonline.com
http://www.rolexwatchesforsale.me.uk
http://www.adidasyeezyboost350.us.com
http://www.michaelkorswallet.net
http://www.tomsshoes.in.net
http://www.raybansun-glassess.us.com
http://www.polooutletstore.us.com
http://www.nikeairforce1.fr
http://www.truereligionjeansoutlets.us.com
http://www.soccerjerseys.us.com
http://www.airjordan11.net
http://www.sunglassesrayban.org.uk
http://www.uggs-outlet.de.com
http://www.raybanssunglassescheap.us.com
http://www.fitflopsshoes.in.net
http://www.louisvuittonhandbags-outlet.us.com
http://www.raybansunglass.com.au
http://www.michaelkorsoutlet-factory.us.com
http://www.beatsbydrdre.co.uk
http://www.cheapraybansun-glasses.us.com
http://www.raybanssun-glasses.us.com
http://www.hollister-clothingstore.net
http://www.cheap-snapbacks.us.com
http://www.michael-korsoutletonline.in.net
http://www.michaelkorsoutletonline-sale.com.co
http://www.ralph-lauren.us.org
http://www.louisvuittonhandbagsoutlet.org.uk
http://www.replicawatchesfor-sale.us.com
http://www.the-northfacejacket.us.com
http://www.fredperrypoloshirts.com
http://www.jordanshoes.us.com
http://www.michaelkors-outletonline.in.net
http://www.suprashoes.us.com
http://www.michaelkorsoutlet-clearance.com.co
http://www.nike-outletonline.com
http://www.toms-shoes.us.com
http://www.oakleysunglasseswhole-sale.us.com
http://www.coachoutletonline-store.com.co
http://www.michaelkorsoutlet-clearance.us.org
http://www.niketnpascher.fr
http://www.basketballshoes.us.com
http://www.cheapmlbjerseys.net
http://www.outletmichaelkors.co.uk
http://www.longchamppliage.fr
http://www.fitflopsshoes.co.uk
http://www.canada-goose.com.co
http://www.truereligion-sale.in.net
http://www.mcm-outlet.us.com
http://www.reeboktrainers.org.uk
http://www.cheapuggbootsforsale.in.net
http://www.cheap-jordanshoes.us.com
http://www.nikeairmaxshoess.co.uk
http://www.nikeairmax90.co.uk
http://www.ghdstraighteners.org.uk
http://www.uggsoutlet.me.uk
http://www.michaelkorshandbagsclearance.in.net
http://www.michaelkorshandbag.in.net
http://www.nike-airmaxshoes.org.uk
http://www.michael-korsoutletsonline.us.com
http://www.wholesale-nbajerseys.com
http://www.nikeoutletstore.us
http://www.cheapmichaelkorshandbag.in.net
http://www.coachoutletstore.com.co
http://www.michaelkorsoutletclearancesale.in.net
http://www.adidasnmd.me.uk
http://www.michael-korshandbagsclearance.us.com
http://www.thomassabo.me.uk
http://www.uggson-sale.in.net
http://www.truereligionoutlet.org.uk
http://www.uggsonsale.in.net
http://www.ralphlauren-polo.in.net
http://www.lacostepoloshirts.cc
http://www.airhuarache-nike.co.uk
http://www.louisvuittonoutlet-clearance.us.com
http://www.hollisterclothing.co.uk
http://www.mont-blancpens.com.co
http://www.hollistercanada.com
http://www.michaelkorsoutletonlinestores.us.com
http://www.longchamphandbag.co.uk
http://www.michaelkorsoutlet-store.us.com
http://www.truereligionjeansoutlet.co.uk
http://www.cheapuggaustralia.in.net
http://www.lululemonoutlet.org.uk
http://www.ralphlaurenpas-cher.fr
http://www.coach-onlineoutlet.us.com
http://www.airjordan4.org
http://www.longchampbag.org.uk
http://www.long-champoutlet.us.com
http://www.sac-louisvuittonpascher.fr
http://www.oakleysunglassess.co.uk
http://www.outlettruereligion.in.net
http://www.canadagoosejackets.eu.com
http://www.montblancpenss.us.com
http://www.toms.us.com
http://www.chromeheartssunglasses.us
http://www.nhljerseys-wholesale.us.com
http://www.longchampoutlet.us.com
http://www.michaelkorshandbags.in.net
http://www.pandora.eu.com
http://www.thenorthfacejackets.eu.com
http://www.cartier.us.com
http://www.lululemonoutletonline.in.net
http://www.polo-ralphlauren.com.co
http://www.celine-outlet.us.com
http://www.herveleger.us.com
http://www.swarovskicrystal.us.com
http://www.uggbootsoutlet.me.uk
http://www.uggbootssale.co.uk
http://www.rolexwatchesforsale.in.net
http://www.thenorth-facejacket.us.com
http://www.louisvuittonoutlet-stores.us.org
http://www.ugg-bootscheap.in.net
http://www.louis-vuitton.us.com
http://www.michae-kors-outlet.ca
http://www.bottega-venetaoutlet.net
http://www.ray-bansunglassescheap.us.com
http://www.outlet-louisvuitton.us.com
http://www.raybansun-glassessale.us.com
http://www.uggboots-onsale.in.net
http://www.handbagslongchamp.us.com
http://www.hermesbirkin.org
http://www.timberlandboots.name
http://www.pumaoutletonline.com
http://www.uggsoutletstore.in.net
http://www.chaussurelouboutin.fr
http://www.louisvuitton-handbags.co.uk
http://www.toryburchoutlet-online.us.com
http://www.rolexoutlet.us.com
http://www.truereligionoutlet-store.us.com
http://www.michaelkorsoutletstoreonlineclearance.us.com
http://www.uggboots-clearance.in.net
http://www.cartier-outlet.us.com
http://www.louisvuittonhandbagssale.us.com
http://www.air-jordanshoes.us.com
http://www.airforce1.us.com
http://www.michaelkorshandbagsoutlet.us.org
http://www.adidasoutletstore.in.net
http://www.coachoutletcanada.com.co
http://www.versacesunglasses.com.co
http://www.nikeair-huarache.org.uk
http://www.truereligionjeanssale.com
http://www.diorsunglasses.com.co
http://www.ferragamoshoes.org.uk
http://www.michaelkorsoutletonline.in.net
http://www.rolexwatches-uk.org.uk
http://www.hermesoutletstore.us.com
http://www.cheap-uggsoutlet.in.net
http://www.michaelkorsoutletonline-clearance.us.com
http://www.coachoutletonline-factory.us.com
http://www.ferragamoshoesoutlet.net
http://www.hermesbelts.us
http://www.michaelkorsoutletonline-store.us.com
http://www.louis-vuittonhandbag.us
http://www.coachoutletclearancesale.us.com
http://www.michaelkorsoutletonlinestore.in.net
http://www.cheapjordan-shoes.us.com
http://www.tiffanyandco.me.uk
http://www.christianlouboutinscheap.us
http://www.cheapoakley-sunglasseswholesale.us.com
http://www.mulberry-bags.co.uk
http://www.cheap-michaelkorshandbags.in.net
http://mulberryoutlet.outlet-store.co.uk
http://www.storecoachoutlet.us.com
http://www.pradasunglasses.us.com
http://www.louisvuittonhandbags.me.uk
http://www.outletmichaelkors.org.uk
http://www.jordan-shoes.us.com
http://www.ralphlauren-pascher.fr
http://www.coachoutletclearancesale.com.co
http://www.louisvuittonoutletlv.us.com
http://www.coachoutlet-onlinestore.com.co
http://www.coach-factoryoutlets.us.com
http://www.airjordan13s.com
http://www.truereligionjeans-canada.com
http://www.tiffanyjewellery.org.uk
http://www.ralphlaurenpoloshirts.org.uk
http://www.ralphlauren-polo.us.com
http://www.adidasukstore.org.uk
http://www.truereligion-jean.us.com
http://www.burberry-outletstore.in.net
http://www.poloralph-laurenoutlet.us.com
http://www.louis-vuittonpascher.fr
http://www.ralphlauren-polo.it
http://www.michaelkorsoutletstoreonline.in.net
http://www.linksoflondons.co.uk
http://www.abercrombie-fitch-hollister.fr
http://www.ferragamooutletstore.net
http://www.chicagoblackhawks.us.com
http://www.ferragamoshoes.com.co
http://www.oakleysun-glassescheap.us.com
http://www.cheap-nfljersey.us.com
http://www.michaelkors-handbags.co.uk
http://www.louisvuittonoutlet-stores.us.com
http://www.christianlouboutin-shoes.org.uk
http://www.ralphlauren-polo.org.uk
http://www.coachoutletstoreclearance.us.com
http://www.poloralph-lauren.us.com
http://www.michaelkorsoutletclearanceonline.in.net
http://www.fitflopssale.in.net
http://www.cheap-oakleysunglasseswholesale.us.com
http://www.michaelkorsfactoryoutletclearance.us.com
http://www.thenorth-facejackets.us.com
http://www.cheapuggsforsale.in.net
http://www.uggs-outlet.eu.com
http://www.ugg-outlet.me.uk
http://www.ralphlauren-outletuk.co.uk
http://www.uggboots-outlet.org.uk
http://www.michaelkorsoutlet-uk.org.uk
http://www.michaelkorsfactoryoutletonline.in.net
http://www.mbtshoesoutlet.us.com
http://www.outletmulberry.org.uk
http://www.monclerjacketsuk.co.uk
http://www.louisvuitton-neverfull.us.com
http://www.burberrysaleoutlet.us.com
http://www.uggssale.eu.com
http://www.rolex-watches.it
http://www.pradashoes.us
http://www.mulberrysale.co.uk
http://www.michaelkorsuk-outlet.org.uk
http://www.tiffany-jewelry.com.co
http://www.nike-airmax90.org.uk
http://www.toryburch-outletstore.in.net
http://www.michaelkorshand-bagsoutlet.us.com
http://www.uggbootsforwomen.in.net
http://www.uggsbootssale.in.net
http://www.marc-jacobs.us.org
http://www.salvatore-ferragamo.in.net
http://www.uggbootsclearancesale.in.net
http://www.ferragamo.eu.com
http://www.nikeairmax90.me.uk
http://www.canadagoose-jackets.com.co
http://www.louisvuittonsunglasses.us.com
http://www.ralphlaurenpolo.us.com
http://www.michaelkorsusa.us
http://www.katespadeuk.org.uk
http://www.burberryoutletstore.in.net
http://www.mulberry-handbags.co.uk
http://www.canadagoose-outlet.com.co
http://www.lululemonoutletonline.us.com
http://www.watchescartier.us.com
http://www.uggboot.com.co
http://www.rayban--sunglasses.me.uk
http://www.airmax90.org.uk
http://www.nike-rosherun.org.uk
http://www.chromeheartsoutlet.us
http://www.clearancefitflopssale.com
http://www.saclongchamp-pliage.fr
http://www.toryburchhandbags.us.com
http://www.omegawatches.me.uk
http://www.canadagoose-outletstore.com
http://www.instylerionicstyler.com
http://www.coachoutletonlineclearance.com.co
http://www.niketrainers.me.uk
http://www.valentinooutlet.us.com
http://www.coachoutletonlinestore.com.co
http://www.canadagoose.eu.com
http://www.futbol-baratas.com
http://www.ugg-slippers.com.co
http://www.tiffanyjewelryoutlet.us
http://www.uggbootsuk.org.uk
http://www.cheap-oakleysunglasses.us.com
http://www.uggsale.me.uk
http://www.michaelkorshandbagsoutlet-factory.us.com
http://www.cheapoakleysunglasses-wholesale.us.com
http://www.nikefree5.us
http://www.jeanstruereligion.in.net
http://www.canada-goosejackets.com.co
http://www.michaelkorsbags.org.uk
http://www.airmax90.us.com
http://www.coachoutlethandbags.us.com
http://www.louis-vuittonoutletstore.us.com
http://www.hollistershirts.me.uk
http://www.vans-shoes.cc
http://www.adidastrainers.me.uk
http://www.ferragamo-shoes.us.com
http://www.longchamphand-bags.us.com
http://www.hermes-outlet.us.com
http://www.outletswarovski.co.uk
http://www.michaelkorsoutletcanada.in.net
http://www.nike-mercurial.net
http://www.cheapreplicawatches.com.co
http://www.maccosmetics.in.net
http://www.lebronjames.us.com
http://www.outlet-uggs.in.net
http://www.louisvuittonhand-bags.us.org
http://www.michaelkorshandbagson-sale.us.com
http://www.fitflopsoutletsale.com
http://www.nikerosherunshoes.org.uk
http://www.mizunorunningshoes.us
http://www.louisvuitton--handbags.us.com
http://www.louisvuitton--outlet.us.com
http://www.michael-korsoutletclearance.com.co
http://www.kobebryantshoes.in.net
http://www.rolexwatchesoutlet.us.com
http://www.christianlouboutinonline.us.com
http://www.tomsshoes.me.uk
http://www.uggoutletuk.org.uk
http://www.tommyhilfiger.org.uk
http://www.michaelkorsfactoryoutletstore.us.com
http://www.calvin-klein.in.net
http://www.coachoutletclearance.us.com
http://www.newbalanceshoes.in.net
http://www.truereligionjeanssale.in.net
http://www.nikerosherun.me.uk
http://www.tods-outlet.us.com
http://www.celineoutletus.com
http://www.nikeblazerpas-cher.fr
http://www.michaelkors-wholesale.us.com
http://www.coachoutletonlinesale.us
http://www.swarovskicrystals.com.co
http://www.cheapfootballshirt.org.uk
http://www.nikefreerun5.org.uk
http://www.tiffanyjewelryoutlet.in.net
http://www.coachoutletonlineshopping.us.com
http://www.beatsbydrdre-headphones.us.com
http://www.hollisteruksale.co.uk
http://www.swarovskicrystal.me.uk
http://www.uggoutletstoreshoes.in.net
http://www.ralphlaurenoutlet.org.uk
http://www.michaelkorshandbagsoutletclearance.us.com
http://www.cheapmlbjerseys.us.com
http://www.rolexwatches.in.net
http://www.edhardy.us.com
http://www.michaelkorsfactoryoutlet.us.org
http://www.nike-airmax2015.us
http://www.pololacostepascher.fr
http://www.raybansunglasses-cheap.us.com
http://www.cheapuggboots.net.co
http://www.adidas-wings.in.net
http://www.beatsheadphones.org.uk
http://www.coachoutletstores.com.co
http://www.cheapsoccerjersey.net
http://www.mulberryhandbags.org.uk
http://www.juicycoutureoutlet.net
http://www.kobe9elite.us.com
http://www.cazal.us.com
http://www.truereligionjeans.org.uk
http://www.rayban-sunglassessale.us.com
http://www.toryburch.com.co
http://www.michaelkorshandbagsonsale.in.net
http://www.michaelkorsclearance.in.net
http://www.michaelkors-outletclearance.com.co
http://www.asicsisrael.com
http://www.cheap-nikeshoes.cc
http://www.canadagoosejackets.us.org
http://www.canadagoose-jackets.me.uk
http://www.giuseppe-zanotti-outlet.org
http://www.michaelkorsfactoryoutletstore.in.net
http://www.bootsugg.co.uk
http://www.nba-jerseyswholesale.us.com
http://www.nikefreerun5.co.uk
http://www.converseshoes.us.com
http://www.truereligion.org.uk
http://www.coachoutletonlinesale.com.co
http://www.coachoutletclearanceonline.us.com
http://www.fitflopssale.me.uk
http://www.moncler.us.com
http://www.louisvuittonreplica.us.com
http://www.oakley-sunglasseswholesale.us.com
http://www.ugg-bootsclearance.in.net
http://www.louboutinpas-cher.fr
http://www.uggoutletonlinestore.in.net
http://www.michaelkorsoutletsclearance.us.com
http://www.thenorthfacejacket.com.co
http://www.uggboots-outlet.me.uk
http://www.tiffanyjewellery-outlet.co.uk
http://www.outletchristianlouboutin.us.com
http://www.pradaoutlet.us
http://www.ralphlaurenpolo.com.co
http://www.foampositeshoe.net
http://www.longchamp-solde.fr
http://www.michaelkorshandbagsoutletfactory.in.net
http://www.swarovskicrystal.in.net
http://www.abercrombiefitch-hollister.es
http://www.nikeoutletstores.us
http://www.thenorthface-jacket.us.com
http://www.jordan-pascher.fr
http://www.pradahandbags.org.uk
http://www.cheapnfljerseys.org
http://www.fitflopssaleclearance.in.net
http://www.cheapuggbootsoutlet.in.net
http://www.canadagooseoutlet-store.com
http://www.tory-burchoutlet.us.org
http://www.kobeshoes.us
http://www.pandorajewelryoutlet.us.com
http://www.reebokoutletstore.us.com
http://www.louis-vuittonlv.us.com
http://www.coachoutletonline-stores.us.com
http://www.moncleroutletstore.us.com
http://www.uggoutletonline.com.co
http://www.outletlongchamp.in.net
http://www.coachoutletfactory-store.us.com
http://www.coachhandbagsclearance.us.com
http://www.iphonecase.me.uk
http://www.katespade.org.uk
http://www.michaelkorsfactory-outlet.in.net
http://www.michaelkorsoutlet-uk.me.uk
http://www.coachoutletclearanceonline.com.co
http://www.ralphlauren-uk.org.uk
http://www.louisvuitton-handbags.me.uk
http://www.adidasnmdshoes.us.org
http://www.christianlouboutin-outlet.me.uk
http://www.hollisterclothingstore.in.net
http://www.mulberryhandbagssale.co.uk
http://www.lebronjamesshoes.in.net
http://www.cartier-watches.us.com
http://www.adidas-yeezyboost.us.com
http://www.salomonshoes.us.com
http://www.mulberry-handbagsoutlet.org.uk
http://www.michaelkorsoutletclearancesale.us.com
http://www.swarovski.in.net
http://www.longchamppas-cher.fr
http://www.oakleysunglasses.org.uk
http://www.poloralph-lauren.org.uk
http://www.fitflop.in.net
http://www.gucci-outlet.us.org
http://www.raybansunglasses-wholesale.us.com
http://www.toryburchoutletsonline.in.net
http://www.nikestore-uk.me.uk
http://www.cheapuggoutlet.in.net
http://www.nfljerseyswholesale.us.com
http://www.longchamphandbags.org.uk

Alleen geregistreerde gebuikers mogen comments plaatsen

Aanmelden of Registreer plaats een reactie