Robots onder elkaar

Isaac Asimov

Het is inmiddels al bijna een halve eeuw geleden dat ik mijn eerste verhaal over robots heb bedacht. Sindsdien ben ik ingegaan op vrijwel elk denkbaar aspect van deze materie.

Let wel, het was niet mijn bedoeling een encyclopedie van roboteigenschappen samen te stellen; ik was zelfs niet van plan er een halve eeuw over te schrijven. Het toeval wilde eenvoudig dat ik al die tijd ben blijven leven en mijn interesse voor het concept heb behouden. En het was al even toevallig dat ik tijdens het verzinnen van nieuwe robotverhalen uiteindelijk aan zo ongeveer al het mogelijke heb gedacht. In dit zesde deel van de Robot-Cityreeks, bijvoorbeeld, is sprake van 'chemfets' die zijn ingebracht in het lichaam van de held om zich daar te vermenigvuldigen en hem uiteindelijk rechtstreekse psycho-elektronische controle te geven over de centrale computer en daarmee over alle robots van Robot City.

In mijn boek Foundation's Edge (Doubleday, 1982), legt mijn held Golan Trevize, alvorens te vertrekken in een ruimteschip, contact met een geavanceerde computer door zijn hand te leggen op een speciaal daarvoor bedoelde sensor in het bureau voor hem.

'En terwijl hij hand in hand stond met de computer versmolt hun denken...

... hij nam het vertrek waar in zijn totaliteit - niet alleen het gedeelte waarnaar hij keek, maar de volledige ruimte rondom hem en boven en beneden hem.

Hij zag elk vertrek van het ruimteschip en hij zag ook wat zich daarbuiten bevond. De zon was opgekomen... maar hij kon er rechtstreeks naar kijken zonder te worden verblind.

Hij voelde de aangename wind en de temperatuur ervan, evenals de geluiden van de wereld rondom hem. Hij bespeurde het magnetisch veld van de planeet en de minuscule elektrische ladingen op de wanden van het schip.

Hij werd het besturingssysteem van het schip gewaar... Hij wist dat als hij het schip in opwaartse richting wilde laten gaan, of draaien, of versnellen, of gebruik wilde maken van welke eigenschap dan ook, die procedure gelijk was aan het uitvoeren van de overeenkomstige handelingen met zijn lichaam. Hij hoefde het alleen maar te willen.'

Dat was de beste beschrijving die ik indertijd kon geven van een mens-computerinterface, en nu, naar aanleiding van dit nieuwe boek, krijg ik als vanzelf weer nieuwe ideeën.

Ik vermoed dat de mens voor het eerst besefte hoe hij een koppeling tussen de menselijke geest en een ander soort intelligentie tot stand moest brengen toen hij het paard had getemd en vervolgens leerde hoe hij dit dier als een soort transportmiddel kon gebruiken. Dit bereikte een hoogtepunt op het moment dat de mens zelf op het paard ging zitten en het met een ruk aan de teugels, een prik van de sporen, een por met de knieën, of gewoon met een schreeuw zijn wil oplegde.

Het is niet verwonderlijk dat primitieve Grieken, die mannen te paard zagen verschijnen in de relatief weidse Thessalische vlakten (het meest geschikte deel van Griekenland om paard te rijden), dachten dat ze één dier zagen dat de vorm had van een paardenlichaam met een menselijk bovenlijf. Zo werd de centaur geboren.

Anderzijds bestaan er natuurlijk ook 'stuntrijders'. Er zijn uiterst bekwame 'stuntmannen' die de vreemdste dingen kunnen uithalen met een auto. Ik denk dat een inwoner van Nieuw-Guinea die nog nooit eerder een auto heeft gezien waarschijnlijk zou geloven dat dergelijke stunts werden uitgevoerd door een vreemd en monsterlijk levend wezen met een menselijke verschijning in zijn buik.

Maar een mens te paard is slechts een onvolkomen samenvoeging van intelligentie, en een auto is niet meer dan een uitbreiding van de menselijke spieren met mechanische hulpstukken. Een paard kan onverwacht signalen negeren of er zelfs in wilde paniek vandoor gaan. En een auto kan het op een ongelegen moment zonder waarschuwing laten afweten.

De eenwording van mens en computer daarentegen zou waarschijnlijk veel dichter in de buurt van het ideaal komen. We kunnen daarbij denken aan een uitbreiding van de geest zelf, zoals ik probeerde duidelijk te maken in Foundation's Edge, maar ook aan een uitbreiding en intensivering van de zintuiglijke waarneming, en aan een enorme expansie van de wil.

Zou de 'twee-eenheid' onder dergelijke omstandigheden niet heel duidelijk een enkel organisme zijn, een soort cybernetische 'centaur'? En wanneer een dergelijke eenheid eenmaal tot stand is gekomen, zou het menselijke deel die dan ongedaan willen maken? Zou het menselijke deel een dergelijke breuk niet als een ondraaglijk verlies beschouwen en niet in staat zijn te berusten in de geestelijke verarming waarvoor het zich geplaatst zag? In mijn roman kon Golan Trevize zich uit vrije wil loskoppelen van de computer zonder dat dit resulteerde in negatieve bijverschijnselen, maar misschien is dat niet realistisch.

Een ander thema dat zo nu en dan opduikt in de Robot-Cityreeks is de onderlinge interactie tussen robots. Dit heeft in de meeste van mijn verhalen geen rol gespeeld, eenvoudig omdat daarin over het algemeen maar één belangrijk robotpersonage voorkwam en ik mij alleen bezighield met de interactie tussen deze ene robot en een aantal mensen.

Laten we eens stilstaan bij de interactie tussen robots onderling. De Eerste Roboticawet stelt dat een robot een mens geen letsel mag toebrengen, evenmin als hij mag toestaan dat een mens letsel wordt toegebracht door zelf geen actie te ondernemen.

Maar stelt u zich eens twee robots voor waarvan er een door onoplettendheid, onwetendheid, of bijzondere omstandigheden, duidelijk op het punt staat (zonder het zelf te weten) een mens letsel toe te brengen - en stel dat de tweede robot zich daarvan, als gevolg van een grotere kennis of een beter inzicht, wel bewust is. Zou hij niet volgens de Eerste Wet verplicht zijn om de eerste robot ervan te weerhouden dergelijk letsel toe te brengen? En als er geen enkele andere mogelijkheid bestond, zou de Eerste Wet hem dan niet dwingen de andere robot zonder aarzelen en zonder gewetenswroeging te vernietigen?

Zo introduceerde ik in mijn boek Robots and Empire (Doubleday, 1985) een robot aan wie mensen zijn omschreven als wezens die een bepaald accent hebben. De heldin van het boek spreekt niet met dat accent en daarom heeft de robot er geen probleem mee haar te doden. De robot wordt onmiddellijk vernietigd door een tweede robot.

Er bestaat een vergelijkbare situatie voor de Tweede Wet, die robots verplicht om bevelen van mensen op te volgen, als die bevelen tenminste niet in strijd zijn met de Eerste Wet.

Wanneer van twee robots er één als gevolg van onachtzaamheid of onbegrip een bevel niet opvolgt, dan moet de tweede robot dit bevel ofwel zelf uitvoeren, ofwel de eerste robot er toe dwingen dat te doen.

In een interessante scène van Robots and Empire geeft de vrouwelijke schurk een van de robots een rechtstreeks bevel. De robot aarzelt, omdat het uitvoeren van dat bevel de heldin zou kunnen verwonden. Vervolgens vindt gedurende enige tijd een woordenstrijd plaats waarin de schurk tracht haar bevel ten uitvoer te laten brengen, terwijl een tweede robot probeert de eerste te bepraten om hem duidelijker te laten inzien welk letsel hij de heldin daardoor zal toebrengen. Hier zien we een geval waarin de ene robot de andere dwingt om de Tweede Wet op een meer correcte wijze te gehoorzamen en daarbij een mens het hoofd te bieden.

Maar het is de Derde Wet die het meest ingewikkelde probleem veroorzaakt wanneer het gaat om de onderlinge interactie tussen robots.

De Derde Wet stelt dat een robot zichzelf moet beschermen zolang dat in overeenstemming is met de Eerste en de Tweede Wet.

Maar stel nu eens dat er twee robots in het spel zijn? Houden die zich dan allebei alleen maar bezig met hun eigen voortbestaan, zoals een letterlijke interpretatie van de Derde Wet zou doen vermoeden? Of zou elk van de robots de behoefte voelen om de ander te helpen zichzelf te beschermen?

Zoals gezegd deed dat probleem zich bij mij nooit voor zolang ik mij bezighield met slechts één robot per verhaal. (Soms kwamen er wel andere robots voor, maar die personages waren duidelijk van ondergeschikt belang - het waren niet meer dan lansiers, bij wijze van spreken.)

Maar in The Robots of Dawn (Doubleday, 1983) en daarna in het vervolg Robots and Empire, voerde ik twéé robots op die even belangrijk waren. Een van hen was R. Daneel Olivaw, een humaniforme robot die niet eenvoudig was te onderscheiden van een mens en al eerder een rol had gespeeld in The Caves of Steel (Doubleday, 1954), en het vervolg daarop, The Naked Sun (Doubleday, 1957). De andere robot was R. Giskard Reventlov, die een meer conventionele metalen verschijning had. Beide robots waren in die zin geavanceerd dat hun geest even complex was als de menselijke.

Het waren deze twee robots die betrokken waren bij de ruzie rondom de schurk, lady Vasilia. Het was Giskard die - zo wilde het plot nu eenmaal - door Vasilia werd bevolen om niet langer Gladia (de heldin) te dienen, maar haar. En het was Daneel die er hardnekkig voor pleitte dat Giskard aan de zijde van Gladia zou blijven.

Giskard bezit de gave om in beperkte mate de geest van mensen te beïnvloeden en Daneel wijst erop dat Vasilia in het belang van Gladia's veiligheid moet worden overmeesterd. In de samenvatting ('de Nulde Wet') trekt hij zelfs het nut van de mensheid in twijfel om een dergelijke actie kracht bij te zetten.

Daneels argumenten verzwakken het effect van Vasilia's bevelen, maar niet voldoende. Giskard aarzelt weliswaar, maar kan niet tot handelen worden gedwongen.

Hoe dan ook, Vasilia besluit dat Daneel te gevaarlijk is; zijn argumenten zouden Giskard kunnen overtuigen. Daarom geeft ze haar eigen robots het bevel Daneel te inactiveren en vervolgens gebiedt ze Daneel zich niet te verzetten. Daneel kan niet anders doen dan het bevel gehoorzamen en Vasilia's robots doen hun werk.

Maar op dat moment komt Giskard in actie. Vasilia's vier robots worden uitgeschakeld en zijzelf zakt weg in een slaap die haar alles doet vergeten. Later vraagt Daneel aan Giskard om uitleg van het gebeurde.

Giskard zegt: 'Vriend Daneel, toen Vasilia de robots beval u te ontmantelen en bovendien een duidelijk genoegen toonde bij dat vooruitzicht, ging het gevaar waarin u verkeerde zozeer boven de Tweede Wet dat in zekere zin de Eerste Wet ging gelden. Het waren de combinatie van de Nulde Wet, psychohistorie, mijn loyaliteit aan lady Gladia, en uw nood die mij aanzetten tot actie.'

Daneel stelt vervolgens dat het feit dat hij in gevaar verkeerde (hij is tenslotte maar een robot) Giskard absoluut niet had mogen beïnvloeden. Giskard is het daar uiteraard mee eens, maar toch zegt hij:

'Het is een vreemde zaak, vriend Daneel. Ik weet niet hoe het kon gebeuren... Maar op het moment dat de robots op u af kwamen en lady Vasilia haar primitieve genoegen uitte, hergroepeerden mijn elektronische schakelingen zich op ongekende wijze. Heel even zag ik u als een mens - en handelde ik dienovereenkomstig.'

Daneel zei: 'Dat was verkeerd.'

Giskard zei: 'Dat weet ik. En toch - en toch, als het weer zou gebeuren, geloof ik dat opnieuw dezelfde ongekende verandering zou plaatsvinden.'

En Daneel kan zich niet aan de indruk onttrekken dat als de situatie andersom zou zijn geweest, hijzelf op precies dezelfde wijze zou hebben gehandeld.

Met andere woorden, de robots hadden een mate van complexiteit bereikt waarin ze het onderscheid tussen robots en mensen begonnen te verliezen, waarin ze elkaar als 'vrienden' konden zien en de drang voelden om elkaars leven te redden.

Het lijkt erop dat er nog een stap moet worden genomen - een stap waarbij robots zich bewust worden van een solidariteitsgevoel dat uitstijgt boven alle Roboticawetten. Ik speelde met dat idee in mijn korte verhaal Robot Dreams, dat ik had geschreven voor mijn boek Robot Dreams (Berkley/Ace, 1986).

Hierin kwam een robot voor die droomde dat robots tot slaaf gemaakte wezens waren en dat het zijn taak was hen te bevrijden. Het was maar een droom, en uit het verhaal bleek verder niet dat de robot in staat zou zijn zichzelf te bevrijden van de Drie Wetten en vervolgens aan te zetten tot een robotoproer (en al evenmin dat het de robots zomaar zou lukken hem te volgen.)

Niettemin is alleen het idee al gevaarlijk, en de robotdromer wordt onmiddellijk geïnactiveerd.

De robots van William F. Wu hebben niet zulke radicale ideeën. Ze hebben echter wel een samenleving gecreëerd die betrokken is bij het welzijn van haar leden. Het is een genoegen om te zien hoe Wu dit thema ter hand neemt en zijn eigen verbeelding loslaat op het omgaan met en het oplossen van de problemen die zich aandienen.