‘IEDEREEN OP AARDE ZAL STERVEN’, WAARSCHUWT TOPONDERZOEKER AI ELIEZER YUDKOWSKY
Bron: RT News | foto: Eliezer Yudkowsky een vooraanstaande Amerikaanse AI-onderzoeker
De mensheid is niet voorbereid een veel slimmere kunstmatige intelligentie tijdens een confrontatie te kunnen overleven, zegt Eliezer Yudkowsky.
Het stopzetten van de ontwikkeling van geavanceerde kunstmatige intelligentiesystemen over de hele wereld en het streng straffen van degenen die het moratorium schenden, is de enige manier om de mensheid voor uitsterven te behoeden, zo waarschuwt een vooraanstaande AI-onderzoeker. Eliezer Yudkowsky heeft woensdag in een opiniestuk voor het tijdschrift TIME uitgelegd waarom hij een petitie niet heeft ondertekend waarin hij “alle AI-laboratoria oproept om de training van AI-systemen die krachtiger zijn dan GPT-4,” een multimodaal groot taalmodel dat eerder deze maand door OpenAI is uitgebracht, onmiddellijk voor minstens zes maanden te onderbreken.
Yudkowsky, medeoprichter van het Machine Intelligence Research Institute (MIRI), stelde dat de brief, ondertekend door onder meer Elon Musk en Steve Wozniak van Apple, “te weinig vraagt om het probleem van de snelle en ongecontroleerde ontwikkeling van AI op te lossen.” “Het meest waarschijnlijke resultaat van het bouwen van een bovenmenselijk slimme AI, onder alles wat ook maar in de buurt komt van de huidige omstandigheden, is dat letterlijk iedereen op aarde zal sterven,” schreef Yudkowsky.
Het overleven van een confrontatie met een computersysteem dat “niets om ons geeft of medemenselijkheid toont in het algemeen” zou “precisie, voorbereiding en nieuwe wetenschappelijke inzichten” vereisen die de mensheid op dit moment ontbeert en waarschijnlijk niet zal verkrijgen in de nabije toekomst, stelde hij. “Een voldoende intelligente AI zal niet lang beperkt blijven tot computers,” waarschuwde Yudkowsky.
Het is feitelijk nu al mogelijk DNA-strings naar laboratoria te mailen om eiwitten te produceren. De AI is waarschijnlijk al in staat “kunstmatige levensvormen te bouwen of rechtstreeks over te stappen op post biologische moleculaire fabricage” en de wereld in te gaan.
Volgens de onderzoeker moet er onmiddellijk een onbepaald en wereldwijd moratorium op nieuwe grote AI-opleidingen worden ingesteld. “Er kunnen geen uitzonderingen worden gemaakt, ook niet voor regeringen of militairen”, benadrukte hij. Er moeten internationale afspraken worden gemaakt om een plafond te stellen aan de hoeveelheid rekenkracht die iemand mag gebruiken om dergelijke systemen te trainen, benadrukte Yudkowsky.
“Als inlichtingen zeggen dat een land buiten de overeenkomst een GPU (graphics processing unit) cluster bouwt, wees dan niet bevreesd voor incidenten tussen naties, maar eerder voor het schenden van het moratorium door kwaadwilligen; wees dus eerder bereid zo een malafide datacenter te vernietigen door desnoods een luchtaanval in te zetten,” schreef hij.
