Existential Risk Observatory
Organisatie-informatie
Het Existential Risk Observatory is een Nederlandse NGO (stichting) met als doel om de kans op existentiële risico’s te verminderen. Existentiële risico’s zijn risico’s met een kleine kans, maar een extreem hoge impact, zelfs zodanig dat het menselijk voortbestaan erdoor bedreigd zou worden. Voorbeelden van dit soort risico’s zijn kernoorlogen met nucleaire winter, extreme pandemieën en extreme klimaatverandering. Naast deze relatief bekende existentiële risico’s, zijn er ook existentiële risico’s die met de ontwikkeling van nieuwe technologie samenhangen, zoals artificial general intelligence (AGI) en nanotechnologie. Volgens recent onderzoek van het Future of Humanity Institute in Oxford is de totale geschatte kans dat een dergelijk existentieel risico de komende honderd jaar voorkomt circa één op zes[1].
Het bestaan van dit onacceptabel hoge risico, en het bestaan van existentiële risico’s die samenhangen met nieuwe technologie zoals AGI, krijgt in het Nederlandse maatschappelijk debat nog weinig aandacht. Op dit moment zijn er slechts enkele artikelen over in de Nederlandstalige pers verschenen. In de Angelsaksische pers is het debat hierover al verder, maar ook daar bestaan er niet meer dan een paar honderd publicaties.
Het Existential Risk Observatory denkt dat we geen optimaal antwoord op existentiële risico’s kunnen geven zolang dit nog het exclusieve domein van academici, CEOs en technologen is. Wij zijn van mening dat er in plaats daarvan een brede maatschappelijke discussie noodzakelijk is om de inzet en mogelijke risico’s van nieuwe, verstrekkende technologieën openbaar te bespreken en af te wegen. Juist de worst case verdient hierin aandacht. Daarom heeft het Existential Risk Observatory als doel om existentiële risico’s te verkleinen door het informeren van het maatschappelijk debat.
[1] Ord, Toby, Oxford University. The precipice: existential risk and the future of humanity. Hachette Books, 2020.