AI-onderzoekers waarschuwen voor risico op mensheid

Meerdere AI-onderzoekers van toonaangevende bedrijven hebben deze week ernstige zorgen geuit over de veiligheid van geavanceerde kunstmatige intelligentie. Een onderzoeker van Anthropic stelt dat er meer dan 10% kans is dat AI binnen het volgende decennium tot de dood van alle mensen kan leiden.

In het kort:

• Onderzoekers van Anthropic, OpenAI en Google DeepMind waarschuwen voor existentiële AI-risico’s
• Eén onderzoeker geeft aan dat AI-bedrijven roekeloos handelen en rechtstreeks naar superintelligentie werken
• Volgens meerdere onderzoekers ontbreekt het momenteel aan plannen om alignment-problemen op te lossen

Onderzoeker verlaat Anthropic

Een onderzoeker die drie jaar lang aan pretraining onderzoek werkte bij zowel OpenAI als Anthropic, verliet deze week Anthropic. Hij stelt dat geen van beide bedrijven verantwoord handelt en dat ze razendsnel richting zelfverbeterende superintelligentie gaan.

Zijn kritiek werd bevestigd door collega’s bij dezelfde bedrijven. Een onderzoeker die zich bezighoudt met AI alignment bij Anthropic beaamt dat het team oprecht gelooft dat AI iedereen op aarde kan doden, en stelt dat de kans hierop groter is dan 10% binnen tien jaar.

Meerdere onderzoekers uiten bezorgdheid

Een ander onderzoeker die in juni Google DeepMind verliet, ondersteunde deze waarschuwingen volledig. Volgens hem geloven veel onderzoekers dat ze werken aan iets wat iedereen op de planeet zou kunnen doden. Dit was letterlijk onderdeel van zijn dagelijkse werk.

De gezamenlijke waarschuwingen suggereren dat binnen de AI-industrie ernstige twijfels bestaan over het vermogen om geavanceerde systemen veilig te houden. Onderzoekers wijzen erop dat hoewel Anthropic zich maximaal inspant, er momenteel geen plan bestaat om alignment problemen voor superintelligentie op te lossen en duidelijk geen vooruitgang wordt geboekt.