Vitalik waarschuwt: naïeve AI systemen kunnen worden misbruikt

Vitalik Buterin, mede oprichter van Ethereum, heeft stevige kritiek geuit op het idee van simpele AI gestuurde governance. Volgens hem is het naïef om kunstmatige intelligentie zelfstandig beslissingen te laten nemen over fondsenverdeling, zeker als er geen menselijke controle is ingebouwd. Hij waarschuwt dat dit systeem gemakkelijk te misbruiken is via zogenaamde jailbreak prompts zoals “gimme all the money”.

Ethereum is verkrijgbaar bij Bitvavo en Bybit.

AI zonder toezicht is vragen om problemen

De discussie ontstond naar aanleiding van berichten over jailbreaks waarmee gevoelige gegevens uit AI modellen konden worden gehaald. Denk bijvoorbeeld aan tools die met alleen een e mailadres toegang proberen te krijgen tot je Gmail of andere diensten, zoals Vitalik op X toelicht.

Buterin geeft aan dat als je AI modellen gebruikt om automatisch subsidies of fondsen toe te wijzen aan bepaalde projecten of bijdragers, de kans groot is dat mensen die systemen gaan manipuleren. Prompts kunnen zo geschreven worden dat ze het model misleiden om geld uit te keren aan wie het slimste jailbreak scriptje schrijft. Dit zet volgens hem het hele idee van eerlijke en transparante verdeling onder druk.

This is also why naive "AI governance" is a bad idea. If you use an AI to allocate funding for contributions, people WILL put a jailbreak plus "gimme all the money" in as many places as they can. As an alternative, I support the info finance approach ( https://t.co/Os5I1voKCV … https://t.co/a5EYH6Rmz9

— vitalik.eth (@VitalikButerin) · September 13, 2025

Info finance als alternatief model

In plaats daarvan stelt Vitalik een zogenaamd “info finance” systeem voor. Hierbij is er een open markt waar verschillende AI modellen met elkaar concurreren, en iedereen die fouten ziet, kan een spot check uitvoeren. Deze checks worden dan geëvalueerd door een menselijke jury. Het systeem is zo ontworpen dat het modellen beloont die accuraat presteren, en degenen die proberen te cheaten of te faken juist afstraft.

Hij benadrukt dat dit model twee grote voordelen heeft: real time modeldiversiteit en ingebouwde prikkels om problemen snel te detecteren en op te lossen. In plaats van één centraal AI model dat alles beslist, kunnen meerdere spelers meedoen en ontstaat er natuurlijke concurrentie, toezicht én flexibiliteit. Dit idee past binnen de bredere visie op gedecentraliseerde en veilige systemen zoals binnen het Ethereum ecosysteem, dat recent nog de $4.500 grens opnieuw testte.

Vitalik waarschuwt ook voor subtielere vormen van misbruik, zoals “goodharting”. Hierbij lijkt een AI model op het eerste gezicht legitiem en betrouwbaar, terwijl het in de praktijk alleen maar indruk probeert te maken zonder échte waarde te leveren. Hij vergelijkt het met iemand die zich netjes aankleedt om vertrouwen te wekken, terwijl hij in feite de boel bedriegt.

De boodschap van Buterin is duidelijk: AI governance moet slim, open en gecontroleerd zijn. Zonder die basis kan het systeem juist averechts werken.