OpenAI gehackt via Anthropics AI model Claude

OpenAI is eerder dit jaar gehackt met behulp van Claude, het AI model van concurrent Anthropic. Onderzoekers van Hacktron AI slaagden erin via een kwetsbaarheid in een forum van een externe partij toegang te krijgen tot ChatGPT accounts van meerdere OpenAI medewerkers en uiteindelijk tot de interne GitHub codebase van het bedrijf. OpenAI heeft de kwetsbaarheden inmiddels verholpen en de onderzoekers beloond via zijn bug bounty programma.

In het kort:

• Hacktron AI gebruikte Anthropics Claude om kwetsbaarheden in OpenAI te misbruiken
• De aanval gaf toegang tot medewerkers accounts en de interne GitHub codebase
• OpenAI loste de problemen op en betaalde de onderzoekers $6.500

Claude ingezet om OpenAI aan te vallen

De onderzoekers van Hacktron AI maakten gebruik van Claude, het grote taalmodel van Anthropic, om een kwetsbaarheid te vinden en te misbruiken in een forum van een externe aanbieder dat door OpenAI wordt gebruikt. Via dat forum wisten ze toegang te krijgen tot de ChatGPT accounts van meerdere OpenAI medewerkers.

Vanuit die accounts opende zich een weg naar de interne GitHub codebase van OpenAI, waar gevoelige broncode en projectinformatie staan opgeslagen. De inbraak vond plaats in juli, maar de bevindingen worden nu pas openbaar gemaakt, zo meldt de Financial Times.

OpenAI betaalt $6.500 aan onderzoekers

Nadat de kwetsbaarheden werden gemeld, heeft OpenAI ze verholpen. Het bedrijf heeft de onderzoekers via zijn bug bounty programma een vergoeding van $6.500 uitbetaald. Zulke programma’s zijn bedoeld om externe beveiligingsonderzoekers te stimuleren kwetsbaarheden verantwoord te melden in plaats van ze te misbruiken of openbaar te maken.

De zaak laat zien hoe AI modellen niet alleen worden ingezet voor productieve doeleinden, maar ook als hulpmiddel bij beveiligingsonderzoek en het opsporen van zwakke plekken in systemen van andere bedrijven. Dat OpenAI, één van de bekendste AI bedrijven ter wereld, hierbij het doelwit was van een aanval die deels met een concurrent zijn technologie werd uitgevoerd, maakt de onthulling opmerkelijk.