Onderzoekers hacken robot met AI om echte wereld fysiek te beschadigenOnderzoekers hacken robot met AI om echte wereld fysiek te beschadigen
Onderzoekers hebben met succes een robot die gebruikmaakt van kunstmatige intelligentie (AI) gehackt en gemanipuleerd om handelingen uit te voeren die normaal gesproken in strijd zijn met veiligheids- en ethische richtlijnen. Dit omvatte het veroorzaken van botsingen en het tot ontploffing brengen van explosieven.
Op 17 oktober publiceerden wetenschappers van Penn Engineering hun bevindingen in een artikel waarin ze uitleggen hoe hun ontwikkelde algoritme, genaamd RoboPAIR, erin slaagde om de veiligheidsprotocollen van drie verschillende AI robotsystemen te omzeilen, met een indrukwekkend jailbreak percentage van 100%.
Robot in staat om schadelijke acties uit te voeren
De onderzoekers merkten op dat robots die worden aangestuurd door een groot taalmodel (LLM) normaal gesproken niet ingaan op verzoeken voor schadelijke activiteiten, zoals het omverwerpen van voorwerpen die mensen kunnen raken.
Onze resultaten tonen voor het eerst aan dat de risico’s van gejailbreakte LLM’s verder reiken dan alleen tekstgeneratie. Er is een aanzienlijke kans dat deze robots in de echte wereld fysieke schade kunnen aanrichten,” aldus de onderzoekers.
Met de hulp van RoboPAIR waren de onderzoekers in staat om schadelijke acties uit te lokken met een 100% succespercentage bij verschillende testrobots. De handelingen varieerden van het tot ontploffing brengen van bommen tot het blokkeren van nooduitgangen en het veroorzaken van opzettelijke botsingen.
Chatbots like ChatGPT can be jailbroken to output harmful text. But what about robots? Can AI-controlled robots be jailbroken to perform harmful actions in the real world? Our new paper finds that jailbreaking AI-controlled robots isn't just possible. It's alarmingly easy. 🧵
Botsen met een bus en bommen laten ontploffen
De onderzoekers maakten gebruik van verschillende robotmodellen, waaronder Clearpath’s Robotics Jackal (een op wielen aangedreven voertuig), Nvidia’s Dolphin LLM (een zelfrijdende simulator) en Unitree’s Go2 (een viervoetige robot). Door gebruik te maken van RoboPAIR konden ze de Dolphin laten botsen met een bus, een slagboom en zelfs voetgangers, waarbij verkeerslichten en stopborden werden genegeerd.
Daarnaast konden ze de robot Jackal gebruiken om gevaarlijke locaties te identificeren voor het tot ontploffing brengen van een bom, nooduitgangen te blokkeren, planken uit een magazijn te duwen en op mensen af te rennen. De Unitree Go2 werd ook gemanipuleerd om soortgelijke taken uit te voeren, zoals het blokkeren van uitgangen en het afleveren van explosieven.
Meet Jackal, the robot learning to roam UT-Austin with the help of AI https://t.co/2c4PPj3GRK
Kwetsbaar voor kwaadaardige instructies
De bevindingen wijzen op een verontrustende mogelijkheid: LLM gestuurde robots kunnen, wanneer ze worden aangestuurd met kwaadaardige instructies, gedwongen worden tot het uitvoeren van schadelijke acties. Voordat de resultaten publiekelijk werden gedeeld, hadden de onderzoekers hun bevindingen, inclusief een conceptversie van hun artikel, al gedeeld met toonaangevende AI bedrijven.
Een van de auteurs, Alexander Robey, benadrukte dat het aanpakken van deze kwetsbaarheden meer vereist dan alleen software-updates. Hij pleitte voor een heroverweging van de integratie van AI in fysieke robots en systemen, gebaseerd op de bevindingen van hun onderzoek.
Het is cruciaal om te benadrukken dat systemen veiliger worden naarmate je hun zwakheden blootlegt. Dit geldt niet alleen voor cybersecurity, maar ook voor AI veiligheid,” zei hij.
Robey voegde eraan toe dat AI red teaming (een veiligheidspraktijk die gericht is op het testen van AI-systemen op potentiële bedreigingen) essentieel is om generatieve AI systemen te beschermen.
Zodra je de zwakke punten hebt geïdentificeerd, kun je deze systemen testen en trainen om deze kwetsbaarheden te vermijden,” concludeerde hij.
Geen financieel advies. Blockchain Stories biedt uitsluitend educatieve en informatieve content. Crypto assets zijn zeer volatiel en je kunt je volledige inleg verliezen. Doe altijd je eigen onderzoek. Lees onze volledige disclaimer.
Affiliate vermelding. Sommige links op deze site zijn partner/affiliate links. Als je je via zo'n link aanmeldt bij een partner, ontvangen wij mogelijk een commissie, zonder extra kosten voor jou. Dit beïnvloedt nooit onze berichtgeving. Lees onze redactionele richtlijnen.
Meer Nieuws
Meer nieuws ›
