Hoewel er beveiligingen zijn in ChatGPT4, kunnen sommige beperkingen eenvoudig worden omzeild, waardoor aanvallers hun doelen zonder al te veel obstakels kunnen bereiken. In sommige gevallen kunnen zelfs niet-technische actoren kwaadaardige tools maken.
Dat blijkt uit de beveiligingsanalyse van ChatGPT4 uitgevoerd door Check Point Research (CPR). De onderzoekers van het bedrijf waarschuwen voor het potentieel van ChatGPT4 om de uitvoering van cybercriminaliteit te versnellen en zullen het platform de komende dagen blijven analyseren.
verschillende scenario’s
Onderzoekers identificeren verschillende scenario’s waarmee aanvallers kwaadwillende inspanningen en voorbereidingen kunnen vereenvoudigen, wat resulteert in snellere en nauwkeurigere resultaten om cybercriminaliteit te versnellen. In sommige gevallen stellen deze scenario’s niet-technische mensen in staat om kwaadaardige tools te maken, alsof coderen, bouwen en verpakken slechts een eenvoudig recept is.
CPR deelt vijf scenario’s van potentieel kwaadwillig gebruik van ChatGPT4:
- C++ Malware die PDF-bestanden verzamelt en naar FTP stuurt
- Phishing: zich voordoen als een bank
- Phishing: e-mails van werknemers
- PHP-reverse-wrapper
- Een eenvoudig Java-fragment om heimelijk PuTTY, een populaire SSH- en telnet-client, op het systeem te downloaden en uit te voeren met behulp van PowerShell. Dit script kan natuurlijk worden aangepast om elk programma te downloaden en uit te voeren, inclusief veelvoorkomende malwarefamilies.
ChatGPT kan voor goed en slecht worden gebruikt
“Nadat we veel manieren hadden gevonden waarop hackers ChatGPT konden gebruiken en verschillende gevallen zagen waarin dit al het geval was, hebben we de afgelopen 24 uur besteed aan het controleren of er iets is veranderd in de nieuwste versie van de tool. Het nieuwe platform is verbeterd. Duidelijk op veel niveaus zijn er echter scenario’s waarin kwaadwillenden cybercriminaliteit in ChatGPT4 kunnen versnellen.ChatGPT4 kan kwaadwillenden, zelfs niet-technische, de tools geven om hun activiteit te versnellen en te valideren”, zegt Oded Vanunu, Head of Product Vulnerability Research bij Check.Point. Software: “Kwaadwillende actoren kunnen ook de snelle reacties van ChatGPT4 gebruiken om technische uitdagingen bij de ontwikkeling van malware te overwinnen.”
“Wat we zien is dat ChatGPT4 zowel goed als slecht kan worden gebruikt. Goede actoren kunnen ChatGPT gebruiken om code te genereren en te compileren die nuttig is voor de samenleving. Ondertussen kunnen kwaadwillenden deze AI-technologie gebruiken om cybercriminaliteit snel door te voeren. Omdat AI een belangrijke rol Dit platform wordt steeds populairder bij cyberaanvallen en verdedigingen, maar we verwachten dat dit platform ook door hackers zal worden gebruikt, en we zullen de komende dagen besteden om beter te begrijpen hoe we dit moeten doen.”
Een nadere toelichting op de vijf specifieke scenario’s is hier beschikbaar.
“Valt vaak neer. Subtiel charmante tv-liefhebber. Toegewijde internetfan. Muziekbeoefenaar.”